08-DAIMON-93-(web)

Plataformización, automatización y aceleración
en los medios sociales

Platformization, automation and acceleration in social media

RAÚL TABARÉS GUTIÉRREZ*

Recibido: 12/04/2024. Aceptado: 26/06/2024.

* Dr. Raúl Tabarés es investigador senior en la Fundación TECNALIA RESEARCH & INNOVATION donde trabaja en la intersección entre digitalización, política y cultura. También es profesor asociado en el Máster de Retos Filosóficos de la Universitat Oberta de Catalunya. En la actualidad, su investigación está estrechamente relacionada con las culturas digitales y la innovación responsable.

Resumen: La etapa de la “Web 2.0” despertó numerosas ilusiones sobre el potencial de los medios sociales para renovar y extender los espacios de deliberación, discusión y emancipación política de la ciudadanía. Sin embargo, la concentración empresarial que siguió al establecimiento de unas pocas plataformas como intermediarios culturales en el espacio digital ha propiciado diferentes reacciones en contra. Este ensayo presenta los principales problemas de los medios sociales para la discusión y deliberación. En particular, el texto aborda tres factores constituyentes de los mismos: la plataformización, la automatización y la aceleración. Se argumenta que estos factores presentan grandes dificultades para el desarrollo de espacios de deliberación en la red.

Palabras clave: Plataformización, inteligencia artificial, desinformación, censura, extremismo online, moderación de contenidos.

Abstract: “Web 2.0” period raised several expectations about the potential of social media to renew and extend spaces for deliberation, discussion and political emancipation of citizenship. However, business concentration that followed the establishment of a few platforms as cultural intermediaries in the digital space has led to backlash from different fields. This essay presents the main problematics associated to social media for discussion and deliberation. In particular, three constituent factors are identified: platformization, automation and acceleration. It is argued that these factors present great difficulties for the development of deliberative spaces in online environments.

Keywords: Platformization, artificial intelligence, misinformation, censorship, online extremism, content moderation.

1. Introducción

La aparición de diferentes medios sociales (del inglés “social media”) tales como blogs, wikis y redes sociales, durante el periplo conocido como “Web 2.0”1 despertó diferentes ilusiones y esperanzas sobre el potencial de este tipo de entornos online para renovar y extender los espacios de deliberación, discusión y emancipación política de la ciudadanía a través de las tecnologías digitales (Shirky, 2008; Surowiecki, 2005; Tapscott & Williams, 2006). Sin embargo, y pasado el optimismo inicial asociado a esta etapa, la concentración empresarial que favoreció el establecimiento de unas pocas plataformas como intermediarios culturales en el espacio digital ha propiciado numerosas reacciones en contra desde diferentes ámbitos (Gillespie, 2018; Poell et al., 2021; York, 2022).

Esta concentración empresarial se vio facilitada por la “Gran Recesión” y los grandes flujos de capital que se articularon en favor de los incipientes servicios basados en la Web, tales como motores de búsqueda, comercios electrónicos, etc., los cuales consolidaron un paradigma empresarial basado en negocios de intermediación apoyados en las posibilidades de Internet, comúnmente conocidos como “economía de plataformas” (Srnicek, 2017; van Dijck et al., 2018). Entre estos servicios se encuentran espacios de comunicación, expresión y discusión online (redes sociales, blogs o wikis) que monetizan la atención que depositan sus usuarios en diferentes contenidos, ostentando actualmente posiciones oligopolísticas o monopolísticas a través de empresas como Facebook, Twitter, Instagram o YouTube.

Estos medios sociales han estado involucrados en diversos escándalos asociados a la compañía Cambridge Analytica, cuyas actividades han influido en la debilitación de procesos democráticos, referéndums y elecciones, en Trinidad y Tobago, Reino Unido y Estados Unidos. Dichos episodios han puesto de relevancia el papel que los medios sociales ejercen como una amenaza real para la democracia (Bail, 2022; Gillespie, 2018; Poell et al., 2021; York, 2022). La percepción de los medios sociales ha ido evolucionando desde un optimismo inicial asociado a la etapa de la “Web 2.0” (Shirky, 2008; Tabarés, 2021; van Dijck, 2013), hacia una preocupación por la proliferación de la desinformación (Muirhead & Rosenblum, 2019), la creación de burbujas de opinión (Pariser, 2011), la radicalización y el extremismo online (Bail, 2022) o la censura (Roberts, 2019; York, 2022). Más recientemente, el desarrollo de nuevas formas de automatización en la creación de contenidos en el espacio online a través dela inteligencia artificial generativa (IAG) mediante “Large Language Models2” (LLMs) ha permitido el desarrollo de innovaciones como ChatGPT, Gemini o Co-Pilot. Estas innovaciones presentan nuevos retos y amenazan con reforzar las problemáticas asociadas a los medios sociales (Stahl & Eke, 2024; Franganillo, 2023).

A través de una revisión narrativa de la literatura, este ensayo aborda tres características de la idiosincrasia de los entornos deliberativos online: la plataformización, la automatización y la aceleración como factores constituyentes de los medios sociales, que presentan grandes dificultades para el desarrollo de espacios de deliberación en la red. En el texto se aborda cada uno de estos factores por separado y se argumenta que el actual desarrollo de la IAG, focalizado en unas pocas plataformas y enmarcado en una lógica de “carrera armamentística”, contribuye a fortalecer y extender las problemáticas asociadas a los medios sociales, inhabilitando en muchos casos los entornos online como espacio de reflexión y discusión.

El texto se articula de la siguiente manera: la siguiente sección identifica las tres problemáticas identificadas anteriormente. A continuación, el texto se centra en el análisis de los tres factores constituyentes del desarrollo de los medios sociales; plataformización, automatización y aceleración. Posteriormente se analiza cómo estos tres factores presentan formidables barreras para la discusión y reflexión en los entornos online, antes de explicar por qué la IAG contribuirá a empeorar la situación y cerrar el texto con unas breves conclusiones.

2. Problemáticas asociadas a los medios sociales

Si bien la aparición de los medios sociales como blogs, wikis y redes sociales fue aplaudida y ensalzada durante el periodo de “Web 2.0” como una oportunidad para renovar y extender los espacios de deliberación, discusión y emancipación política de la ciudadanía a través de las tecnologías digitales (Shirky, 2008; Surowiecki, 2005; Tapscott & Williams, 2006), lo cierto es que pasado este optimismo inicial, los medios sociales han sido criticados ampliamente por diversas problemáticas asociadas a su desarrollo y operativa.

Uno de los primeros problemas a los que se han asociado los medios sociales es la habilitación y el fomento de la desinformación (Bail, 2022; Gillespie, 2018), la cual está íntimamente relacionada con las teorías de la conspiración clásicas en las que se tratan de proveer de “explicaciones alternativas” a hechos controvertidos desde el punto de vista político. Esta desinformación más clásica se ha visto renovada por las nuevas oportunidades que ofrecen los medios sociales, las cuales no se basan en explicaciones alternativas, sino en el apoyo a diferentes teorías e ideas a través del apoyo de un gran número de usuarios y/o bots que contribuyen a su difusión y promoción a través de la creación y distribución de contenido relacionado (Muirhead & Rosenblum, 2019).

Además, el desarrollo de los medios sociales se ha asociado comúnmente al establecimiento de “filtros de burbuja” (Poell et al., 2021; Vaidhyanathan, 2018). La creciente personalización que se produce en los medios sociales, permite ofrecer resultados personalizados a diferentes usuarios de manera simultánea. Esta creciente personalización del contenido posee la contrapartida de que se evita la exposición del usuario a información que no está alineada con sus intereses y preferencias, reforzando sus puntos de vista y posiciones ideológicas, sin que éste entre en contacto con información contraria a sus ideas y valores (Pariser, 2011); una exposición necesaria en democracia, pues supone la aceptación y el respeto de ideas y posiciones ideológicas diversas. De igual manera, el riesgo a que los usuarios sean manipulados crece con los filtros de burbuja. Estos son utilizados por campañas de desinformación intencionadas que persiguen influir a la ciudadanía en diferentes procesos políticos. La normalización del extremismo online representa otra problemática de los medios sociales. (Bail, 2022). La radicalización de posturas se produce través del intercambio de opiniones y mensajes con usuarios que comparten posiciones, y al mismo tiempo, tienden a ver a sus contrarios de un modo más alejado de sus posiciones de lo que realmente están. Este extremismo puede conllevar también a una “falsa polarización”, es decir la sobrerrepresentación en el espacio online de minorías extremistas que son muy visibles debido a una actividad reseñable mediante la creación de contenido, comentarios, publicación de fotos, etc., y la movilización de dicho contenido en los medios sociales. Colectivos de extrema derecha y/o negacionistas del cambio climático, además de promotores de teorías conspiranoicas constituyen algunos ejemplos de esta falsa polarización, que también provoca que usuarios con posiciones más moderadas desistan o reduzcan sus interacciones en los medios sociales debido al riesgo de ser vejado en los entornos online (Bail, 2022).

Finalmente, los medios sociales han tenido que lidiar con la moderación de contenidos (Gillespie, 2018; Roberts, 2019). Se trata de una problemática difícil de solucionar debido a la escalabilidad y dimensión de estas plataformas que usualmente incorporan a millones de usuarios por todo el mundo. Para atajar este problema se han desarrollado técnicas de moderación de contenidos automatizadas apoyadas en IA. Estas técnicas monitorizan palabras clave y/o imágenes que involucran expresiones ofensivas y/o imágenes indecorosas con relación a los términos de referencia que articulan las políticas de plataformas como Facebook o YouTube.

Pese a ello, los medios sociales han contribuido al desarrollo de una industria auxiliar precaria e infrarremunerada en torno a la moderación comercial de contenidos y que normalmente se encuentra localizada en países del sur global como Filipinas, Sudáfrica o la India (Perrigo, 2023; Roberts, 2019). Países que culturalmente guardan una cercanía con la lengua y cultura anglosajonas, y que son las dominantes en este tipo de medios sociales. Esta cercanía es necesaria para poder evaluar correctamente las particularidades del lenguaje, tales como dobles sentidos, expresiones populares, alegorías, etc. (Gillespie, 2018). En palabras de Sarah T. Roberts, los profesionales de la moderación de contenidos comercial“ son remunerados para revisar los contenidos subidos a los medios sociales en nombre de las compañías que facilitan las aportaciones de sus usuarios. Su trabajo es evaluar y decidir si el contenido online generado por los usuarios debe mantenerse o borrarse” (Roberts, 2019, 1).

Esta definición parece indicar que estos profesionales afrontan el dilema de mantener o borrar contenidos, pero la realidad es más complicada ya que dichos contenidos se pueden mantener acotando su visibilidad, impidiendo respuestas, etc. Recientemente, diferentes autores han señalado críticamente la censura que ejercen los medios sociales en Internet a través de esta moderación de contenidos (Gillespie, 2018; Poell et al., 2021; York, 2022). Gracias al gran poder que han ido acumulando con el paso del tiempo, plataformas como Facebook o Twitter, se han convertido en los guardianes y vigilantes de la información que millones de usuarios suben a sus plataformas, ostentando la potestad de censurar e invisibilizar ciertos temas que pueden ir en contra de sus “términos de referencia”, ser contrarios a sus intereses comerciales o que puedan crear problemas de índole geopolítica.

En los últimos años diversos medios sociales han implementado mecanismos de geoposicionamiento en sus contenidos para restringir el acceso a contenidos promovidos por disidentes en países como Pakistán o Egipto (York, 2022). Otro ejemplo de esta censura es la que se ha producido en torno a los pechos de las mujeres en plataformas como Facebook e Instagram, donde ha habido varias campañas por parte de usuarias para la abolición de esas restricciones de contenido que afectaban a imágenes de mujeres que practicaban la lactancia materna (Gillespie, 2018). Una censura que tiene implicaciones culturales, como la inhibición de determinados comportamientos que pueden moldear a la sociedad hacia actitudes más conservadoras y al mismo tiempo promover estereotipos idealizados de género.

3. Tres factores constituyentes de los medios sociales

3.1. Plataformización

Las bases de la plataformización se asientan durante el periodo conocido como “Web 2.0”, las cuales no son sólo tecnológicas, sino también empresariales, legales y culturales para el desarrollo de un tipo de organización empresarial que se conocerá posteriormente como “plataforma” (Gillespie, 2010). A través del desarrollo de “aplicaciones web”, se promueve una mayor facilidad de uso e involucración del usuario no especializado3 en la creación, edición y distribución de contenidos en la web, promoviendo activamente la figura del prosumidor (Gutiérrez, 2015; Tapscott & Williams, 2006), es decir, un usuario que consume y genera contenidos. Simultáneamente, se empieza a experimentar activamente con modelos de negocio alrededor de este nuevo tipo de usuarios, que surgen en los medios sociales, asentándose posteriormente diferentes estrategias de monetización de estos espacios online a través de diferentes fórmulas y cuyo valor principal recae en la capacidad de recoger, analizar y reutilizar los datos y metadatos que producen estos usuarios en las plataformas (Gutiérrez 2015; van Dijck, 2013). Estos espacios suelen tener un acceso y uso gratuito y ello conlleva la necesidad de innovar en los modelos de negocio, al igual que en las tecnologías que los hacen posibles.

Esta plataformización es clave a la hora de ejercer diferentes roles de intermediación en una amplitud y diversidad de sectores tales como la publicidad, la educación, la movilidad, el consumo, el turismo o el entretenimiento, entre otros (Poell et al., 2021; Srnicek, 2017). Estos roles de intermediación adoptan a su vez posiciones monopolísticas u oligopolistas, no sólo desde el punto de vista tecnológico o económico, sino también desde una dimensión cultural.Las plataformas digitales han pasado a ser referentes sociales para diversas generaciones, especialmente en cuestiones que tienen que ver con la identidad online, la exposición pública, el intercambio de ideas, la discusión, el debate y el acceso a la información (Van Dijck et al, 2018; Gillespie, 2018; York, 2022). Los medios sociales han conformado un espacio virtual que algunos autores han denominado “infoesfera” (Floridi, 2014), o, incluso, “tercer entorno” (Echeverría, 1999; Echeverría & Almendros, 2023) , para resaltar la importancia de un contexto informacional superpuesto al entorno físico o material, legal y social, reconfigurando el mundo en el que vivimos de manera radical. La acumulación de poder por parte de los medios sociales ha centrado el interés de una considerable literatura académica que recoge sus implicaciones en el plano cultural, político, económico, tecnológico y social (Gillespie, 2010, 2018; Poell et al., 2021; Srnicek, 2017; van Dijck et al., 2018; York, 2022).

La plataformización se posibilita a su vez por una serie de desarrollos e infraestructuras tecnológicas orientadas a facilitar la interacción y generación de datos (de forma voluntaria) y metadatos4 (de forma involuntaria) por parte de los usuarios, fomentando valores como la conectividad, la modularidad o la interoperabilidad en el desarrollo tecnológico (Helmond, 2015). Diversas tecnologías Web como Ajax, Flash, HTML5, CSS3 o Javascript soportan la plataformización, pero sobre todo nuevas formas de conexión e integración digital como la API5 orientadas a generar RIAs6 que transforman los servicios Web tal y cómo se conocen, incorporando elementos multimedia, abriendo nuevas posibilidades de interacción con los usuarios, aumentando el tiempo y dedicación de los usuarios en estos entornos y recolectando una mayor cantidad de datos y metadatos de los usuarios (Poell et al., 2021; Tabarés, 2018).

Pero esta plataformización no se limita a factores técnicos, sino que engloba también factores sociales, organizativos, corporativos, políticos y mediáticos con los que las plataformas digitales buscan un posicionamiento en la esfera pública como intermediarios neutrales y que no estaban presentes en anteriores formas de organización empresarial (Gillespie, 2010). Las plataformas digitales combinan las características de un mercado horizontal (por ejemplo, los efectos de red presentes en Internet) con la verticalidad y jerarquía propia de las empresas privadas. Durante la época de la Web 2.0, este modelo de plataforma adquirió una serie de connotaciones positivas desde un punto de vista social, al albor de otros fenómenos e ideas que surgen en paralelo como la “inteligencia colectiva” (Surowiecki, 2005; Shirky, 2008), la “economía colaborativa” (Sundararajan, 2016) o el “consumo colaborativo” (Tapscott & Williams, 2006).

Por último, esta plataformización facilita el desarrollo de activos críticos para los medios sociales, por ejemplo, los diversos algoritmos propietarios y tecnologías de IA que se posibilitan a través de los datos y metadatos recolectados y el desarrollo de nuevas estructuras de computación dedicadas en la nube (Poell et al., 2021; van Dijck et al., 2018).

3.2. Automatización

El éxito de los medios sociales en la Web y el número creciente de usuarios en dichos entornos conlleva una mayor automatización en los entornos online. A través del desarrollo e implementación de diferentes elementos que favorecen la automatización en el tratamiento de la información, principalmente del uso de diferentes algoritmos, se abre las puertas a la gestión automatizada de esta información. Los algoritmos hacen posible la gestión automatizada de los millones de usuarios que suelen albergar los medios sociales, facilitando y extendiendo, además, la captura, recopilación, procesamiento, gestión y reutilización de los datos y metadatos que los usuarios generan en la interacción con estos entornos, ya sea de forma voluntaria o involuntaria (Srnicek, 2017; Tabarés, 2018; van Dijck et al., 2018).

Los algoritmos constituyen activos muy valiosos, ya que pueden aprender por sí mismos e identificar nuevas vías de innovación en forma de conocimiento, oportunidades y servicios que pueden permitir a los medios sociales mantener su posición en el mercado y mejorar su competitividad (O´Neill, 2017). Así, el desarrollo de nuevas funcionalidades en estos entornos suele estar directamente relacionado con el análisis de datos y metadatos, donde el papel de estos algoritmos es crucial. Por ejemplo, servicios como Google Trends7 permiten conocer cuáles son las tendencias de búsqueda en un periodo concreto para un país o región determinado, así como explorar las razones de dichos comportamientos en la población, para proveer soluciones que puedan dar respuesta a dichas demandas en un futuro cercano.

Al mismo tiempo, los algoritmos son importantes instrumentos de poder para los medios sociales. A través de las clasificaciones y categorías que se posibilitan en estos entornos, contribuyen a reorganizar el orden social (Noble, 2018). Esta recategorización es visible en plataformas como Twitter, donde a través de los “hashtags” o etiquetas, el usuario puede conocer cuáles son los temas que más atención recaban por parte de los usuarios en un determinado momento. Atención que estas plataformas son capaces de rentabilizar a través de publicidad contextualizada y segmentada en función del tipo de usuarios que acceden a estos temas de conversación, y que constituye la principal fuente de ingresos para medios sociales como Twitter o Facebook. Una publicidad cada vez más digitalizada y donde los grandes presupuestos de diferentes marcas de consumo explotan las posibilidades del entorno online, no sólo a través de estas compañías, sino de figuras emergentes en estos entornos como los “influencers”.

Por otro lado, los algoritmos también juegan un papel crucial en diferentes tipos de plataformas orientadas a la discusión, debate y deliberación online. Con el desarrollo y popularización de diferentes tecnologías de “Big Data” e IA, la mayoría de las plataformas han ido implementando progresivamente técnicas de moderación automatizadas (Gillespie, 2018; Poell et al., 2021). Técnicas de IA que se basan en “Machine Learning” (aprendizaje supervisado por humanos) o “Deep Learning” (sin supervisión) y que son críticas para el desarrollo de herramientas automatizadas que puedan identificar lenguaje ofensivo, contenido pornográfico, noticias falsas, propaganda o materiales susceptibles de atentar contra la dignidad humana, tales como violaciones, actos terroristas, mutilaciones, etc.

El 19 de agosto de 2014 representa una fecha señalada en relación con estas herramientas automatizadas. En esa fecha la organización terrorista ISIS divulgó, en YouTube, un vídeo sobre la decapitación del periodista James Foley. Las imágenes dieron la vuelta al mundo en pocas horas, revelando la debilidad de los medios sociales para evitarlo y enfatizando la necesidad de desarrollar herramientas mucho más avanzadas para controlar la difusión de contenidos dañinos (Gillespie, 2018; Poell et al., 2021). El creciente escrutinio público al que se sometieron los medios sociales, también con motivo de las elecciones estadounidenses a la presidencia en 2016, y de otros escándalos que han salpicado posteriormente a varios medios sociales (por ejemplo, en los atentados de Cristchurch en Nueva Zelanda) han obligado a adoptar medidas conjuntas en el sector. Por un lado, se han incrementado los esfuerzos para desarrollar una industria auxiliar de moderación de contenidos a costa del trabajo humano infrarremunerado y precario en países del sur global. Por otro, las plataformas han implementado diferentes técnicas de moderación de contenidos automatizadas (Gorwa et al., 2020).

Las técnicas automatizadas explotan las posibilidades de las tecnologías de IA existentes para localizar palabras que vayan en contra de “términos de referencia” y políticas asociadas a determinadas plataformas, a través del procesamiento natural del lenguaje, o contrastando imágenes con bases de datos existentes, para intentar frenar la entrada de contenidos. Sin embargo, la opacidad legal (por derechos de propiedad intelectual de los algoritmos empleados), técnica (la ausencia de auditorías algorítmicas a estos sistemas) y de gobernanza (por cómo se formulan las políticas y términos de referencia que luego se ejecutan a través de los algoritmos) imposibilita una mayor transparencia en cómo se llevan a cabo estas prácticas de moderación automática de contenidos.8 En los últimos años, además, ha habido presiones políticas de regímenes autoritarios que han condicionado la operativa de los medios sociales en ciertos países a diferentes políticas, añadiendo una mayor opacidad y complejidad a su funcionamiento (York 2022).

3.3. Aceleración

Junto a la plataformización y automatizaciones causadas por las estructuras organizativas y tecnológicas que se han descrito anteriormente, existe una tercera capa constituyente de los medios sociales: la aceleración provocada por la ruptura de la relación espacio-tiempo . Esta ruptura ha sido objeto de análisis por autores como Manuel Castells (1997). En su famosa trilogía sobre la era de la información, Castells explica cómo dichas tecnologías facilitan el acceso a la información en cualquier lugar y a cualquier hora, desdibujando los límites temporales y espaciales. Así mismo, también enfatiza la “constante conectividad” para referirse a la centralidad del entorno informacional digital (Echeverría, 1999; Echeverría & Almendros, 2023; Floridi, 2014).

Aquí empleamos el término “aceleración” para indicar que esta brecha espaciotemporal representa también un factor constituyente de los medios sociales La aceleración está muy presente en las dinámicas de interacción que se facilitan en estos espacios online, donde se incita al usuario a consumir diversos contenidos a través de los famosos “muros” (del inglés “timeline”) y de ruletas de contenidos (el famoso “scrolling”), que imitan el funcionamiento de las máquinas tragaperras, con el objetivo de capturar la atención del usuario el máximo tiempo posible. Además, los medios sociales incitan comúnmente a los usuarios a compartir continuamente sus pensamientos e ideas (el famoso ¿qué está ocurriendo?), así como a reaccionar a los contenidos de otros usuarios (me gustas , favoritos o “retuits”) y generar conversaciones alrededor de los contenidos de otros usuarios con inmediatez para que se puedan viralizar dichos contenidos (prueba de ello son los famosos concursos online donde se incita al usuario a participar a través de un comentario y otras acciones adicionales).

El pensador alemán Hartmut Rosa (2016, 2019) ha prestado especial atención a la aceleración que se produce en el espacio online. Rosa ha dedicado considerables esfuerzos a desarrollar una teoría crítica de la temporalidad en la modernidad tardía, y a explicar cómo la aceleración social presenta grandes problemas para la realización de una buena vida, además de ser una considerable fuente de alienación social. Este autor documenta la velocidad e intensidad con la que se desarrollan los procesos sociales en la actualidad; dinámicas que provocan una crisis de la experiencia debido a que los individuos no tienen tiempo material para vivir plenamente las experiencias que abordan por el régimen temporal en el que se circunscriben. Esta aceleración causa una sensación de alienación y desapego, debido al consumo compulsivo de experiencias. Rosa identifica tres fuentes de aceleración: la tecnológica (referida al desarrollo de tecnologías que permiten cubrir mayores distancias y comunicarse más rápidamente) la del cambio social (principalmente en torno a las relaciones en el trabajo y la familia y su carácter cada vez menos estable) y la del ritmo de vida (por agregación de las otras dos y referida principalmente a la presión que sienten los individuos por hacer más cosas en menos tiempo en diferentes ámbitos).

Los medios sociales constituyen una gran fuente de aceleración tecnológica, pues introducen nuevas tecnologías e innovaciones en sus respectivos entornos para captar la atención de sus usuarios a través de estas nuevas funcionalidades y favorecer la generación, consumo y distribución de contenidos(Gutiérrez, 2015; Tabarés, 2021). Por este motivo, muchos de los medios sociales hoy en día disponen de grandes inversiones y programas de investigación en tecnologías emergentes como la IA o el metaverso9.

Al mismo tiempo, también promueven la aceleración del cambio social, animando a los usuarios a compartir su privacidad, tanto en el ámbito familiar como el laboral. Así, por ejemplo, han surgido prácticas de “sharenting” en las que los progenitores crean narrativas de vida y desarrollo infantil mediante fotos, vídeos y/o textos. Esta exposición pública no está exenta de controversias y problemáticas y actualmente es también motivo de investigación por las implicaciones sociales y éticas respecto a menores. De igual modo, la exposición mediática de los logros individuales y/o colectivos en el entorno laboral también ha sido un tema recurrente en el desarrollo de los medios sociales, con el lanzamiento de aplicaciones sociales específicas para el entorno laboral, tales como Linkedin, Yammer o Slack. Exponer públicamente los diferentes logros laborales, así como mostrar el grado de ocupación que se atesora se ha convertido hoy en día en un símbolo de estatus (Wajcman, 2020). Sin embargo, también hay problemáticas asociadas a esta aspiración a estar constantemente ocupados, con la aparición del denominado síndrome de “burnout” (traducido como “síndrome del trabajador quemado”) y que se erige como uno de los males más ilustrativos de la obsesión actual de la sociedad por la productividad y la eficiencia, en la que los medios sociales también juegan un papel importante (Han, 2012).

Por último, los medios sociales contribuyen innegablemente a la aceleración del ritmo de vida, no sólo por la exposición mediática a la que dotan a las experiencias de vida de sus usuarios, sino también porque contribuyen a un acelerado consumo de estas experiencias, íntimamente asociado al modelo de negocio en el que se basan y que no es otro que la publicidad hiper-segmentada (Gutiérrez, 2015; Poell et al., 2021; Tabarés, 2021; van Dijck et al., 2018). De esta manera, y a través de diferentes tecnologías basadas en los datos que se recogen y analizan en los medios sociales, se realizan asociaciones entre los contenidos que los usuarios de estos medios sociales publican, comentan, y/o comparten, con los servicios y productos que anuncian diferentes empresas y marcas comerciales. Por ello, los medios sociales se han convertido en un entorno que favorece la aceleración del consumo de productos y servicios que gozan de una gran exposición mediática en el entorno online.

4. ¿Discusión y deliberación en medios sociales?

Como se ha señalado en el texto, la plataformización, automatización y aceleración son tres factores constituyentes claves para el desarrollo, escalabilidad y consolidación actual de los medios sociales, posibilitando posiciones de oligopolio o monopolísticas decisivas para la congregación de miles de millones de usuarios en sus respectivos entornos informacionales. Sin embargo, estos tres factores constituyentes presentan significativas problemáticas para promover la deliberación y la discusión en el entorno online. A continuación, se exponen cuáles son las problemáticas que acarrean estos tres rasgos para la discusión y deliberación en los entornos online (tabla resumen 1).

En primer lugar, la plataformización es un factor limitante de las posibilidades para la discusión y deliberación en los entornos online, ya que los usuarios que deciden crear contenido, comentar contenido de otros, crear un grupo de debate o participar de una conversación, deben de hacerlo en torno a los términos de referencia que plantea el medio social en cuestión. El papel de estos términos de referencia siempre es controvertido, ya que son lo suficientemente abiertos para no restringir casi ningún tipo de ideal, pero al mismo tiempo su aplicación y puesta en práctica, a través de la moderación de contenidos, puede ser tremendamente restrictivo (Gillespie, 2010, 2018; Poell et al., 2021; York, 2022). Ciertos episodios como los mencionados anteriormente en el texto en torno a las imágenes de madres que tratan de fomentar la lactancia materna compartiendo fotografías mundanas y que han sido objeto de censura por parte de estos medios sociales, ilustran el poder que atesoran los medios sociales a la hora de definir los términos del debate y los temas a discutir.

Además, estos términos de referencia no son estables y sufren diferentes tipos de actualizaciones, revisiones y/o modificaciones con mucha frecuencia y de manera aleatoria, que responden a nuevas funcionalidades técnicas, requerimientos legales y/o diferentes controversias, pero que en ningún caso son explicados de manera apropiada a sus usuarios. Es decir, no ofrecen ningún tipo de marco normativo estable para los usuarios de estos servicios. Por otro lado, también es importante resaltar que las conversaciones que suceden en un medio social en particular, no se pueden extender más allá de los límites de ese medio social en cuestión. La conversación global y fragmentada que se produce en Facebook no puede extenderse a Twitter, sino que la misma persona debe abrir diferentes perfiles en los diferentes medios sociales, mostrando un estilo de conversación diferente y adaptándose a las particularidades de los diferentes entornos, con el objetivo de maximizar la viralidad de dichos contenidos. Por ello, algunos autores mencionan como esta fragmentación del usuario (y la persona) en la Web da lugar a una fragmentación social (Vaidhyanathan, 2018) que ofrece diferentes versiones de uno mismo (Bail, 2022) y que presenta problemas ontológicos de cara a la representación de la persona en el medio online (Echeverría & Almendros, 2023).

En segundo lugar, la creciente automatización a la que asistimos en los medios sociales tiene varias implicaciones para una cultura de discusión y deliberación en los entornos online. Como ya hemos visto, el uso de herramientas de moderación de contenidos automatizadas es controvertido por el reduccionismo que se ejerce al limitar las problemáticas socioculturales que afloran en los medios sociales a la prohibición de ciertos términos y/o imágenes (Gillespie, 2018; Roberts, 2019). Este reduccionismo, unido a la falta de información sobre el empleo de estas técnicas y la opacidad que existe alrededor de ellas, dificulta la evaluación de su eficacia e imposibilita análisis externos que puedan delimitar hasta qué punto pueden ser sustitutivas de la moderación de contenidos humana. Así mismo, no hay instrumentos o instituciones externas que puedan auditar dichas prácticas (Gorwa et al, 2020).

El auge de la IA y la IAG ha visto como esta moderación de contenidos humana también se ha desplazado al etiquetado y filtrado de datos con las que se entrenan los LLMs (Perrigo, 2023). El objetivo de estas actuaciones consiste en prevenir que modelos de IAG como ChatGPT o Gemini reproduzcan lenguaje ofensivo, discriminatorio o los sesgos propios que podemos encontrar en multitud de páginas web donde la libertad de expresión es llevada a sus límites como Reddit, y donde muchos de los estereotipos, prejuicios y sesgos existentes en las sociedades occidentales son explicitados. Estos sitios web son también los que comúnmente se utilizan en el entrenamiento de estos sistemas, ya que por otro lado son ricos en estructuras lingüísticas comunes, vocabulario informal y gozan de una gran riqueza léxico-gramatical. Aspectos clave a la hora de que una IA pueda reproducir de una forma probabilística y fiable los aspectos comunicativos clave en una conversación con un usuario.

Por último, y quizás de manera más preocupante que respecto a los dos anteriores factores constituyentes, la aceleración que se promueve en este tipo de entornos online supone una gran barrera para el intercambio de opiniones de manera reposada y reflexiva. La lógica comercial que reside de manera subyacente a las infraestructuras tecnológicas posibilitadas por los medios sociales no recompensa los intercambios con dilación, sino con premura (Rosa, 2016). Así, el contenido que se viraliza y que se hace popular en un determinado medio social es aquel que atrae la atención de un mayor número de personas en un espacio de tiempo más reducido. Es decir, se premia la reacción e interacción mundana con el contenido, pero no la reflexividad, la crítica o la meditación. Funciones, todas ellas, que requieren de tiempo para pensar y actuar. Algo que los medios sociales no facilitan ni habilitan, con su continuo dinamismo en los muros de los usuarios, favoreciendo contenido recientemente creado por diferentes usuarios, que capturen la atención del mismo y favorezcan sus reacciones en forma de “me gustas” o “retuits” (Vaidhyanathan, 2018).

Factores constituyentes de los medios sociales	Problemáticas para la discusión y deliberación online
Plataformización	• Limitaciones del debate en torno a los términos de referencia y políticas específicas. • Inestabilidad en los marcos normativos del debate y censura puntual. • Compartimentación y fragmentación de la conversación y el debate.
Automatización	• Reduccionismo y limitaciones en la moderación de contenidos. • Opacidad y falta de transparencia en los instrumentos de moderación de contenidos. • Propagación de sesgos y estereotipos.
Aceleración	• Consumo acelerado y compulsivo de contenidos. • Carencia de espacios y tiempos para la reflexión. • Viralización y sobreexposición de contenidos emocionales.

Tabla 1. Problemáticas asociadas a los factores constituyentes de los medios sociales. Elaboración propia a partir de la revisión bibliográfica.

5. La IA, una intensificación de la plataformización, automatización y aceleración de los medios sociales

La popularización de los medios sociales y su creciente centralidad en la sociedad ha sido clave en el desarrollo de innovaciones de IA como Siri. Este tipo de innovaciones han sido posibilitadas por técnicas de IA basadas en “deep learning” que posibilitan que los sistemas de IA aprendan de una dieta de información de manera incontrolada y de múltiples tipos de datos (Tabarés, 2020). Este tipo de interfaces conversacionales también han sido objeto de una gran revolución a través de los LLMs y las arquitecturas de computación “Transformer” en las que se basan (Stahl & Eke, 2024). Modelos de IA que son entrenados en base a un ingente número de corpus lingüísticos procedentes de Internet y la Web, tales como la Wikipedia y que han sido claves para el desarrollo de innovaciones como ChatGPT (Open AI), Gemini (Google) o Copilot (Microsoft).

Estos chatbots interactúan con el usuario a través de “prompts” o mensajes de texto en los que se realizan consultas por parte del usuario, a partir de los cuales el sistema es capaz de generar textos, imágenes o incluso vídeos. Estos sistemas asignan una probabilidad a un determinado “token10” que puede ser un término o un pixel determinado. Su funcionamiento se basa en predecir el próximo término que seguirá a otro de manera probabilística, y de esta manera son capaces de generar textos largos, traducirlos a otros idiomas, resumirlos, etc. Sin embargo, como todo sistema basado en la probabilidad, no están libres de errores. En particular, estos sistemas cuentan con mensajes en su interfaz de usuario en los que se resalta que pueden proveer de información errónea al usuario, además de que heredan en muchas ocasiones los sesgos existentes en los corpus lingüísticos existentes en Internet y la Web, y en ciertos casos donde tienen incertidumbres probabilísticas, directamente se la inventan (las denominadas “alucinaciones”).

Es de prever que la irrupción de la IAG en el entorno online contribuya a agravar las problemáticas asociadas a los medios sociales que hemos descrito anteriormente, tales como la desinformación, la creación de burbujas de opinión, la radicalización y el extremismo online o la censura (Franganillo, 2023). Estas nuevas innovaciones permiten el desarrollo de “deepfakes11” (vídeos falsos de personas que aparentemente son reales), facilitan el desarrollo de campañas de desinformación a gran escala por su capacidad de generación de textos e imágenes, pueden favorecer la manipulación y suplantación de identidad por el uso de lenguaje persuasivo, y en algunos casos convincente, así como la implementación de autocensura en estos sistemas en relación a diferentes términos controvertidos que directamente se eliminan para favorecer su uso por un número mayor de usuarios.

Sea como fuere, los tres factores constituyentes de los medios sociales que hemos analizado en este texto, ya se están viendo reforzados, y es muy probable que vayan a ser extendidos en el futuro. La reciente carrera armamentística en la que parece que se ha convertido el desarrollo de la IA, y de la IAG en particular, refuerza la lógica de la plataformización, ya que solamente unas pocas compañías en el mundo pueden permitirse desarrollar estos sistemas. Solo aquellas que disponen de la ingente cantidad de datos necesaria para su entrenamiento, de los costosos recursos computacionales que se requieren para su desarrollo y del personal especializado que desarrolla los algoritmos que procesan toda la información con la que se entrenan (Stahl & Eke, 2024). Al mismo tiempo, la automatización en los medios online también se verá reforzada con el uso de la IAG en ellos, ya que ChatGPT y otras innovaciones ofrecen diferentes potencialidades a la hora de automatizar ciertas tareas y su uso en las redacciones periodísticas y en el marketing ya es un hecho. Por último, la IAG permitirá una velocidad mayor a la hora de generar y difundir contenidos, ya sean de texto o multimedia, contribuyendo a incrementar la aceleración en los medios sociales (Franganillo, 2023).

Conclusiones

Este artículo ofrece un repasado por las principales dificultades que plantean los medios sociales para la discusión y deliberación online, desde la proliferación de la desinformación (Muirhead & Rosenblum, 2019), la creación de burbujas de opinión (Pariser, 2011) la radicalización y el extremismo online (Bail, 2022) o la censura (Gillespie, 2018; Roberts, 2019; York, 2022). A partir de estas problemáticas, el trabajo identifica factores constituyentes de los medios sociales –la plataformización, la automatización y la aceleración–, y los pone en relación con el cuestionamiento de que los medios sociales favorezcan una cultura de la discusión y deliberación. La fragmentación, la falta de transparencia, el reduccionismo, la inestabilidad y la falta de reflexibilidad representan los impedimentos fundamentales. El artículo argumenta que el desarrollo de la IA, y en particular de la IAG, refuerza la plataformización,automatización y aceleración de los medios sociales deteriorando su potencial como espacios de reflexión y discusión online.

Como solución, se ha resaltado el papel de la regulación para promover prácticas más transparentes, auditables y responsables por parte de la industria de los medios sociales. A pesar de que la entrada en vigor de la “Digital Services Act”12 supuso un primer paso, es necesario avanzar en esta línea para intervenir en un sector que posee una gran influencia cultural en la sociedad y dispone de grandes implicaciones para el futuro de nuestras sociedades democráticas.

Referencias

Bail, C. (2022). Breaking the social media prism: How to make our platforms less polarizing. Princeton University Press.

Castells, M. (1997). La Era de la Información. Vol I: La Sociedad Red. Alianza.

Echeverría, J. (1999). Los señores del aire: Telépolis y el tercer entorno. Destino.

Echeverría, J., & Almendros, L. S. (2023). Tecnopersonas: Cómo nos transforman las tecnologías. Ediciones Trea.

Floridi, L. (2014). The fourth revolution: How the infosphere is reshaping human reality. Oxford University Press.

Franganillo, J. (2023). La inteligencia artificial generativa y su impacto en la creación de contenidos mediáticos. methaodos.revista de ciencias sociales, 11(2), m231102a10. http://dx.doi.org/10.17502/mrcs.v11i2.710

Gillespie, T. (2010). The Politics of Platforms. New Media & Society, 12(3), 347–364. https://doi.org/10.1002/9781118321607.ch28

Gillespie, T. (2018). Custodians of the Internet: Platforms, content moderation, and the hidden decisions that shape social media. Yale University Press.

Gorwa, R., Binns, R., & Katzenbach, C. (2020). Algorithmic content moderation: Technical and political challenges in the automation of platform governance. Big Data and Society, 7(1). https://doi.org/10.1177/2053951719897945

Gutiérrez, R. T. (2015). La Belleza del Código: Influencia de la Web 2.0, los medios sociales y los contenidos multimedia en el desarrollo de HTML5 [Universidad de Salamanca]. http://dsp.tecnalia.com/handle/11556/190

Han, B.-C. (2012). La sociedad del cansancio. Herder.

Helmond, A. (2015). The Platformization of the Web: Making Web Data Platform Ready. Social Media + Society, 1(2), 205630511560308. https://doi.org/10.1177/2056305115603080

Muirhead, R., & Rosenblum, N. L. (2019). A lot of people are saying: The new conspiracism and the assault on democracy. Princeton University Press.

Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. New York University Press.

O´Neill, C. (2017). Weapons of Math Destruction. How Big Data increases inequality and threatens democracy. Penguin Books.

Pariser, E. (2011). The filter bubble: What the Internet is hiding from you. Penguin Books.

Perrigo, B. (2023, January 18). OpenAI Used Kenyan Workers on Less Than $2 Per Hour. Time. https://time.com/6247678/openai-chatgpt-kenya-workers/

Poell, T., Nieborg, D., & Duffy, B. E. (2021). Platforms and cultural production. Polity Press.

Roberts, S. T. (2019). Behind the screen. Yale University Press.

Rosa, H. (2016). Alienación y aceleración. Hacia una crítica de la temporalidad en la modernidad tardía. Katz Editores.

Rosa, H. (2019). Remedio a la aceleración. Ensayos sobre la resonancia. Ned ediciones.

Shirky, C. (2008). Here comes everybody: The power of organizing without organizations. Penguin.

Srnicek, N. (2017). Platform Capitalism. Polity Press.

Stahl, B. C., & Eke, D. (2024). The ethics of ChatGPT – Exploring the ethical issues of an emerging technology. International Journal of Information Management, 74. https://doi.org/10.1016/j.ijinfomgt.2023.102700

Sundararajan, A. (2016). The Sharing Economy. The MIT Press.

Surowiecki, J. (2005). The wisdom of crowds. Anchor.

Tabarés, R. (2018). Understanding the role of digital commons in the web; The making of HTML5. Telematics and Informatics, 35(5), 1438–1449. https://doi.org/10.1016/j.tele.2018.03.013

Tabarés, R. (2020). Conversando con cajas negras; sobre la aparición de los interfaces conversacionales. Teknokultura. Revista de Cultura Digital y Movimientos Sociales, 17(2), 179–186. https://dx.doi.org/10.5209/TEKN.69303

Tabarés, R. (2021). HTML5 and the evolution of HTML; tracing the origins of digital platforms. Technology in Society, 65. https://doi.org/10.1016/j.techsoc.2021.101529

Tapscott, D., & Williams, A. D. (2006). Wikinomics: la nueva economía de las multitudes inteligentes. Paidos Ibérica.

Vaidhyanathan, S. (2018). Antisocial media: How Facebook disconnects us and undermines democracy. Oxford University Press.

van Dijck, J. (2013). The Culture of Connectivity: A Critical History of Social Media. Oxford University Press.

van Dijck, J., Poell, T., & Waal, M. de. (2018). The platform society: Public values in a connective world. Oxford University Press.

Wajcman, J. (2020). Pressed for time: The acceleration of life in digital capitalism. University of Chicago Press.

York, J. C. (2022). Silicon values: The future of free speech under surveillance capitalism. Verso.

1 Etapa que normalmente se suele contextualizar entre la crisis de las punto.com (finales de los años 90 y comienzos del siglo XXI) hasta el comienzo de la “Gran Recesión” (entre el 2008-2009).

2 Traducido en castellano como “Modelo de Lenguaje Regresivo” o “Modelo de Lenguaje Grande”, los LLMs son sistemas de IA que predicen la siguiente palabra o carácter en un documento, y que basan su entrenamiento en una red neuronal con miles de millones de parámetros y grandes cantidades de datos sin etiquetar y de manera no supervisada.

3 Aquel que no dispone de conocimientos de diseño y programación web.

4 Es decir, datos que describen a su vez otros datos, tales como la geolocalización de una fotografía, la fecha en que se realizó, etc.

5 Del inglés, “Application Programming Interface”, es un interfaz de software que permite a diferentes formatos de software poder comunicarse y facilitar la transferencia de datos entre ellos.

6 Del inglés, “Rich Internet Applications”, es una aplicación web que se caracteriza por poseer las características de las aplicaciones de escritorio tradicionales, mejorando la experiencia del usuario de La Web.

7 https://trends.google.es/trends/

8 Ver por ejemplo https://www.propublica.org/article/facebook-hate-speech-censorship-internal-documents-algorithms

9 Ver por ejemplo https://about.meta.com/metaverse/

10 Un token es una referencia o un identificador que sustituye a un término de texto y que permite ser referenciado en un sistema de tokenización

11 El término “deepfake” proviene del inglés y está formado por la unión de “deep learning” (una técnica de IA de aprendizaje automático) y “fake” (falso).

12 https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/digital-services-act_en