Hitos

Manipulación ideológica en redes sociales:
acoso, engaño y violencia en el entorno digital^*

Ideological Manipulation on Social Media:
Harassment, Deception and Violence in the Digital Environment^**

Manipulação ideológica nas redes sociais:
assédio, fraude e violência no ambiente digital^***

10.5294/pacla.2022.25.3.9

Juan Carlos Gaal Fong¹
Fernando Ignacio Gutiérrez Cortés² Óscar Mario Miranda Villanueva³

¹ 0000-0002-0032-5353. Tecnológico de Monterrey, México. jcgaal@exatec.tec.mx

² https://orcid.org/0000-0003-1753-3527. Tecnológico de Monterrey, México. fgutierr@tec.mx

³ https://orcid.org/0000-0003-3180-889X. Tecnológico de Monterrey, México. oscar.miranda@tec.mx

^* Este material está basado en el proyecto denominado: Equidad Digital: Los efectos sociales de la IA en el ámbito de los derechos humanos en México. El trabajo fue realizado gracias al financiamiento del Instituto México Estados Unidos de la Universidad de California (UC MEXUS) y el Consejo Nacional de Ciencia y Tecnología de México (Conacyt).

^** This material is based on the project called “Equidad Digital: Los efectos sociales de la IA en el ámbito de los derechos humanos en México.” The work was carried out thanks to the financing of the University of California Institute for Mexico and the United States (UC MEXUS) and the Consejo Nacional de Ciencia y Tecnología de México (CONACYT).

^*** Este trabalho está baseado no projeto denominado “Equidade digital: os efeitos sociais da IA no contexto dos direitos humanos no México”. Foi realizado graças ao financiamento do Instituto México Estados Unidos da Universidad de California (UC MEXUS) e do Consejo Nacional de Ciencia y Tecnología de México (CONACYT).

Para citar este artículo / to reference this paper / para citar este artigo: Gaal, J. C., Gutiérrez, F. y Miranda, Ó. (2022). Manipulación ideológica en redes sociales: acoso, engaño y violencia en el entorno digital. Palabra Clave, 25(3), e2539. DOI: https://doi.org/10.5294/pacla.2022.25.3.9

Resumen

Este artículo explora el fenómeno de asunción de identidades en las redes sociales y la influencia que tiene la inteligencia artificial (bots) para que agentes externos logren tomar ventaja de los momentos de vulnerabilidad de diversos sujetos. El tema se aborda desde la perspectiva que ofrecen los estudios de Jacques Lacan y René Girard, con el enfoque de la ecología de medios. La investigación se fundamenta en un análisis particular de manipulación en Twitter en torno del caso de la caravana migrante de 2018 y la propagación del discurso de odio.

Palabras clave (Fuente tesauro de la Unesco): Bots; caravana migrante de 2018; estadio del espejo; mímesis; ecología de medios; identidad; ideologías; inmigración; inteligencia artificial; internet; manipulación ideológica; media control; persuasión; propaganda; redes sociales.

Abstract

This article explores the phenomenon of identity assumption on social media and the influence that artificial intelligence (bots) has so that external agents can take advantage of the vulnerable moments of various individuals. The subject is approached from the perspective offered by Jacques Lacan’s and René Girard’s studies, following the path of media ecology. The research is based on analyzing the phenomenon of manipulation on Twitter around the case of the migrant caravan of 2018 and the spread of hate speech.

Keywords (Source Unesco Thesaurus): Bots; the migrant caravan of 2018; mirror stagge; mimesis; media ecology; identity; ideologies; artificial intelligence; immigration internet; ideological manipulation; persuasion; propaganda; social media.

Resumo

Este artigo explora o fenômeno da assunção de identidade e a influência que a inteligência artificial (bots) tem para que agentes externos possam aproveitar os momentos de vulnerabilidade de diversos sujeitos. O assunto é abordado na perspectiva dos estudos de Jacques Lacan, René Girard e sob a abordagem da ecologia da mídia. Esta pesquisa está baseada em uma análise particular da manipulação no Twitter em torno do caso da caravana de migrantes de 2018 e da disseminação do discurso de ódio.

Palavras-chave (Fonte tesauro da Unesco): Bots; caravana de migrantes de 2018; estágio de espelho; mimese; ecologia de mídia; inteligência artificial; internet; manipulação ideológica; redes sociais.

Debido a la incremental introducción de infraestructura con su consecuente reducción de costos en materia de telecomunicaciones, la penetración y uso de internet llegó a más del 65% de la población global durante 2021, según puede apreciarse en Internet World Stats (2021). Durante este tiempo las plataformas de redes sociales como Facebook, Twitter, Instagram y YouTube lograron capturar un tercio de la población mundial (Meeker, 2020). Con la finalidad de incentivar la generación de contenidos gratuitos, estas plataformas dieron paso a la creación de un mercado de atención secundario en el cual los usuarios, dependiendo de su alcance y sus audiencias metas, se volvieron acreedores de diversos beneficios.

Estas plataformas hoy han permitido la transición entre el consumo y la producción de información. Para lograr el proceso de distribución de contenido de manera efectiva, el sujeto se convierte en usuario, al verse forzado a recrear su identidad de manera digital en un perfil dentro de las plataformas para presentarse como individuo de este contexto. Enseguida, y con la finalidad de lograr que sus mensajes sean recibidos, el sujeto debe interactuar con sus semejantes basándose en similitudes de intereses, los cuales son identificables a través de los elementos provistos por la plataforma para la creación de perfiles, como su fotografía (o avatar), nombre, descripción, y hasta los campos de descripción personalizados como género e intereses, entre muchos otros. Este proceso de formación de identidad sucede continuamente y evoluciona nutrido de interacciones metacontextuales, gracias a las cuales el usuario navega por las plataformas. Estas interacciones han sido gradualmente adoptadas por marcas y agentes políticos globales, mimetizando el comportamiento de usuarios para forjar y mantener relaciones directas con sus consumidores.

Este texto explora de manera central la asunción dinámica de identidades de las personas en el entorno digital y la influencia que agentes externos logran ejercer, a través de la inteligencia artificial, para tomar ventaja de la vulnerabilidad de diversos sujetos. El concepto de identidad se explora desde la óptica de Jacques Lacan (2009) y su trabajo sobre el estadio del espejo, mientras que la influencia inorgánica producida por la inteligencia artificial se analiza con base en la teoría mimética del deseo de René Girard et al. (1987). Mediante la conexión de estos dos trabajos clásicos se busca contextualizar una serie de eventos de índole político-social, adyacentes a la fecha de la creación de este escrito, buscando resolver la siguiente pregunta: ¿cómo la nueva identidad, formada en gran medida por los medios digitales, moldea nuestras opiniones, fomenta la mercantilización ideológica y contribuye a la generación del conflicto social? Complementariamente, esta revisión se realiza también desde la perspectiva de la ecología de medios.

Marco teórico

El estadio del espejo

Jacques Lacan (2009) es el primero en presentar un reporte analítico sobre el estadio del espejo (le stade du miroir). Este concepto es parte de la teoría psicoanalítica general de Lacan, inspirada en el libro Los orígenes del carácter en el niño de Henri Wallon (1975). Este autor describe el momento clave en el cual el niño reconoce su ser en el espejo, su primera representación con exterioridad de sus sensaciones y su reacción y comportamientos:

Darwin nota que hacia el 8º mes el niño manifiesta por medio de “¡ah!” su sorpresa, cada vez que su mirada reencuentra su imagen, y Preyer señala que en la 35ª semana tiende la mano con entusiasmo hacia su imagen y se asombra cuando siente el contacto unido y duro del espejo. [...] La realidad atribuida a la imagen es aún tan completa que, no solamente entre la 41ª y 44ª semana, el niño de Preyer ríe y tiende sus brazos hacia ella cada vez que la ve, sino que en la 35ª semana, el niño de Darwin mira su imagen en el espejo cada vez que lo llama por su nombre. No es, pues, al menos de manera pasajera o intermitente, a su yo propioceptivo al que aplica su nombre cuando lo escucha pronunciar, sino a la imagen exteroceptiva que le da de sí mismo el espejo. (p. 210)

Desde nuestro nacimiento experimentamos el mundo de una manera fragmentada y desorganizada. Esto cambia durante el estadio del espejo, cuando, usualmente con la ayuda de un adulto, el niño ve su reflejo en un espejo por primera vez. Desde esta perspectiva que ofrece Lacan (2009), el sujeto comienza a afianzarse como una narrativa coherente. El niño empieza a identificarse a sí mismo como la reflexión en el espejo. Es entonces cuando para el sujeto se crea la experiencia de sí mismo, a partir de las circunstancias en las cuales se desarrolla. La influencia estructuralista en el psicoanálisis de Lacan es clara, pues identifica al sujeto como una composición de significantes interconectados que crean la experiencia de unidad que este percibe de sí mismo. Posterior al encuentro con el espejo, el sujeto va a construirse de manera coherente mediante significantes contextuales como nacionalidad, religión, códigos éticos, entre otros. Lacan reafirma este raciocinio:

... el sujeto sigue el desfiladero de lo simbólico [...] el desplazamiento del significante determina a los sujetos en sus actos, en su destino, en sus rechazos, en sus cegueras, en sus éxitos y en su suerte, a despecho de sus dotes innatas y de su logro social, sin consideración del carácter o el sexo, y que de buena o mala gana seguirá al tren del significante como armas y bagajes, todo lo dado de lo psicológico. (1984, p. 40)

Sin embargo, existe la posibilidad de irrumpir esta ilación de significantes, lo cual consecuentemente impide al individuo experimentarse como un sujeto cohesivo. El individuo entonces comienza a experimentar los significantes de manera desorganizada, similar a la época de su infancia previa al estadio del espejo. El contexto mediático actual se compone de experiencias y eventos imposibles de racionalizar de manera general.

Internet ha permitido la creación y distribución infinita de contenido, la cual carece de una inherente narrativa para el individuo, que hace que se pierda en ella. En lugar de contar con una narrativa consistente, tenemos significantes desconectados. Al acceder a las plataformas de internet más populares de redes sociales, somos impactados por anuncios, videos, fotografías, comentarios y otros elementos inconexos, lo cual nos impide darles sentido de una manera significativa (Orozco et al., 2012). El entretenimiento, la política, las noticias, el arte y la ciencia se mezclan y se presentan en el mismo flujo de contenido. En el entorno digital no es distinguible un tema de otro.

La documentación sobre el estadio del espejo, su potencia y sus efectos en el mundo del capitalismo de consumo es vasta y muy explorada (Declercq, 2006; Gwartz y Spence, 2020; Olivier, 2014; Peretti, 1996; Vanheule, 2016). Jonah Peretti (1996) refuerza esta idea mencionando que el sujeto experimenta precisamente lo que Lacan llama estadio del espejo, en múltiples ocasiones durante su vida. Esto usualmente se exacerba al exponerse a imágenes idealizadas de líderes de opinión o íconos culturales relevantes a través de la publicidad en los medios, los cuales están presentes de manera constante en nuestra vida.

La perspectiva de explotación del estadio del espejo parece ser un buen marco de referencia para entender el fenómeno de identidad. Peretti (1996) explica este paradigma de la siguiente forma:

Debido a que la publicidad vincula la identidad con la necesidad de comprar productos, la aceleración de la cultura visual promueve el hiperconsumo asociado al capitalismo tardío. [...] para promover el capitalismo de consumo, las imágenes deben tener algún contenido para crear la posibilidad de una identificación en el escenario espejo. Es esta identificación con un modelo, deportista o actor lo que fomenta la compra del producto que se propone. Para que un anuncio en GQ [antiguo Gentlemen’s Quarterly] tenga éxito, debe provocar una formación de ego que haga que el producto sea parte integral de la identidad del espectador. Esta frágil formación del ego debe persistir el tiempo suficiente para que el lector de GQ compre el producto. (Traducción propia)

En el contexto de las plataformas sociales, los mensajes publicitarios irrumpen el flujo del contenido que se presenta, por su naturaleza comercial. Por lo tanto, para generar una neoformación del ego en sus audiencias meta, las marcas recurren hoy en día a lo que se ha definido como publicidad nativa, la cual se aparta de las tácticas de comunicación de la publicidad tradicional y adopta apariencias de contenido producido de manera orgánica, con la finalidad de que los usuarios generen una identificación genuina directa con la marca sin haber sido expuestos a mensajes comerciales en el sentido histórico. La meta de los estrategas publicitarios en plataformas sociales entonces es llevar a cabo de manera sucinta y rápida el proceso de neoformación de identidad a través de un estadio del espejo tardío, con la suficiente duración para que el individuo genere la transacción que busca y deje de lado esta identidad formada. Así el siguiente publicista puede tomar ventaja de este ciclo nuevamente.

La velocidad con la cual la formación y disolución de identidades se lleva a cabo actualmente es sorprendente, debido a la asequibilidad de información y transaccionalidad rápida que existe tanto en internet como en las plataformas, que han diseñado la infraestructura necesaria para evitar alguna fricción entre el consumidor y el producto final.

Mímesis y contagio cultural

La tesis central de René Girard et al. (1987) gira en torno a la interrogante ¿por qué y de qué manera surgió la cultura? Girard es capaz de extrapolar el surgimiento de la cultura humana a partir de lo que denominó la teoría mimética o la teoría del deseo mimético. Siguiendo el enfoque estructuralista que Lacan estableció para su trabajo, este otro autor hace uso del mismo marco referencial y confirma su relevancia para el entendimiento de la mímesis con fundamento del uso de símbolos y significantes:

Como somos prisioneros de nuestras formas simbólicas, poco más podemos hacer que reconstruir las operaciones que generan significado, no solo para nosotros, sino también para otras culturas; somos incapaces de trascender significados particulares para indagar sobre el hombre mismo, su destino, etc. Lo máximo que podemos hacer es reconocer al hombre como aquel que produce formas simbólicas, sistemas de signos y luego los confunde con la ‘realidad’ misma, olvidando que para dar sentido a la realidad interpone un sistema siempre particular de signos entre la realidad y él mismo. (Girard et al., 1987, p. 6)

Es a través de la predominante imitación de comportamientos y características como un sujeto, no solo se conforma, sino que también se percibe como parte de una cultura. Girard comenta que “no hay nada, o casi nada, en el comportamiento humano que no se aprenda y todo aprendizaje se basa en la imitación. Si los seres humanos de pronto dejaran de imitar, todas las formas de cultura desaparecerían” (p. 6). La mímesis puede observarse en una miríada de acciones: en la manera como los niños adoptan lenguajes, la manera en la cual la música y el gusto musical se propagan, incluso en el establecimiento de tendencias en cualquier campo (Cowdell et al., 2015).

Los seres humanos buscan constantemente influenciarse y cuando forman parte de un grupo tienden a desear las mismas cosas. La mímesis de Girard nace de un objeto de deseo que se pretende imitar y permite el establecimiento de confianza y cooperación entre sujetos. Sin embargo, cuando el objeto de deseo de imitación es escaso o de naturaleza limitada, esto da paso a un conflicto entre los individuos, el cual Girard define como “crisis mimética” (p. 25). Esta crisis tiende a evolucionar rápidamente en antagonismo y subsecuentemente en violencia, lo cual tiene el riesgo de desencadenar una guerra entre los involucrados en una espiral sin control. En este momento, los individuos pasan de estar interesados en el objeto y, en su lugar, se interesan en sus rivales, un riesgo inherente del deseo mimético, lo cual presenta una amenaza constante para la cohesión de grupos o comunidades que puede derivar en una sucesión de venganza recíproca. Girard reafirma esta idea diciendo que “cada rival se convierte para su contraparte en el modelo y obstáculo adorado y despreciado, el que debe ser a la vez golpeado y asimilado” (Girard et al., 1987, p. 25). Este efecto es contagioso y, por lo tanto, se espera que el conflicto sea foco de imitación para el resto de los miembros del grupo, lo que desencadena una intensificación de mímesis conflictiva como bola de nieve.

La amalgama de la teoría del espejo de Lacan (2009; 1984) y la teoría de la mímesis de Girard et al. (1987) permite vislumbrar de una forma diferente el comportamiento de movimientos sociales en función de la identidad individual y grupal. Los grupos sociales tradicionales han trascendido la materialidad y han tomado los espacios digitales, no solo como un medio de contacto, sino como una extensión de sí mismos, replicando sus comportamientos y adaptándose a los nuevos formatos delimitados por las plataformas digitales.

Violencia expiatoria y apalancamiento inorgánico: algunos efectos de la inteligencia artificial desde la perspectiva de la ecología de medios

Precisamente hace más de 20 años el académico y crítico cultural Neil Postman (2000) hizo una breve analogía sobre lo que representaban los medios de comunicación, con la finalidad de ilustrar la maleabilidad cultural a partir de estos:

… desde el momento en que se familiarizó por primera vez con una placa de Petri, que un medio se definía como una sustancia dentro de la cual crece un cultivo. Si reemplaza la palabra “sustancia” con la palabra “tecnología”, la definición se mantendría como un principio fundamental de la ecología de los medios: un medio es una tecnología dentro de la cual crece una cultura; es decir, da forma a la política, a la organización social y a las formas habituales de pensar de una cultura. (p. 10)

Según Meenakshi Arora (2013), un medio biológico requiere de elementos muy particulares en su ambiente para el adecuado desarrollo de las células. Entre estos se consideran desde la temperatura hasta el pH. El balance en la interacción de estos químicos es crucial para que la vida de las células se desarrolle de manera consistente. La analogía biológica que Postman presentó tendió un puente de entendimiento entre el desarrollo celular y el desarrollo de los individuos dentro de sus respectivos ambientes y medios.

Marshall McLuhan et al. (2003) fueron capaces de resumir el ecosistema mediático del cual somos parte desde la popularización de los medios masivos afirmando que “el medio es el mensaje”. McLuhan propuso que los medios mismos, no el contenido que llevan, deberían ser el foco de estudio, porque siempre pensó que un medio afectaba a la sociedad, no por el contenido entregado a través de este, sino por las características del medio mismo (McLuhan y Fiore, 1967).

Este es un momento único en la historia, definido por la accesibilidad masificada a medios de comunicación globales que han derivado de grandes avances tecnológicos innovadores. Los medios modifican fundamentalmente las interacciones de los individuos y los grupos sociales y generan ambientes recalibrados y en constante cambio. El nuevo paradigma tecnológico moldea la cultura y da paso a un producto resultante único con secuelas inesperadas e intransigentes (Gutiérrez et al., 2019). El incremento en la distribución de mensajes a través de las redes sociales y la susceptibilidad de cambio identitario de los individuos crean la simbiosis necesaria para posibles subversiones no orgánicas con diversos fines. McLuhan et al. (2005) explicaban la violencia como un problema de pérdida de identidad.

En el panorama de plataformas digitales como Facebook o Twitter, las palabras son la moneda de circulación y las transacciones se efectúan por millones, día tras día. El intercambio de información que un usuario experimenta no tiene paralelo en la historia. Por ejemplo, hoy se estima que diariamente se producen aproximadamente quinientos millones de trinos (tweets) (Brandwatch, 2020) y al mes se publican cerca de cinco mil millones de comentarios en Facebook.

Una de las consecuencias más preocupantes de la interacción con inteligencia artificial es la disolución digital de la poca privacidad que le quedaba a un individuo. La gente ha perdido el control sobre sus datos. Hoy diversas empresas tecnológicas saben prácticamente todo sobre nosotros (Couldry y Mejias, 2019). En Facebook, el usuario no es el cliente, es el “producto”. Recientemente, Brittany Kaiser (2019) reveló cómo Cambridge Analytica (CA) utilizó un análisis psicográfico profundo para desplegar campañas de propaganda efectivas, decisivas en las victorias del Brexit y Donald Trump. La lucha contra los relatos propagandísticos digitales que destruyen la convivencia y la paz social es el gran desafío de estos tiempos. Las redes sociales, que se habían percibido, en un inicio, como espacios democráticos para el desarrollo, hoy pueden ser entendidas también como mecanismos de control de la opinión pública, ya sea por la contaminación a través de relatos falsos o por el posible control y censura que apliquen los gobiernos, en un intento por mitigar alguna situación (Rodríguez, 2015). Por tales razones el tema merece estudiarse ampliamente.

Datos y metodología

Durante 2018, investigadores de la Universidad de California en Berkeley y del Tecnológico de Monterrey analizaron información en Twitter de las siguientes 22 etiquetas (hashtags): #BuildTheWall, #BuildTheWallNow, #Caravan, #CaravanaDeMigrantes, #CaravanaMigrante, #CaravanCrisis, #CaravanInvasion, #CloseTheBorder, #EndIllegalImmigration, #HonduranCaravan, #Invasion, #InmigrantCaravan, #KeepFamiliesTogether, #MigrantInvasion, #MigrantMob, #OpenForBusinessNotCriminals, #SecureTheBorder, #SendThemHome, #SorosCaravan, #SorosHondurasMob, #SponsoredInvasion, #StopTheCaravan y #StopTheInvasion. Se capturaron 674.603 trinos de 146.460 cuentas únicas, durante el periodo del 22 de octubre al 2 de noviembre de 2018 (Nonnecke et al., 2021), durante el cual se presentó la primer gran caravana migrante que partió de Centroamérica rumbo a Estados Unidos.

Figura 1. Total de trinos y etiquetas correspondientes

Fuente: elaboración propia.

Para la obtención de datos se utilizó la interfaz de programación de aplicaciones (API) de Twitter con las etiquetas antes referidas. Estos datos fueron analizados a través de las herramientas SQL y Metabase con la finalidad de realizar una minería de datos simplificada, en búsqueda de respuesta a la pregunta central de investigación. De los datos obtenidos, solo fue posible trabajar con 502.145 registros de trinos y 134.379 nombres de usuario (handles) en total.¹

En esta exploración se identificaron tres vectores de enfoque central para el análisis de los datos obtenidos: a) tiempo, con la finalidad de ilustrar la velocidad con la cual los individuos asumen identidades; b) inteligencia artificial y comportamientos no orgánicos, para determinar el uso de herramientas programables para la diseminación de mensajes en volúmenes muy altos (bots); y c) contenido y tendencia ideológica de trinos, para ejemplificar la manera en la cual se busca transmitir la ideología a través del vehículo del lenguaje potenciado en las plataformas digitales.

Resultados

A continuación, se presentan algunos resultados derivados del análisis de los tres vectores antes mencionados.

Tiempo

La plataforma de analítica de mercadeo TrackMaven hizo un reporte (Burney, 2017) sobre los días y horarios de mayor actividad en las plataformas digitales basándose en el análisis de 17.500.000 publicaciones sociales, entre ellas las de Twitter, y logró identificar el horario de las 5:00 p.m. del este de América del Norte como la hora con mayor actividad en la plataforma, así como los días miércoles como los de más registros generados.

Un análisis de la actividad por día y horario reveló una tendencia poco tradicional dentro de las cuentas de Twitter estudiadas de etiquetas según la alta concentración de trinos emitidos, principalmente durante el día martes 23 de octubre de 2018; en cuanto a la hora, la mayor actividad se identificó entre las 12:00 y las 2:00 de la madrugada en el este de América del Norte. La coordinación de horarios de la actividad registrada con el día en el que se realizó contrasta de manera directa con los resultados de la investigación de TrackMaven y arroja una considerable posibilidad de que los trinos hayan sido emitidos por agentes inorgánicos (bots) programados en horarios de baja actividad en la plataforma de Twitter (Figura 2).

Figura 2. Total de trinos por hora del día

Fuente: elaboración propia.

Inteligencia artificial y comportamiento no orgánico

Durante el periodo de observación, los datos recabados permitieron identificar que la actividad de las cuentas (handles) dentro de las etiquetas es generalmente esporádica con una emisión de seis trinos por cuenta en promedio. Del número total de registros obtenidos, la mayoría de las cuentas (84.016) contribuyeron con un solo trino durante el periodo, mientras que 62.444 (42,6% del total de cuentas en la base) fueron responsables de emitir dos o más trinos. El primer grupo de cuentas que emitieron de dos a 10 trinos representan el 36,27% del total de la base, con 53.127 trinos, siendo esta la concentración más alta.

En este análisis, se identificaron solo 12 cuentas destacadas con más de 200 trinos originales en total y un rol central dentro de las conversaciones pertenecientes a la temática de la caravana migrante. Para determinar si el comportamiento de estas 12 cuentas era orgánico o inorgánico, se utilizó Botometer (OSoMe, 2014), herramienta que analiza los datos de cualquier cuenta de Twitter para determinar la probabilidad que existe de que se trate de un bot o programa inorgánico, con una finalidad específica. Botometer extrae más de 1.000 características para identificar el perfil de la cuenta: amigos, estructura de la red social, patrones de actividad, lenguaje y sentimiento. Estas características son utilizadas para calcular la puntuación de la cuenta. El rango de puntuación oscila entre 0 y 5, siendo esta última la señal más grande de una posible automatización de una cuenta. Botometer ha sido hasta el momento una de las herrmientas más utilizadas en diversas investigaciones para la detección de cuentas inorgánicas (bots).

Aunado a lo anterior, se analizó si las 12 cuentas centrales se encontraban a favor o en contra de la posición ideológica que representaba la caravana migrante, esto con base en los contenidos que conformaban los perfiles de Twitter, así como en los que compartían sobre el tema (Tabla 1).

Tabla 1. Cuentas en función del número de trinos posicionados y su puntuación en Botometer

Nota: elaboración propia.

Estas 12 cuentas fueron responsables de la distribución de 3.628 trinos dentro de las etiquetas observadas, siendo #Caravan la que recibió mayor actividad, con 1.062 trinos. Vale la pena destacar que dentro de este número se encuentran contenidos originales, así como retrinos o réplicas de contenido de otros autores; por lo tanto, las 12 cuentas centrales también pueden ser consideradas como amplificadoras de mensajes de terceros.

Uno de los aspectos destacados de este análisis fue la identificación de las cuentas con trinos y contenido en contra de la caravana migrante, mucho más prevalentes que las que se mostraron a favor de este movimiento. Sin embargo, la comunicación a favor también fue alta y generó un ambiente de contraste y polarización en el ecosistema de la plataforma.

Contenido y tendencia ideológica de los trinos

Para comprender la influencia que puede tener la inteligencia artificial en la manipulación de opiniones, se tomó como ejemplo el caso de la cuenta @LadyRedWave, responsable de la emisión de 201 trinos capturados en el periodo de tiempo analizado. De estos 201, tan solo 58 resultaron de su autoría, mientras que 143 fueron retrinos que derivaron de otras cuentas. Sin embargo, los trinos de su autoría provocaron un total de 9.684 retrinos. Entre los contenidos más replicados, se encuentra el siguiente, con 1.405 retrinos acumulados durante el periodo evaluado: “Entonces sale la verdad. No se trata de asilo o podrían haberse quedado en #MX –se trata de invadir#América. ¿Puedes decir lo que quieras? # Es una #invasión.

La caravana de migrantes continúa hacia la frontera de Estados Unidos luego de rechazar la oferta de México para quedarse […]” (Figura 3; traducción propia).

Figura 3. Cuenta @LadyRedWave identificada como bot

Fuente: LadyRedwave (2018).

El éxito de esta cuenta bot dentro del ecosistema de las etiquetas relevantes a la caravana migrante fue muy evidente, especialmente al ser contrastada con la actividad de otra cuenta: @loondale, clasificada por Botometer como cuenta humana. Esta última, aún cuando fue capaz de posicionarse como la segunda más importante, con base en el número total de trinos enviados durante el periodo (425), solo fue capaz de producir 90 retrinos en total. El número máximo de retrinos que recibió un trino durante el periodo analizado fue de cuatro.

Los resultados obtenidos de las cuentas de bots refuerzan la premisa de efectividad en la rápida diseminación de ideas (trinos en volúmenes altos), en periodos de tiempo muy cortos. Los trinos distribuidos por las cuentas centrales lograron contabilizar 841.982, con contenido muy diverso, pero guiados por una narrativa ideológicamente consistente.

Con la finalidad de identificar los trinos que gozaron de mayor amplificación a través de retrinos durante el periodo analizado, se contabilizaron las frecuencias con las cuales los mensajes obtuvieron retrinos. Entre los más destacados se encontraron los siguientes.

El trino de la Figura 4 (“Aquí vienen los ‘niños’ #Demócratas #Invasión [...]”; traducción propia) alcanzó 10.948 retrinos totales dentro de la base. Además, fue amplificado por otras tres cuentas centrales: @AnnCarolPerry1, @Jojoinguette y @Evademoney3. El autor del trino original es el actor estadounidense James Woods, quien lo publicó por primera vez el día 30 de octubre de 2018, a las 17:23:02 desde su cuenta verificada por Twitter. La etiqueta en la que se agrupó fue #Invasion y el registro del trino dentro de la base de etiquetas reflejó en total de 12.062.

Figura 4. Trino con mayor amplificación de la cuenta @RealJamesWoods

Fuente: RealJamesWoods (2018).

Otro trino, originalmente publicado el día 25 de octubre de 2018, a las 17:11:30, logró amplificación por las cuentas @AnnCarolPerry1 (bot) y @Jojoinguette (bot) y obtuvo 10.576 retrinos totales. El trino fue atribuido a la cuenta @PolishPatriotTM (ahora @woj_pawelczyk) con una posición evidentemente en contra de la caravana migrante. Este trino fue parte de la etiqueta #BuildTheWallNow: “Ciudadanos mexicanos furiosos por el rastro de basura que dejaron los invasores. El narrador describe cómo la ropa y alimentos donados se tiraron en la calle. Él se pregunta qué clase de gente pobre y hambrienta haría tal cosa #Contruyanelmuroahora […] ¿Son en realidad personas que tienen necesidades?, ¿gente educada?” (traducción propia).

Figura 5. Trino de @PolishPatriotTM en contra de la caravana migrante

Por otra parte, James Martin SJ –padre jesuita estadounidense– se pronunciaba a favor de la caravana (Figura 6): “Lo que Jesús nunca dijo: ‘Alimenta a los hambrientos solo si tienen papeles’. ‘Viste a los que no tienen vestido solo si son de nuestro país’. ‘Dales la bienvenida a los extraños solo si representan cero riesgos’. ‘Ayuda a los pobres solo si es conveniente’. ‘Ama a tu prójimo solo si luce igual a ti […]” (traducción propia). Este fue el tercero de los mensajes con más retrinos dentro de las bases de datos con 7.851 registros totales. El trino contenía la etiqueta #CaravanaMigrante, pero no fue amplificado por ninguna de las cuentas consideradas como centrales durante el periodo de observación.

Figura 6. Trino de @JamesMartinSJ a favor de la caravana migrante

Fuente: JamesMartinSJ (2018).

Otro trino de impacto fue el del conductor Lou Dobbs de Fox News (Figura 7): “El presidente @realDonaldTrump está 100% correcto. Tenemos todo el derecho de proteger nuestra frontera. Esta es una situación muy peligrosa, una situación que no podemos permitir que empeore. Por eso es que están enviando tropas a la frontera […]” (traducción propia). Este mensaje ocupó el quinto lugar en la lista de contenidos más compartidos, con 6.589 retrinos, y muestra una clara tendencia en contra de la caravana migrante, amplificado por la cuenta @AnnCarolPerry1 (bot).

Figura 7. Trino de @LouDobbs en contra de la caravana migrante

Fuente: LouDobbs (2018).

Todos los mensajes antes descritos utilizaron palabras de relevancia más allá de la etiqueta central analizada. Palabras clave como “families”, “Mexican citizens” y “refugees” fueron acompañadas de adjetivos que imprimieron una connotación negativa. En general, se encontró una polarización desequilibrada de mensajes en torno a la caravana migrante. Por una parte, algunos trinos con ideales progresistas que saludaban la caravana con la etiqueta #CaravanaMigrante. Por otra, vastos trinos que respondían a ideologías conservadoras que rechazaban energéticamente la migración con las etiquetas #StopTheCaravan, #SecureTheBorder, #BuildTheWallNow e #Invasion.

Conclusiones

Con base en la información obtenida y observada en relación con los tres vectores principales: tiempo, tipo de dato (orgánico o inorgánico) y contenido y tendencia ideológica, es posible identificar los comportamientos de ciertos mensajes a través de su impacto y distribución con un gran parecido con campañas de comunicación o publicidad premeditadas, sin serlo explícitamente.

El uso del término “mercantilización ideológica” en el planteamiento de la pregunta de investigación original es deliberado y no apunta a ser análogo del término propaganda. En este caso es notorio un fenómeno que involucra la ideología política como una fuerza publicitaria para las figuras centrales dentro del ecosistema de medios digitales. Al adoptar públicamente una ideología como parte fundamental de su identidad, estos actores centrales no solo están beneficiando al grupo de la ideología dominante, sino que también se ven beneficiados directamente, al crecer sus audiencias con comunicación que diverge de sus roles profesionales tradicionales, como es el caso del actor de Hollywood James Woods, quien gozó de altos niveles de popularidad y reconocimiento político por su afianzamiento explícito de la ideología republicana y su desdén por la caravana migrante. Las cuentas de estas celebridades gozan de un identificador visual en forma de marca de verificación provisto por la plataforma de Twitter, el cual valida la identidad real de la gente detrás de estas cuentas, al tiempo que el discurso de odio que propagan los beneficia en términos de popularidad.

Es fácil asumir que, al ser individuos tan centrales, los mensajes de estos líderes de opinión podrían obtener amplificación de manera natural. Como se documentó previamente, las cuentas identificadas como amplificadores, con base en su alta actividad, buscan generar visibilidad e incrementar de manera perceptiblemente sistemática los mensajes que refuerzan ciertos valores representativos de ideologías políticas dominantes. Estas ideologías son fácilmente rastreables en las posiciones a favor o en contra de eventos de alta relevancia en la comunicación utilizada en los trinos. En este caso, el evento fue la caravana migrante y las ideologías políticas estadounidenses fueron representadas en mensajes a favor o en contra de este movimiento.

Tal y como lo planteaba Girard, la formación de grupos sociales nace del contraste con otros grupos (Girard et al. 1987). En este caso, esto se confirma en las perspectivas opuestas sobre la caravana migrante, ilustradas en trinos y etiquetas tanto a favor como en contra de ella. La posición a favor de la caravana migrante hizo uso de lenguaje sutil y mayormente positivo, e incluso el trino de mayor impacto fue emitido por un religioso autodenominado jesuita, mientras que la oposición a la caravana hacía uso de lenguaje peyorativo y ofensivo. En esta comparativa con la otredad es primordial afirmar aquellos valores con los que se identifica el grupo y aquellos con los que no se identifica, de manera explícita, a través de la observación de la comunicación y comportamientos con respecto a la oposición. Este proceso no solo genera lazos más fuertes entre los individuos del grupo, gracias a un sentido de pertenencia y supervivencia tribal, sino que afianza y unifica la identidad de los sujetos, con el alejamiento de la perspectiva y entendimiento matizado de puntos de vista diferentes, lo que forja una unidimensionalidad cada vez más cruda.

Todos estos símbolos funcionan como significantes identificadores de grupos culturales a los cuales los sujetos, usuarios de estas redes, pueden llegar a estar expuestos en cualquier momento a través del posicionamiento de los etiquetas en su ubicación geográfica. Esto da a quienes coordinan la diseminación y amplificación de mensajes ideologizados a través del apalancamiento del algoritmo de la plataforma de Twitter el poder de alcanzar a sujetos vulnerables, que están experimentando constantemente un sentimiento de falta de pertenencia y familiaridad con el discurso predominante. De esta manera se genera un espejo identitario, atractivo para ellos, que busca provocar arraigo dentro del bando cultural para sentirse un aliado más.

Durante el periodo de observación y obtención de datos de este estudio, que en total abarcó 11 días, se logró obtener de manera filtrada más de medio millón de mensajes que convivían dentro de una temática social específica –la migración–, que polarizaba, y aún polariza, a la población estadounidense. Cada polo representaba un número considerable de mensajes distribuidos de manera no solo amplia, sino también veloz, lo cual permite también una rápida formación de identidad y alineación grupal para los sujetos que se encuentran explorando su filiación política o que, por lo menos, han sido expuestos a polarizaciones dicotómicas, prevalentes en la conversación digital.

Es imperativo el entendimiento del tiempo en el proceso de creación de alianzas ideológicas a través de las plataformas digitales, pues entre más rápida sea la distribución de una alta cantidad de trinos dentro de los contextos de comunicación más cohesivo aparece el mensaje central que se quiere transmitir. En la observación estructuralista de Lacan (1984), el sujeto experimenta la comunicación en redes de manera inconexa, pero a través de la distribución y amplificación inorgánica de mensajes en periodos de tiempo cortos se pretende simular la apariencia de cohesión sobre una perspectiva ideológica dentro del contexto, con mensajes de líderes de opinión o relevantes culturalmente, así como con replicación por parte de sus prójimos, presente de manera consistente en cuestión de días. Esto le da al sujeto significado convencimiento, reafirmación y seguridad respecto de ideas que de otra manera podrían parecer simples símbolos en contextos muy amplios.

La ecología de medios brinda una perspectiva muy útil para el estudio de los efectos de los nuevos medios porque, entre otras cosas, explora los sesgos que estos generan y su influencia en nuestra percepción, comprensión, sentimiento, valor y acción. Hoy parece que los métodos de reforzamiento ideológico se disfrazan de entretenimiento con la ayuda de plataformas digitales. La importancia de esta investigación no reside en la temporalidad o la afectación de la temática en cuestión, sino en la revelación de las tácticas premeditadas y disponibles para apalancarse en la endeble identidad del ser humano a través de plataformas digitales –como Twitter– y de esta manera cosechar beneficios identitarios dependientes del tamaño e impacto del movimiento social perteneciente, para así socavar los ideales democráticos prevalentes en el mundo occidental. Esto es altamente replicable y adaptable. El análisis de los patrones de comportamiento permite identificar cómo el individuo que accede a una red social se expone a una cacofonía de manipulación ideológica, sin siquiera poderse dar cuenta de ello. Lo novedoso del fenómeno impide un acercamiento a la certeza sobre las intenciones, así como la identificación explícita de los actores que llevan a cabo este tipo de comportamientos, pero no debiera ser un impedimento para por lo menos dar paso a un esclarecimiento, con fundamento teórico, sobre las posibles consecuencias de dichas conductas, pues sus efectos pueden ser catastróficos.

Agradecimientos

Nuestro profundo agradecimiento a las doctoras Brandie Nonnecke y Camille Crittenden del Centro de Investigación de Tecnología de la Información en Interés de la Sociedad (Citris) y el Instituto Banatao de la Universidad de California en Berkeley, por su guía e invaluable apoyo en este proyecto.

Notas

¹      El nombre de la cuenta (handle) es distinto del nombre en Twitter y aparece enseguida del signo @. [N. de E.]

Referencias

Arora, M. (2013). Cell culture media: A review. Labome, 3 de mayo. DOI: http://dx.doi.org/10.13070/mm.en.3.175

Aslam, S. (2020). Facebook by the numbers: Stats, demographics & fun facts. Omnicore, 22 de abril. https://www.omnicoreagency.com/facebook-statistics

Brandwatch (2020). 60 Incredible and interesting Twitter stats and statistics. 2 de enero. https://www.brandwatch.com/blog/Twitter-stats-and-statistics/

Burney, K. (2017). The best time to post on Twitter? Depends on your industry. TrackMaven. The Marketing Insights Compan, 10 de febrero y. https://web.archive.org/web/20190816111715/https://trackmaven.com/blog/best-time-to-post-on-twitter/

Couldry, N. y Mejias, U. A. (2019). The costs of connection. How data is colonizing human life and appropriating it for capitalism. Stanford University Press. DOI: https://doi.org/10.1515/9781503609754

Cowdell, S., Fleming, C. y Hodge, J. (eds.) (2015). Mimesis, movies, and media: Violence, desire, and the sacred (vol. 3). Bloomsbury.

Declercq, F. (2006). Lacan on the capitalist discourse: Its consequences for libidinal enjoyment and social bonds. Psychoanalysis, Culture & Society, 11, 74-83. DOI: https://doi.org/10.1057/palgrave.pcs.2100068

Dobbs, L. [@LouDobbs] (2018, 26 de octubre). #StopTheCaravan- @SaraCarterDC: President @realDonaldTrump is 100% right. We have every right to protect our border. This is a very dangerous [Tweet]. Twitter. https://twitter.com/loudobbs/status/1055973083834732545?ref_src=twsrc%5Etfw

Girard, R., Oughourlian, J.-M., Lefort, G. (1987). Things hidden since the foundation of the world (reimpr.). Stanford University Press.

Gutiérrez, F., Islas, O. y Arribas, A. (2019). Las nuevas leyes de los nuevos medios y la reconfiguración del entorno. Palabra Clave, 22(2), 1-27. DOI: https://doi.org/10.5294/pacla.2019.22.2.9

Gwartz, E. y Spence, K. (2020). Conscious capitalism and sport: Exploring higher purpose in a professional sport organization. Sport Management Review, 23(4), 750-763. DOI: https://doi.org/10.1016/j.smr.2019.09.002

Internet World Stats (2021). Internet usage statistics: The internet big picture. Miniwatts Marketing Group. https://www.internetworldstats.com/stats.htm

Kaiser, B. (2019). La dictadura de los datos. Harper Collins.

Lacan, J. (1984). Escritos II (vol. 2). Siglo XXI.

Lacan, J. (2009). Escritos I (vol. 1). Siglo XXI.

Lady De’ Plorable Parler. [@LadyRedwave] (2018, 27 de octubre). So the TRUTH is out- it’s NOT about asylum or they could have stayed in #MX -It’s abt invading #America. [Tweet]. Twitter. https://twitter.com/LadyRedWave

Martin, J. [@JamesMartinSJ] (2018, 26 de octubre). What Jesus never said: “Feed the hungry only if they have papers.” “Clothe the naked only if they’re from [Tweet]. Twitter. https://twitter.com/jamesmartinsj/status/1055848770167099392?lang=en

McLuhan, M. y Fiore, Q. (1967). El medio es el mensaje. Paidós.

McLuhan, M., Gordon, T. W. y Meggs, P. B. (2003). Understanding media: The extensions of man. Gingko.

McLuhan, M., McLuhan, S. y Staines, D. (2005). Understanding me: Lectures and interviews. MIT Press. DOI: https://doi.org/10.1109/MTAS.2006.261466

Meeker, M. (2020). Internet trends 2019. Bond Capital https://www.bondcap.com/report/itr19/#view/outline

Nonnecke, B. et al. (2021). Harass, mislead, & polarize: An analysis of Twitter political bots’ tactics in targeting the immigration debate before the 2018 U.S. midterm election. Journal of Information Technology & Politics. DOI: https://doi.org/10.1080/19331681.2021.2004287

OSoMe - Observatory on Social Media (2014). Botometer. https://botometer.osome.iu.edu/

Olivier, B. (2014). The subject: Deleuze-guattari and/or Lacan (in the time of capitalism)? Phronimon, 15(1), 46-66. DOI: https://doi.org/10.25159/2413-3086/2212

Orozco, G. et al. (2012). Tvmorfosis: la televisión abierta hacia la sociedad de redes (vol. 1). Tintable.

Pawelczyk, V. [@Woj_Pawelczyk] (2018, 25 de octubre). Mexicans citizens furious about the trail of trash left by the invaders. The narrator describes how the donated clothes and [Tweet]. Twitter. https://twitter.com/Woj_Pawelczyk/status/1055507153518280706

Peretti, J. (1996). Capitalism and schizophrenia. Contemporary visual culture and the acceleration of identity formation/dissolution. Negations (winter). http://www.datawranglers.com/negations/issues/96w/96w_peretti.html

Postman, N. (2000). The humanism of media ecology. En Proceedings on the Media Ecology Association, 16 de junio. https://media-ecology.org/resources/Documents/Proceedings/v1/v1-02-Postman.pdf

Rodríguez-Fernández, L. (2015). El uso de Facebook y Twitter de las fuerzas de defensa de Israel en la operación “Margen Protector”. Historia de la Comunicación Social, 20(2), 465-482. DOI: https://doi.org/10.5209/rev_HICS.2015.v20.n2.51394

Vanheule, S. (2016). Capitalist discourse, subjectivity and Lacanian psychoanalysis. Frontiers in Psychology, 7. DOI: https://doi.org/10.3389/fpsyg.2016.01948

Wallon, H. (1975). Los orígenes del carácter en el niño: Los preludios del sentimiento de personalidad. Nueva Visión.

Woods, J. [@RealJamesWoods] (2018, 30 de octubre). Here come the “children”. #Democrats #Invasion [Tweet]. Twitter. https://twitter.com/realjameswoods/status/1057321993551441922?lang=fa

Inicio