La propaganda computacional consiste en el uso de herramientas informáticas (algoritmos y automatización) para distribuir información engañosa utilizando las redes sociales. Los avances en las tecnologías digitales y las redes sociales han dado lugar a una mejora en los métodos de propaganda. Se caracteriza por la automatización, la escalabilidad y el anonimato.
Los agentes autónomos (bots de internet) pueden analizar macrodatos recopilados de las redes sociales y del Internet de las cosas con el fin de manipular la opinión pública de manera selectiva y, además, imitar a personas reales en las redes sociales. La coordinación es un componente importante que los bots ayudan a lograr, lo que les confiere un mayor alcance. La tecnología digital mejora los métodos tradicionales bien establecidos de manipulación de la opinión pública: apelar a las emociones y los sesgos de las personas elude el pensamiento racional y promueven ideas específicas.
Un trabajo pionero en la identificación y análisis del concepto ha sido realizado por el equipo de Philip N. Howard en el Oxford Internet Institute, quienes desde 2012 han estado investigando la propaganda computacional, siguiendo la investigación previa de Howard sobre los efectos de las redes sociales en el público en general, publicada, por ejemplo, en su libro de 2005 New Media Campaigns and the Managed Citizen (‘Las nuevas campañas mediáticas y el ciudadano controlado’) y en artículos anteriores. En 2017, publicaron una serie de artículos que detallaban la presencia de la propaganda computacional en varios países.
Los esfuerzos de regulación han propuesto abordar las tácticas de propaganda computacional mediante múltiples enfoques. Las técnicas de detección constituyen otro frente que se está considerando para la mitigación; estas pueden incluir modelos de aprendizaje automático, aunque las primeras técnicas presentaban problemas como la falta de conjuntos de datos o la incapacidad para hacer frente a la mejora gradual de las cuentas. Las técnicas más recientes para abordar estos aspectos utilizan otras técnicas de aprendizaje automático o algoritmos especializados, sin embargo, persisten otros retos, como la creciente verosimilitud de los textos y su automatización.
Mecanismos La propaganda computacional consiste en la publicación estratégica en redes sociales de información engañosa por parte de cuentas falsas que están automatizadas en cierta medida con el fin de manipular a los lectores.
Bots y coordinación En las redes sociales, los bots son cuentas que fingen ser humanas. Se gestionan en cierta medida mediante programas, y se utilizan para difundir información que genera impresiones erróneas. En las redes sociales, se les puede denominar «bots sociales», y pueden contar con la ayuda de usuarios populares que los amplifican y los hacen parecer confiables al compartir su contenido. Los bots permiten a los propagandistas mantener sus identidades en secreto. De hecho, un estudio del Proyecto de Investigación de Propaganda Computacional de Oxford descubrió que los bots lograron una colocación efectiva en Twitter durante un evento político.
Los bots pueden ser coordinados, lo que puede ser aprovechado para hacer uso de algoritmos. Los propagandistas mezclan usuarios reales y falsos; sus esfuerzos hacen uso de una variedad de actores, incluyendo botnets, usuarios pagados en línea, astroturfers, usuarios de seminario y ejércitos de troles. Los bots pueden proporcionar una falsa sensación de prevalencia. También pueden dedicarse al correo no deseado (spam) y en el ciberacoso.Cada vez son más sofisticados, en parte debido a los avances en la inteligencia artificial.Este desarrollo complica su detección tanto para los humanos como para los métodos automatizados.
Influencia de los bots en la opinión pública Los bots desempeñan un papel importante no solo en la difusión de información, sino también en la configuración de la forma en que las personas piensan, sienten y actúan en línea. Las investigaciones demuestran que la exposición a los bots puede alterar la percepción que tienen las personas sobre la popularidad de ciertas opiniones, haciéndoles creer a menudo que un punto de vista está más ampliamente aceptado de lo que realmente está. Esto puede llevar a los individuos a ajustar sus propias opiniones para que coincidan con lo que creen que piensa la mayoría.
Además, los bots tienden a amplificar el contenido emocional y polarizador, especialmente en las discusiones políticas. Al aumentar la visibilidad de los mensajes negativos o controvertidos, los bots pueden desencadenar reacciones emocionales más fuertes y profundizar las divisiones entre los grupos. Esto puede cambiar el tono general de las conversaciones en línea y reforzar las creencias existentes de las personas.
Incluso un número reducido de bots en una red puede influir en cómo se distribuyen las opiniones. Los estudios demuestran que los bots pueden amplificar los puntos de vista extremos y generar una mayor inestabilidad en el tono emocional de las discusiones en línea, lo que afecta la forma en que se desarrolla la opinión pública. Estos hallazgos demuestran que es importante comprender no solo cómo funciona la propaganda computacional, sino también sus efectos psicológicos y sociales.
Información problemática Las tácticas de contenido problemático que emplean los propagandistas incluyen la desinformación, la información errónea y la información compartida independientemente de su veracidad. La difusión de información falsa y engañosa tiene como objetivo influir en la opinión pública.También se emplean deepfakes y modelos de lenguaje generativo, para crear contenidos convincentes.Se espera que la proporción de información engañosa crezca, lo que complicará su detección.
Influencia algorítmica Los algoritmos son otro elemento importante de la propaganda computacional. La curación algorítmica puede influir en las creencias a través de la repetición. Los algoritmos promocionan y ocultan contenidos, lo que los propagandistas utilizan a su favor. Los algoritmos de las redes sociales dan prioridad a la participación de los usuarios y, con ese fin, sus filtros favorecen la controversia y el sensacionalismo. La selección algorítmica de lo que se presenta puede crear cámaras de eco y ejercer influencia.
Un estudio sugiere que las funciones automatizadas (por ejemplo, la página de sonidos) e interactivas (por ejemplo, el «stitching» (‘pegar’), el «duetting» (‘hacer dúos’) y la tendencia de imitación de contenido) de TikTok también pueden contribuir a la difusión de información engañosa. Además, se mantiene el anonimato al eliminar el origen del audio.
Estudios multidisciplinarios Se ha propuesto un enfoque multidisciplinario para combatir la desinformación, que sugiere recurrir a la psicología para comprender su eficacia. Algunos estudios han analizado la información engañosa desde la perspectiva de los procesos cognitivos, buscando comprender cómo los seres humanos llegan a aceptarla.
Las teorías de los medios de comunicación pueden ayudar a comprender la complejidad de las relaciones existentes en la propaganda computacional y entre los actores implicados, así como sus efectos, y servir de guía para las iniciativas de regulación. La teoría del establecimiento de la agenda y la teoría del encuadre también se han considerado para el análisis de los fenómenos de propaganda computacional, encontrando estos efectos presentes; la amplificación algorítmica es un ejemplo de la primera, según la cual la selección y la omisión de temas por parte de los medios influyen en la atención del público. También sostiene que la repetición concentra dicha atención.
La repetición es una característica clave de la propaganda computacional; en las redes sociales puede modificar las creencias. Un estudio postula que la repetición hace que los temas estén frescos en la mente, teniendo un efecto similar en la importancia percibida. También se ha sugerido que el efecto de verdad ilusoria, que afirma que las personas creerán lo que se les repite a lo largo del tiempo, también se ha sugerido para poner de relieve que la propaganda computacional podría estar haciendo lo mismo.
Se ha propuesto la presencia de otros fenómenos en las herramientas de propaganda computacional. Un estudio postula la presencia del efecto megáfono, el efecto bandwagon y las cascadas.Otros estudios señalan el uso de contenidos que despiertan emociones. Otra táctica utilizada es sugerir una conexión entre temas colocándolos en la misma frase. También se observan la incidencia del sesgo de confianza, la validación basada en la intuición más que en la evidencia, el sesgo de verdad, el sesgo de confirmación y la disonancia cognitiva. Otro estudio señala la presencia del sesgo de negatividad y el sesgo de novedad.
Difusión Los bots son utilizados tanto por entidades privadas como públicas y se han observado su presencia en la política y en situaciones de crisis. Su presencia se ha estudiado en muchos países,con casos registrados en más de 80 países. Algunos estudios han concluido que los bots son eficaces, aunque otro determinó que tienen un impacto limitado. Del mismo modo, se ha descubierto que la manipulación algorítmica tiene un efecto.
Regulación Algunos estudios proponen una estrategia que incorpore múltiples enfoques hacia la regulación de las herramientas utilizadas en la propaganda computacional. Entre las posibles medidas se encuentran el control de la desinformación y su uso en la política mediante legislación y directrices; la obligación de que las plataformas luchen contra las cuentas falsas y la información engañosa; y el diseño de tácticas de intervención basadas en la psicología. También se ha propuesto la alfabetización informacional como respuesta a estas herramientas.
Sin embargo, también se ha informado que algunos de estos enfoques tienen sus deficiencias. En Alemania, por ejemplo, los esfuerzos legislativos han encontrado problemas y oposición. En el caso de las redes sociales, es difícil solicitar la autorregulación. Además, es posible que las medidas de estas plataformas no sean suficientes y que les otorguen el poder de decisión. La alfabetización informacional también tiene sus límites.
Detección La detección de la propaganda computacional puede centrarse tanto en el contenido como en las cuentas.
Detección de contenido propagandístico El contenido propagandístico puede detectarse mediante métodos como el análisis de texto y el análisis de redes sociales. Las primeras técnicas para detectar la coordinación implicaban principalmente modelos supervisados como árboles de decisión, bosques aleatorios, máquinas de vectores de soporte y redes neuronales. Estos métodos se limitan a analizar las cuentas una por una sin tener en cuenta la coordinación entre ellas. Los bots avanzados y la dificultad para encontrar o crear conjuntos de datos han obstaculizado estos métodos de detección. Las estrategias de las técnicas de detección modernas incluyen hacer que el modelo analice un gran conjunto de cuentas teniendo en cuenta la coordinación, crear algoritmos especializados para ello y desarrollar modelos no supervisados y semisupervisados.
Detección de cuentas de propaganda La detección de cuentas puede realizarse mediante diversos enfoques: pueden centrarse en identificar al autor de una publicación, utilizar métodos estadísticos, analizar una combinación de texto y datos complementarios, como las características de las cuentas, o examinan las tendencias en la actividad de los usuarios. Este segundo enfoque también incluye un enfoque de análisis de redes sociales, con una técnica que examina los aspectos temporales de las campañas junto con las características de los grupos detectados.
Limitaciones