El Departamento de Justicia de Estados Unidos (DOJ) ha desmantelado una importante red de bots rusos que empleaba inteligencia artificial (IA) para crear más de 900 perfiles falsos en redes sociales. El objetivo de estos perfiles era difundir desinformación sobre la guerra entre Rusia y Ucrania en Estados Unidos y otros países.
La sofisticada operación utilizaba IA para generar perfiles falsos, principalmente en la plataforma X, anteriormente conocida como Twitter. Estos perfiles se hacían pasar por ciudadanos estadounidenses y publicaban mensajes de apoyo a la guerra en Ucrania. Entre los contenidos difundidos se incluían videos del presidente Vladimir Putin justificando la invasión de Rusia y promoviendo otras narrativas pro-Kremlin.
La investigación del DOJ reveló que un editor no identificado del medio de comunicación estatal ruso RT estaba detrás de esta campaña de propaganda. Además, se descubrió que la alta dirección de RT había respaldado el uso de esta fábrica de bots para «distribuir información a gran escala».
Aunque el DOJ aún no ha determinado cuántas personas siguieron o interactuaron con el contenido falso generado por IA, la plataforma X ha suspendido los perfiles falsos por «violaciones de los términos de servicio».
El Kremlin ha utilizado perfiles falsos en redes sociales para difundir desinformación y propaganda durante mucho tiempo. Sin embargo, con los rápidos avances en IA, que permiten crear imágenes, textos, audios y videos realistas pero falsos, esta práctica se está volviendo cada vez más común. Recientemente, tanto Meta como OpenAI han identificado campañas, algunas vinculadas a Rusia, que utilizan IA para manipular la opinión pública y difundir desinformación.
Un portavoz del DOJ comentó: «El uso de IA para crear perfiles falsos y difundir propaganda es una amenaza creciente para la seguridad nacional y la integridad de la información pública. Continuaremos investigando y desmantelando estas operaciones para proteger a nuestra sociedad de la manipulación y la desinformación».
El descubrimiento de esta fábrica de bots subraya la necesidad urgente de desarrollar y aplicar mejores medidas de seguridad y detección en las plataformas de redes sociales para combatir la desinformación impulsada por IA.
El desmantelamiento de esta operación de bots rusos es un paso importante en la lucha contra la desinformación global. A medida que la tecnología de IA avanza, es crucial que tanto las autoridades como las plataformas de redes sociales refuercen sus estrategias para identificar y neutralizar estas amenazas.
