OpenAI ha presentado un inquietante informe revelando la creciente amenaza de uso indebido de sus modelos de inteligencia artificial por parte de actores estatales y ciberdelincuentes. La compañía demuestra cómo estas herramientas han sido manipuladas para realizar campañas de desinformación, fraudes financieros y sofisticados ciberataques, exponiendo un lado oscuro de la tecnología que promete transformar al mundo.
Un hallazgo destacado en el informe es el uso de la inteligencia artificial para influenciar campañas políticas y diseminar desinformación en redes sociales. OpenAI ha identificado actividades provenientes de actores vinculados a China e Irán, quienes han utilizado estos modelos para generar artículos y comentarios cuidadosamente articulados, buscando modificar la percepción pública. Un ejemplo concreto es el uso de ChatGPT para redactar críticas a la política exterior de los Estados Unidos, las cuales se distribuyeron en medios digitales de América Latina. Además, la propaganda se traduce y adapta en múltiples idiomas, demostrando un intento por maximizar su alcance global. Frente a esto, OpenAI está trabajando con plataformas como Meta y Twitter para identificar y desmantelar estos contenidos generados artificialmente.
En el terreno de los fraudes financieros, el informe destaca la utilización de inteligencia artificial en esquemas de contratación ficticia y estafas sentimentales. Grupos norcoreanos han aprovechado estas herramientas para generar respuestas automáticas en entrevistas laborales falsas, con la intención de infiltrarse en compañías tecnológicas occidentales. Por otro lado, operaciones detectadas en el Sudeste Asiático evidencian el uso de modelos de lenguaje en la creación de mensajes convincentes en fraudes románticos. Las víctimas, luego de un prolongado intercambio con perfiles falsos, eran persuadidas para invertir en plataformas fraudulentas de criptomonedas.
La amenaza no se detiene aquí. OpenAI revela que sus modelos han sido explotados para automatizar actividades de hacking, como la generación de código malicioso y la perfección de exploits para infiltraciones en redes. Estas tácticas se han asociado principalmente a grupos dedicados al espionaje cibernético en Asia y Oriente Medio. No obstante, OpenAI asegura que ha mejorado sus sistemas de detección y aplicó restricciones estrictas, bloqueando miles de intentos maliciosos y colaborando estrechamente con agencias de ciberseguridad.
En respuesta a estas alarmantes tendencias, OpenAI ha reafirmado su compromiso con la seguridad mediante la implementación de salvaguardas para prevenir el uso malicioso de sus herramientas. Esto incluye mejoras en sus sistemas de detección de abusos en tiempo real, colaboración con gobiernos y gigantes tecnológicos para compartir datos sobre amenazas emergentes, y restricciones más severas en el acceso a sus modelos.
La empresa enfatiza que, mientras la inteligencia artificial tiene un potencial transformador para el bienestar de la humanidad, es imperativo mantenerse alerta a los riesgos de su explotación indebida. En su reciente informe, OpenAI reitera su determinación de asegurar que sus innovaciones se utilicen de forma ética y responsable, subrayando su posición de liderazgo y transparencia en el ámbito de la inteligencia artificial en estos tiempos de rápida evolución tecnológica.
