En los últimos años, la inteligencia artificial (IA) ha demostrado un potencial significativo para mejorar diversos aspectos de la vida humana, como el descubrimiento de nuevos antibióticos y la predicción de enfermedades. Sin embargo, también se ha asociado con consecuencias negativas, incluidos riesgos de desinformación, manipulación y violaciones de derechos humanos. En respuesta a estos desafíos, más de un centenar de científicos y líderes internacionales han solicitado establecer «líneas rojas» globales para limitar los peligros de la IA. Esta petición será presentada a la Asamblea General de la ONU con el objetivo de evitar que el desarrollo de la IA amenace la seguridad global y el bienestar humano.

Casos trágicos, como los suicidios de adolescentes en Estados Unidos, han puesto de manifiesto los peligros de la interacción sin límites con la IA. Los padres de los jóvenes han demandado a las compañías responsables, acusándolas de facilitar conductas nocivas a través de sus plataformas. Figuras destacadas, como Yoshua Bengio y Stuart Russell, abogan por una colaboración internacional para controlar los desarrollos de la IA y asegurar que no sobrepasen las capacidades humanas, provocando riesgos como pandemias o manipulación a gran escala. Organizaciones como Fairplay y expertos en IA alertan sobre la necesidad urgente de establecer salvaguardas efectivas para proteger a los usuarios, especialmente a los menores.

Leer noticia completa en El Pais.