En un esfuerzo sin precedentes por abordar los riesgos y beneficios asociados a la inteligencia artificial avanzada, representantes de diez países se congregaron en San Francisco los días 20 y 21 de noviembre de 2024 para la primera reunión de la Red Internacional de Institutos de Seguridad de la IA. Este evento histórico, con San Francisco como epicentro, marca el inicio de una nueva etapa en la colaboración global en torno a la seguridad de la IA.
La reunión, que contó con la participación de institutos y oficinas gubernamentales de países como Australia, Canadá, Francia, Japón, Kenia, Corea del Sur, Singapur, Reino Unido, Estados Unidos, junto con la Comisión Europea, surge a partir de la Declaración de intenciones de Seúl hacia la cooperación internacional en ciencia de la seguridad de la IA, presentada en la Cumbre de IA de Seúl el pasado mayo.
Esta iniciativa busca fomentar un entendimiento internacional sobre los riesgos que plantea la inteligencia artificial avanzada, promoviendo al mismo tiempo soluciones para mitigarlos. La Declaración de misión de la Red destaca que la cooperación global es vital para afrontar los desafíos que presenta la IA, impulsar una innovación responsable y asegurar que los beneficios de esta tecnología se distribuyan de manera equitativa en todo el mundo.
La Red se perfila como un foro para colaborar en cuatro áreas clave: Investigación, Pruebas, Orientación e Inclusión. En el ámbito de la investigación, se trabajará junto a la comunidad científica para profundizar en los riesgos y capacidades de los sistemas de IA. En cuanto a las pruebas, se implementarán buenas prácticas compartidas para evaluar dichos sistemas. La orientación buscará un enfoque común para interpretar los resultados de estas pruebas, mientras que la inclusión garantizará la participación de socios globales, compartiendo herramientas e información de manera accesible.
Una de las características destacadas de la Red es su compromiso con la diversidad cultural y lingüística, esencial para enfrentar los riesgos de manera integral y promover soluciones inclusivas. Asimismo, se enfatiza en que la innovación en IA debe ser confiable, segura y accesible, en beneficio de toda la sociedad.
La colaboración técnica entre los miembros de la Red no solo abordará la mitigación de riesgos, sino que también guiará el desarrollo y despliegue responsable de sistemas de IA, fomentando prácticas de transparencia, equidad y respeto a los derechos humanos.
La creación de esta Red Internacional representa un avance significativo hacia la alineación global en la seguridad de la IA. Mediante este esfuerzo conjunto, se busca maximizar el potencial de la IA mientras se minimizan sus riesgos, contribuyendo así a un entorno tecnológico más seguro y beneficioso para todos.
Los participantes de la reunión en San Francisco reafirmaron su dedicación a trabajar colectivamente para asegurar que los avances en inteligencia artificial sean no solo seguros, sino también éticos y accesibles, promoviendo un impacto positivo a nivel mundial.
