En un reciente esfuerzo por consolidar su posición como líder en el ámbito de la inteligencia artificial (IA), la administración de Joe Biden ha presentado un memorando titulado «Avanzando en el liderazgo de Estados Unidos en inteligencia artificial». Este documento pone en marcha una serie de iniciativas dirigidas a integrar la IA en el aparato de seguridad nacional del país, con el ambicioso objetivo de situar a Estados Unidos a la vanguardia del uso de esta tecnología.
Una de las propuestas clave del memorando es reclutar a expertos destacados tanto del ámbito académico como del sector privado. Además, se enfatiza en la utilización de modelos de inteligencia artificial gestionados por empresas privadas para reforzar la seguridad nacional. Sin embargo, este enfoque ha suscitado inquietudes significativas respecto a la transparencia y la rendición de cuentas, dado que muchos sistemas de IA operan bajo un velo de secretismo que preocupa a diversos sectores de la sociedad.
El uso de inteligencia artificial por parte de empresas con fines de lucro en decisiones críticas de la vida de los ciudadanos —tales como su elegibilidad para un empleo, cuestiones migratorias, seguros o vivienda— es visto con cautela por los defensores de los derechos civiles. Actualmente, diversas organizaciones están arrendando estos servicios automatizados, y la mayoría de las personas afectadas desconocen la intervención de máquinas en decisiones que impactan profundamente sus vidas. La imposibilidad de apelar estos dictámenes, o siquiera entender el proceso detrás de ellos, profundiza el desconcierto y la desconfianza ciudadana.
La integración de tecnología de IA privada dentro del opaco mundo de la seguridad nacional promete complicar aún más el panorama. Las agencias gubernamentales involucradas tienen una reputación de hermetismo, lo que ha llevado a organizaciones como la Electronic Frontier Foundation (EFF) a iniciar acciones legales para conseguir la divulgación de las normas básicas que gobiernan la vigilancia masiva. La confluencia de estas dos realidades —la IA y la seguridad nacional— podría resultar en un «monstruo de Frankenstein», una entidad omnipotente, carente de transparencia y control externo.
La administración Biden busca impulsar a las agencias federales hacia una colaboración estrecha con el sector privado de IA, levantando preocupaciones acerca de un futuro en el que los entresijos del funcionamiento de estos modelos queden ocultos bajo una capa casi infranqueable de secretos del gobierno. La implementación de modelos de IA eficientes requiere de análisis exhaustivos de ingentes cantidades de datos, haciendo fundamental conocer qué información se utiliza y cómo se alcanzan las conclusiones que afectan decisiones de seguridad cruciales. Esto podría llevar a la clasificación de los datos utilizados para entrenar algoritmos y a la imposición a las empresas de mantener en secreto los detalles de sus tecnologías.
El memorando destaca la importancia creciente de la inteligencia artificial para la seguridad nacional, posicionándola como una innovación crucial de nuestro tiempo. No obstante, mientras Estados Unidos persigue el liderazgo tecnológico, despierta una ola de interrogantes acerca del impacto que esta alianza entre el gobierno y los gigantes de la IA podría tener en la necesidad imperante de transparencia y rendición de cuentas en los sistemas automatizados que moldean el día a día de la sociedad.
