En una reciente revisión de sus principios de inteligencia artificial (IA), Google eliminó una de las restricciones más significativas de su política anterior: la explícita prohibición de desarrollar armamento o tecnologías destinadas a causar daño a personas. Este cambio ha suscitado preguntas sobre la postura ética de la compañía respecto al uso de la IA en contextos militares y de vigilancia.
Este ajuste en la política de Google se alinea con una tendencia en la industria tecnológica hacia una mayor flexibilización en las normas sobre IA militar. En 2023, OpenAI también revisó su normativa antes de anunciar un acuerdo con el Pentágono. Con esta actualización, Google ha eliminado una categoría específica que detallaba las aplicaciones que no desarrollaría bajo ninguna circunstancia.
Anteriormente, la política de IA de Google incluía una lista de aplicaciones prohibidas, entre las que destacaban las tecnologías que podrían causar daño significativo y el desarrollo de armas destinadas a dañar personas. Sin embargo, esta sección ha desaparecido, aunque la empresa menciona ahora que trabajará para «mitigar resultados no deseados o dañinos» y alinear sus acciones con los principios del derecho internacional y los derechos humanos, sin establecer restricciones explícitas sobre el desarrollo de IA para aplicaciones militares.
El cambio da respuesta a un contexto de creciente interés por parte de las empresas tecnológicas en contratos gubernamentales y militares. En 2017, Google colaboró con el Pentágono en el Proyecto Maven, una iniciativa que utilizó IA para el análisis de imágenes captadas por drones. Esta colaboración desató protestas de empleados y llevó a Google a no renovar el contrato, reafirmando entonces su compromiso de no crear IA para fines armamentísticos. No obstante, la reciente modificación en sus principios sugiere una posible apertura a colaboraciones similares en el futuro.
Ante esta modificación, Google emitió una declaración en la que reafirman su compromiso con el desarrollo responsable de la IA, sin abordar directamente la eliminación de la restricción sobre el armamento, lo que ha generado especulaciones sobre los posibles acuerdos futuros con el Pentágono.
El ajuste en los principios de IA de Google podría tener diversas implicaciones. La eliminación de la restricción podría permitirle considerar futuros acuerdos con el Pentágono y otros gobiernos en proyectos con aplicaciones militares, abriendo la puerta a colaboraciones en análisis de datos y seguridad cibernética. Sin embargo, podría provocar reacciones de empleados críticos con la participación de la empresa en iniciativas militares, como ocurrió con el Proyecto Maven.
Además, en un contexto donde la IA es cada vez más estratégica en defensa y seguridad nacional, es probable que los gobiernos impongan regulaciones más estrictas sobre su uso, lo que afectaría a Google y a otras tecnológicas. Por otro lado, este movimiento podría influir en la competencia del sector, animando a empresas como Microsoft, Amazon y OpenAI a seguir un camino similar, lo que intensificaría la rivalidad en el mercado de IA para defensa y seguridad.
La eliminación de la restricción sobre el desarrollo de IA para armamento pourrait redefinir el papel de Google en el sector de defensa. Aunque la compañía sigue mencionando el respeto a los derechos humanos, la omisión de una prohibición explícita ha generado preocupación en la comunidad tecnológica y entre expertos en ética de la IA. La inteligencia artificial está emergiendo como una herramienta clave para la seguridad global, y la decisión de Google podría influir en las posturas de otras grandes tecnológicas y en la evolución de la IA en el ámbito militar. Ahora, todas las miradas están puestas en si la compañía anunciará nuevos contratos con el Pentágono y cómo responderán sus empleados ante este cambio de rumbo estratégico.
