En un movimiento clave hacia la transparencia y la regulación tecnológica, el gobernador de California, Gavin Newsom, ha firmado el proyecto de ley S.B. 524. Esta nueva legislación busca regular el creciente uso de la inteligencia artificial (IA) en la elaboración de informes policiales, un avance apoyado por la Electronic Frontier Foundation (EFF).
La iniciativa establece que las fuerzas del orden deben indicar explícitamente si un informe ha sido redactado, total o parcialmente, por algoritmos de IA. Además, se prohíbe que los proveedores de estas tecnologías vendan o compartan la información suministrada por las agencias policiales.
Una de las características más destacadas de la ley es que impone a los cuerpos de seguridad la obligación de conservar todas las versiones de los informes. Esto permitirá a jueces y abogados discernir qué partes del informe han sido elaboradas por humanos y cuáles por IA. Sin embargo, esta disposición representa un reto para herramientas como Draft One de Axon, que no permite rastrear las ediciones de forma clara. Las fuerzas del orden deberán colaborar con Axon para modificar su aplicación o asumir la responsabilidad de mantener un registro detallado de las modificaciones.
La EFF, conocida por su actitud crítica hacia la tecnología sin control, ha manifestado su compromiso para supervisar el cumplimiento de esta normativa. California se une así a Utah, que ya había implementado una legislación similar, ampliando la vigilancia sobre el uso de IA en la redacción de informes policiales.
Ciertamente, persisten dudas sobre si estas herramientas podrían estar violando leyes de retención de registros y acerca del impacto general que podría tener la IA en el sistema de justicia penal. Se discute la necesidad de normativas más estrictas y quizás hasta la prohibición completa del empleo de IA generativa en este contexto.
La aprobación de S.B. 524 es vista como un primer y significativo paso hacia la regulación de la IA en el ámbito policial. La expectativa es que otros estados sigan el ejemplo y promulguen leyes aún más estrictas para abordar los desafíos éticos y legales que plantea la tecnología en el sector de la seguridad pública.
