El legislativo de California ha dado un paso significativo al aprobar el proyecto de ley S.B. 524, destinado a regular los informes policiales generados por inteligencia artificial (IA). La mirada ahora está puesta en el gobernador Gavin Newsom, quien tiene la tarea de firmar la ley para que sea implementada.
Este avance legislativo es crucial, dado que el uso de tecnologías de IA en el ámbito policial plantea serias preocupaciones sobre la transparencia y fiabilidad de los informes generados. La empresa Axon, líder en tecnología para fuerzas de seguridad, ha impulsado productos como Draft One, que integran cámaras portátiles y herramientas de IA, pero su opacidad y potenciales riesgos han sido objeto de debate.
El empleo de IA en la redacción de narrativas para informes policiales puede conducir a omisiones importantes, como interpretaciones erróneas de lenguaje cultural y ciertos matices lingüísticos. Aunque se espera que los policías editen estas versiones generadas automáticamente, existe el riesgo de que confíen excesivamente en el software y no corrijan posibles errores. Además, las fallas en tecnologías de reconocimiento facial añaden otra capa de preocupación, motivo por el cual jurisdicciones como King County, Washington, han prohibido el uso de Draft One debido a su falta de fiabilidad.
El proyecto de ley S.B. 524, por lo tanto, busca establecer regulaciones que garanticen la transparencia y seguridad en el uso de estas tecnologías. Se requiere, por ejemplo, que todos los informes generados contengan disclaimers claros y que se mantenga una copia del borrador inicial para futuras verificaciones. Asimismo, la ley impone la obligación a los oficiales de leer y verificar los datos antes de firmar y prohíbe la venta de información por parte de proveedores de IA.
La comunidad es instada a manifestarse a través del Centro de Acción de EFF, exhortando al gobernador Newsom a firmar la ley S.B. 524. Este paso es esencial para reforzar la integridad y responsabilidad en el uso de inteligencia artificial dentro de los sistemas policiales y podría servir de modelo para otros estados en busca de marcos regulatorios similares.
