En un esfuerzo por regular el uso de la inteligencia artificial en la elaboración de informes policiales, activistas de la Electronic Frontier Foundation (EFF) han urgido a los legisladores de California a aprobar el proyecto de ley S.B. 524. Presentado por el senador Jesse Arreguín, esta propuesta busca establecer controles claros sobre la tecnología y asegurar la transparencia en su implementación.
El proyecto obliga a incluir un aviso en todos los informes generados total o parcialmente por inteligencia artificial, indicando su origen. Además, requiere que se conserve el borrador inicial, permitiendo a abogados, jueces y otros auditores distinguir cuáles partes fueron redactadas por IA y cuáles por oficiales. También demanda que los agentes firmen y verifiquen la precisión de los hechos presentados, y prohíbe a los proveedores de IA vender o compartir la información proporcionada por las agencias policiales.
La falta de regulación actual ha complicado la identificación del uso de IA en cuerpos policiales. Herramientas como Draft One de Axon, que redacta informes utilizando grabaciones de cámaras corporales, evidencian este problema. Preocupa la capacidad de esta herramienta para manejar sarcasmos, contextos erróneos o interacción con distintos idiomas, y la falta de segregación clara entre contenido humano y generado por IA.
El S.B. 524 representa un paso importante hacia la regulación necesaria, en un contexto donde la tecnología de IA empieza a permear prácticas comunes en agencias policiales, especialmente dado el alcance de Axon como proveedor de cámaras corporales en el país.
Mientras se evalúa la eficacia de estos informes y su impacto en el sistema judicial, se considera que el S.B. 524 podría ser un primer paso crucial para manejar responsablemente una tecnología en crecimiento. La EFF y defensores del proyecto instan a los legisladores a avanzar con esta regulación vital para proteger la justicia y transparencia en los procesos policiales.
