En un esfuerzo por regular el uso de inteligencia artificial (IA) en la elaboración de informes policiales, el Senado de Utah examina el proyecto de ley S.B. 180. Este importante proyecto busca obligar a las fuerzas del orden a revelar si un informe fue creado total o parcialmente mediante herramientas de IA generativa. Además, la legislación exige que las agencias desarrollen políticas claras sobre el uso de estas tecnologías, incluyendo la inclusión de avisos en los informes generados por IA.
La iniciativa surge a raíz del aumento en el uso de software basado en IA que facilita la redacción de reportes policiales. Un ejemplo notable es Draft One de la empresa Axon, que emplea grabaciones de audio de cámaras corporales para generar informes. Si bien estas tecnologías prometen eficiencia, han suscitado preocupaciones entre defensores de la privacidad y derechos civiles, quienes argumentan que un simple aviso no es suficiente para mitigar los riesgos inherentes.
Los críticos resaltan que la IA a menudo enfrenta desafíos en la interpretación precisa del lenguaje humano, incluidos dialectos, jerga y metáforas, lo que podría llevar a malentendidos y afectaciones en el contenido de los informes, especialmente en situaciones críticas. Además, existe el riesgo de que los oficiales eludan responsabilidad por errores, atribuyéndolos a la IA, lo que podría obstaculizar la rendición de cuentas en investigaciones penales.
Ante estos desafíos, algunas jurisdicciones están tomando medidas. En el Condado de King, Washington, se ha instruido a los agentes que eviten el uso de IA en la redacción de informes, debido a las posibles repercusiones en el sistema de justicia penal. Este enfoque proactivo destaca la creciente preocupación por el papel de la IA en las prácticas policiales y subraya la necesidad de transparencia y regulación adecuada.
Con el avance inexorable de esta tecnología, se espera que más estados en Estados Unidos consideren la implementación de leyes similares para asegurar un uso responsable de la IA en el ámbito policial y judicial, buscando un equilibrio entre innovación y protección de derechos fundamentales.
