Un reciente estudio de la Electronic Frontier Foundation (EFF) ha generado preocupación por la implementación del Draft One de Axon Enterprise, una herramienta de inteligencia artificial diseñada para redactar informes policiales a partir de audio captado por las cámaras corporales de los agentes. Este sistema, que emplea una versión adaptada de ChatGPT, ha sido criticado por su supuesta falta de transparencia, lo que podría obstaculizar la rendición de cuentas ante el público.
La revisión de documentos de agencias policiales que ya utilizan esta tecnología ha mostrado que es difícil determinar qué partes de los informes son generadas por la inteligencia artificial y cuáles por los humanos. Esta ambigüedad preocupa a los expertos, quienes advierten que podría complicar la evaluación de la eficacia y los posibles riesgos de la herramienta.
Draft One procesa solo el diálogo de las cámaras, lo que levanta sospechas sobre la precisión y el contexto de la información. Aunque los agentes tienen la tarea de revisar y ajustar el texto, los borradores originales no se almacenan, dificultando así cualquier tipo de auditoría. Un administrador del Departamento de Policía de Frederick, Colorado, comentó al respecto: «Nos encanta tener juguetes nuevos hasta que el público se entera», reflejando la cultura de secreto que podría resultar problemática.
Además, Axon no conserva registros de las versiones iniciales generadas por la IA, lo que complica aún más los intentos de realizar auditorías. Esta política plantea serias inquietudes sobre la responsabilidad en casos de errores en los informes.
En el ámbito legislativo, California está considerando un proyecto de ley que requeriría la divulgación de informes generados con IA. No obstante, la incapacidad del Draft One para guardar las versiones preliminares lo haría incompatible con este posible requisito legal.
Algunos fiscales, como los del Condado de King en Washington, han recomendado no utilizar esta tecnología debido a la falta de confiabilidad garantizada. La EFF insta a los responsables de los departamentos policiales a evaluar los posibles daños y desafíos que podría introducir esta tecnología, en un sistema de justicia ya criticado por su falta de transparencia y equidad.
La implementación del Draft One no solo cuestiona la naturaleza de los informes policiales, sino también la integridad en la aplicación de la ley.
