En 2024, la Electronic Frontier Foundation (EFF) tomó la iniciativa para enfrentar el creciente uso de la inteligencia artificial (IA) en la redacción de informes policiales, un tema que ha desencadenado un intenso debate sobre su fiabilidad y ética en el contexto de la justicia penal. Draft One, una herramienta de IA desarrollada por Axon, la misma empresa que provee cámaras corporales a múltiples departamentos de policía en Estados Unidos, se ha convertido en la solución más popular para generar estos informes.
Las inquietudes son profundas y complejas. La falta de pruebas concluyentes sobre la eficacia de los informes generados por IA y la ausencia de transparencia generan gran preocupación, especialmente en un sistema donde tales documentos son cruciales para decisiones judiciales que afectan la libertad de las personas. Un ejemplo claro es la decisión de la fiscalía del condado de King, en Washington, que ha prohibido el uso de IA en la redacción de informes policiales. La razón detrás de esta restricción es el escepticismo que estas herramientas generan y el potencial riesgo de injusticias.
Un reciente informe de la EFF destacó cómo Axon ha diseñado Draft One de manera que compromete la transparencia. La IA procesa el audio captado por las cámaras corporales para generar un borrador del informe, pero una vez terminado, el borrador original desaparece, lo que dificulta la verificación de autoría entre el oficial y el sistema de inteligencia artificial. Esta opacidad podría ser utilizada como argumento de defensa en casos de perjurio, alegando que cualquier inconsistencia en el testimonio fue producto de la IA.
Ante estas preocupaciones, diversas entidades y legisladores han comenzado a tomar medidas. Utah ha aprobado una legislación que exige que los informes incluyan una advertencia clara sobre el uso de IA y requiere que los oficiales validen su precisión. Por su parte, California ha implementado leyes más estrictas que obligan a la divulgación del uso de IA en los informes y la conservación de los borradores iniciales para hacer posibles las auditorías.
Con la creciente desconfianza hacia el uso de IA en el ámbito policial, se prevé que más estados seguirán el ejemplo y promulgarán legislaciones que regulen, o inclusive prohíban, el uso de esta tecnología en la elaboración de informes policiales. Esta tendencia apunta a un cambio significativo en el balance entre innovación tecnológica y responsabilidad ética en los procedimientos de justicia.
