El Departamento del Fiscal del Condado de King, que supervisa las acusaciones en la región de Seattle, ha dado un paso significativo al instruir a la policía para que se abstenga de utilizar inteligencia artificial (IA) en la redacción de informes policiales. Esta directiva refleja una creciente preocupación entre los fiscales de todo Estados Unidos sobre el impacto potencialmente negativo de las tecnologías de inteligencia artificial generativa en el sistema de justicia penal.
En un memorando interno, el fiscal en jefe adjunto, Daniel J. Clark, hizo hincapié en que, aunque no se oponen al progreso tecnológico, las herramientas que generan informes narrativos a partir de grabaciones de cámaras corporales aún no son lo suficientemente maduras para su implementación en el ámbito policial. Clark expresó que estas tecnologías deben alcanzar un nivel de fiabilidad que, por el momento, no han demostrado.
Esta medida cautelar se produce en medio del impulso por parte de empresas tecnológicas de productos como DraftOne de Axon, diseñados para reducir el tiempo que los oficiales dedican a la escritura de informes. Sin embargo, el fiscal Clark enfatizó que los errores generados por la IA pueden ser tan sutiles que podrían pasar desapercibidos, incluso durante una revisión cuidadosa. Esta situación plantea riesgos significativos en la precisión de los documentos, que son fundamentales para el procesamiento judicial y la defensa legal.
A medida que la tecnología avanza, se espera que otras jurisdicciones sigan el ejemplo del Condado de King, adoptando enfoques cautelosos. La fiabilidad de los informes policiales es crucial; sobre estos documentos se construyen casos, se determinan cargos y se fundamentan interrogatorios. Confiar en una tecnología que aún no ha probado ser segura podría comprometer la integridad de todo el sistema judicial.
En última instancia, la renuencia a aceptar informes redactados por inteligencia artificial subraya la necesidad de proteger tanto a los individuos como a las instituciones dentro del sistema legal, garantizando que la tecnología no comprometa la justicia que debe servir.
