En un contexto donde los gobiernos de América Latina recurren cada vez más a sistemas algorítmicos para la toma de decisiones cruciales, la Electronic Frontier Foundation (EFF) ha emitido un informe dirigido a abordar los desafíos que la inteligencia artificial (IA) representa para los derechos humanos en la región. Este documento, titulado «Estándares interamericanos y uso estatal de la IA para determinaciones que afectan derechos en América Latina: Implicaciones de derechos humanos y marco operativo», proporciona un marco operativo enfocado en la legislación internacional sobre derechos humanos.
La tendencia emergente en países como Colombia y Brasil ilustra el creciente uso de IA en procesos que van desde determinar la elegibilidad para ayudas sociales hasta la predicción de crímenes. En Colombia, el sistema Sisbén clasifica a los ciudadanos para programas de protección social a través de un algoritmo que mide la pobreza y vulnerabilidad. Brasil, por su parte, ha implementado el sistema de vigilancia Córtex, criticado por su escasa supervisión y capacidad de cruzar diferentes bases de datos gubernamentales. Estos ejemplos demuestran cómo, sin adecuadas medidas de control, la tecnología puede tener graves consecuencias para los ciudadanos.
El informe de EFF plantea preocupaciones sobre la transparencia y opacidad de estos sistemas, señalando que la complejidad algorítmica impide a las personas comprender cómo las decisiones afectan sus vidas. Además, destaca que estas tecnologías a menudo exacerban desigualdades existentes, impactando desproporcionadamente a comunidades marginadas sin ofrecer mecanismos claros para la restitución de derechos.
Un punto crucial del informe es la insistencia en la transparencia total durante el proceso de implementación de la IA. Se insta a los gobiernos a ser claros en cuanto al funcionamiento de estos sistemas, los datos utilizados y la lógica detrás de las decisiones automatizadas. También se subraya la importancia de establecer un debido proceso que permita a los individuos impugnar decisiones tomadas por algoritmos.
La participación pública se identifica como un elemento esencial. EFF enfatiza que los grupos más vulnerables deben tener una presencia activa en el desarrollo y uso de estos sistemas, y que la participación debe ir más allá del mero cumplimiento formal para transformarse en un proceso integral. Esto involucra auditorías independientes y evaluaciones de impacto en derechos humanos.
En un contexto donde la inteligencia artificial gana terreno en la toma de decisiones estatales, el llamado de EFF es atender con urgencia un enfoque centrado en los derechos humanos. La implementación de sistemas algorítmicos debe no solo respetar los derechos fundamentales, sino también promover una gobernanza que sea tanto democrática como equitativa en toda la región.
