En tiempos recientes, el creciente uso de la inteligencia artificial en procesos de toma de decisiones dentro de diversas instituciones ha desatado una serie de preocupaciones sobre la equidad y justicia en dichas acciones. Los algoritmos se han convertido en herramientas utilizadas por propietarios de viviendas, compañías de seguros, agencias como el ICE y empleadores, todos con el fin de tomar determinaciones que tienen un impacto significativo en la vida de las personas. Estas decisiones abarcan desde la concesión de viviendas y la aprobación de tratamientos médicos, hasta la supervisión en procesos migratorios. Además, las empresas están recurriendo a la IA para evaluar el riesgo de despidos y predecir comportamientos laborales como la intención de sindicalización o renuncia.
En medio de este panorama, algunas iniciativas han emergido para contrarrestar los efectos negativos de estas prácticas automatizadas, las cuales, a menudo, han resultado ser discriminatorias por factores de género, raza y otros elementos protegidos. Así, en 2024, Colorado se posicionó a la vanguardia al aprobar la Ley de Inteligencia Artificial (AI Act). Este conjunto normativo regula los “sistemas de IA de alto riesgo”, especialmente aquellos que inciden sobre decisiones críticas como el acceso a la educación, empleo, créditos, servicios de salud y vivienda. La ley pretende establecer un marco de transparencia, integridad de procesos y evaluaciones de impacto.
En un intento por operar con mayor transparencia, el AI Act obliga a desarrolladores y usuarios de estos sistemas a informar al público sobre su funcionamiento, la procedencia de los datos empleados y las medidas aplicadas para mitigar posibles daños. Los afectados obtienen así el derecho a conocer las razones detrás de las decisiones que les atañen y corregir errores en la información que ha sido procesada sobre ellos.
A pesar del avance que representa, la legislación adolece de ciertas limitaciones. Hoy en día, su implementación depende mayoritariamente del abogado general del estado, lo cual restringe la capacidad de los individuos para hacer valer sus derechos mediante acciones legales directas. Expertos han señalado la necesidad de incorporar un «derecho privado a la acción», que permitiría a los individuos interponer demandas contra empresas que transgredan sus derechos en relación a la IA. Asimismo, preocupa que una disposición actual otorgue un “supuesto refutable” de cumplimiento a las empresas que utilizan sistemas de IA, lo cual podría dificultar futuras reclamaciones por discriminación.
Aunque Colorado lidera esta incipiente batalla legislativa, es crucial que la normativa no solo se refuerce, sino que además otros estados sigan su ejemplo. El propósito es claro: evitar que los sistemas automatizados continúen privando injustamente a personas de oportunidades esenciales como empleo y servicios médicos. La lucha por un uso ético y justo de la tecnología ante el riesgo de discriminación en estos sistemas automatizados está apenas comenzando.
