La Electronic Frontier Foundation (EFF), junto a 30 grupos de la sociedad civil y académicos, ha enviado una advertencia contundente a Yvette Cooper, Secretaria del Interior del Reino Unido, y a Peter Kyle, Secretario del Departamento de Ciencia, Innovación y Tecnología. La advertencia se centra en los peligros inherentes al Proyecto de Ley de Uso y Acceso de Datos (DUA Bill), un borrador legislativo que podría transformar el paisaje de la aplicación de la ley en el país.
El polémico artículo 80 del DUA Bill emerge como el epicentro de las críticas, pues debilita las protecciones contra decisiones completamente automatizadas dentro del ámbito de la aplicación de la ley, diluyendo salvaguardias cruciales para la protección de datos. En un giro legislativo alarmante, el artículo contraviene las secciones 49 y 50 de la Ley de Protección de Datos de 2018, anulando la prohibición previa de decisiones automatizadas excepto en casos donde los datos son de categorías especiales.
La implementación del artículo 80 abriría la puerta a que las autoridades basen decisiones automatizadas en factores como el estado socioeconómico de los individuos, su región o código postal, emociones deducidas, e incluso acentos regionales. Esta mecánica no solo incrementa el riesgo de sesgo y discriminación, sino que también carece de transparencia, creando un clima en el que la justicia podría quedar comprometida.
Incluso la Evaluación de Impacto del gobierno sobre el DUA Bill reconoce el potencial discriminatorio del proyecto. Consignan que «aquellos con características protegidas, como raza, género y edad, tienen más probabilidades de enfrentar discriminación» debido a los sesgos históricos presentes en los datos utilizados para la toma de decisiones automatizadas. Este reconocimiento, sin embargo, no ha impedido que el gobierno del Reino Unido avance en lo que muchos consideran una agenda peligrosa.
En un entorno ya de por sí marcado por la opacidad en la toma de decisiones automatizadas, las opciones de reparación para aquellos afectados serían prácticamente inexistentes. El DUA Bill podría, por tanto, poner en riesgo a los grupos más vulnerables, sometiéndolos a decisiones automatizadas injustas y perjudiciales.
Los firmantes de la advertencia destinada a Cooper y Kyle enfatizan la urgencia de abordar las carencias de salvaguardias en el uso de herramientas automatizadas en la aplicación de la ley, advirtiendo del costo social y ético que podría acarrear la inacción. Sin intervenciones que aseguren una regulación sólida y justificable, la erosión de derechos básicos podría ser el legado de esta propuesta legislativa.
