Los Servicios de Niños y Familias de Nueva York (ACS) han implementado de manera sigilosa un algoritmo que clasifica a las familias como «de alto riesgo», empleando factores como el vecindario y la edad de la madre. Esta herramienta, desarrollada por la Oficina de Investigación y Análisis de ACS, ha generado preocupación debido a su falta de transparencia y la posibilidad de errores que podrían conducir a la separación de familias.
El sistema, que evalúa 279 variables, opera con información de casos de 2013 y 2014, lo que suscita dudas sobre la validez de los datos y su relevancia actual. A pesar de que podría estar automatizando prácticas discriminatorias, especialmente contra familias negras, la falta de acceso a los datos impide que las decisiones sean impugnadas eficazmente.
Este problema no es nuevo ni aislado. Anteriormente, en el condado de Allegheny, Pennsylvania, se observaron resultados similares, donde se detectó un sesgo racial en las investigaciones. Sin embargo, la falta de transparencia en Nueva York refleja un patrón preocupante.
A pesar de que estas herramientas han sido desafiadas en otros lugares, su uso continúa. Es imperativo que cualquier implementación de este tipo de tecnología sea rigurosamente auditada para proteger los derechos fundamentales. La confianza pública en el gobierno depende de la transparencia y responsabilidad en el uso de estas tecnologías.
