El concepto de confianza implícita en los datos corporativos se tambalea ante la creciente integración de la Inteligencia Artificial en las operaciones empresariales. Según la consultora Gartner, el enfoque tradicional de data governance está en pleno proceso de transformación hacia una estrategia de “confianza cero”. Este cambio se verá más acelerado que nunca, dado el aumento de datos generados por IA y la creciente complejidad para discernir su origen humano o automatizado.
Para 2028, se proyecta que la mitad de las organizaciones habrán adoptado una postura de “zero trust” en la gobernanza de datos. Esto se debe a que el volumen de información producida por IA sigue proliferando, generando datos no verificados que influyen en decisiones empresariales críticas, desde operaciones hasta cumplimientos legales.
La problemática ya no se limita a la calidad de los datos, sino al hecho de que cada vez más contenido se incorpora a los sistemas sin una verificación de origen robusta. Los comités directivos ahora enfrentan una realidad donde no se puede asumir que los datos son confiables de forma automática. La frontera entre datos reales y texto generado por IA se desvanece, especialmente cuando se considera la alimentación de repositorios corporativos con contenido automatizado, provocando que lo que una vez se infería como “dato” ahora sea solo un “texto plausible”.
La estrategia “zero trust” en data governance emula conceptos de ciberseguridad, donde nada es confiado a priori. En la práctica, esto significa que ningún dato se considera automáticamente apto para decisiones críticas o procesos automatizados sin pasar por una estricta autenticación, verificación y trazabilidad. Las organizaciones deberán establecer un marco donde la verificación del origen y la integridad del dato sea un requisito operacional.
Los riesgos de emplear datos no verificados son variados: desde informes elaborados sin fuentes confiables, hasta automatizaciones basadas en premisas erróneas. Cada riesgo puede mitigar con un enfoque “zero trust”, que exige etiquetado de origen, controles de recertificación y políticas que validen los datos según cada caso de uso.
Además, Gartner advierte sobre el “model collapse”, una degeneración progresiva de los modelos de IA cuando estos se entrenan con datos generados por otras IA, lo cual afecta desde la analítica hasta la toma de decisiones empresariales al perder contacto con la realidad original. Aquí es vital identificar y etiquetar los datos producidos por IA, una capacidad que se perfila como una ventaja competitiva esencial para las empresas.
Para mantenerse al día, Gartner propone una serie de acciones estratégicas: designar un responsable de gobierno de IA, fomentar la colaboración entre áreas, actualizar la gobernanza existente y adoptar prácticas de gestión activa de metadatos. Estos pasos buscan no solo mitigar riesgos, sino también mejorar la resiliencia de los sistemas que ahora deben operar en un entorno donde la IA genera contenido a gran escala.
La responsabilidad recae, en última instancia, sobre los CIOs, CDOs y los responsables de seguridad quienes, frente al coste y la velocidad de las operaciones actuales, deben asegurar que los datos no solo sean útiles, sino también seguros y válidos, incluso en un horizonte dominado por la producción masiva de contenido por IA.
Más información y referencias en Noticias Cloud.
