El avance de la inteligencia artificial (IA) está impulsando a las máquinas hacia niveles de autonomía sin precedentes, incrementando la urgencia por una mayor transparencia y explicabilidad en su funcionamiento. En un reciente panel de expertos, profesionales destacados discutieron las implicaciones de confiar en sistemas de IA autónomos.
Saradha Nagarajan, ingeniera de datos en Agilent Technologies, subrayó que la confianza es fundamental para la explicabilidad. Explicó que comprender el funcionamiento interno de los modelos de IA aumenta la confianza en sus predicciones y aconsejó establecer pautas éticas claras y mecanismos de auditoría.
Pankaj Agrawal de LinkedIn enfatizó que, en sectores regulados, la transparencia es crucial. Resaltó la importancia de una supervisión que asegure que las decisiones de la IA se alineen con normas éticas y operativas, especialmente en aplicaciones de alto riesgo.
Desde una perspectiva distinta, Dan Chernoff, científico de datos en Parallaxis, sugirió que la ética está más relacionada con el gobierno y la alineación con normas que con consideraciones éticas intrínsecas. Destacó la necesidad de trazar las decisiones de una IA hasta sus datos de entrada para identificar posibles errores.
Keshavan Seshadri de Prudential Financial discutió cómo regulaciones como la Ley de IA de la UE están influenciando la forma en que la industria aborda el riesgo. Propuso que los diseñadores de sistemas de IA deben mapear las decisiones a niveles de riesgo definidos para identificar sesgos y mejorar la seguridad.
La colaboración interfuncional fue otro tema destacado, resaltando que el desarrollo de IA responsable es una labor conjunta que requiere el aporte de líderes de producto, equipos de seguridad y otros colaboradores.
Finalmente, se destacó la importancia del diseño específico del dominio, especialmente en sectores regulados, para asegurar que reflejen adecuadamente las políticas y restricciones aplicables. Este enfoque busca construir sistemas más confiables y seguros ajustados a las necesidades de cada sector.
