En los últimos años, el auge de la inteligencia artificial generativa ha impulsado a las empresas a desarrollar nuevos métodos para priorizar sus proyectos tecnológicos. La diversidad de aplicaciones no plantea un problema en sí; el verdadero reto reside en evaluar el valor empresarial frente al costo, el esfuerzo y otras consideraciones relevantes. Este desafío es particularmente complejo debido a fenómenos como las «alucinaciones» de la IA, donde los agentes toman decisiones incorrectas, y a la rápida evolución del panorama regulatorio. Para abordar estas preocupaciones, se propone integrar prácticas de IA responsable en las estrategias de priorización de proyectos.
El enfoque arquitectónico propuesto por AWS define la IA responsable como el diseño y uso de tecnología de inteligencia artificial para maximizar beneficios y minimizar riesgos. Este marco identifica ocho dimensiones clave: equidad, explicabilidad, privacidad y seguridad, controlabilidad, veracidad y robustez, gobernanza y transparencia. Durante el ciclo de vida del desarrollo, los equipos de IA generativa deben evaluar los riesgos potenciales en cada dimensión y aplicar medidas de mitigación.
Esta visión integral es especialmente relevante para los proyectos de IA generativa, donde los riesgos son nuevos y las mitigaciones pueden ser desconocidas. Integrar prácticas de IA responsable desde el inicio ofrece una evaluación más precisa del riesgo y reduce la posibilidad de costosos retrabajos.
Aunque muchas empresas tienen sus propios métodos de priorización, la metodología WSJF (Weighted Shortest Job First) del sistema Scaled Agile destaca como una opción valiosa. Este método calcula la prioridad dividiendo el costo del retraso entre el tamaño del trabajo, donde el costo del retraso evalúa el valor comercial en términos de urgencia y oportunidades, y el tamaño del trabajo considera el esfuerzo necesario.
Para ilustrar, se pueden comparar dos proyectos de IA generativa: uno enfocado en generar descripciones de productos mediante un modelo de lenguaje, y otro en crear visuales para campañas publicitarias con modelos de texto a imagen. Sin considerar la IA responsable, el segundo proyecto parece más urgente. Sin embargo, al incorporar una evaluación de riesgos, el primer proyecto muestra menor complejidad y costos de mitigación, haciéndolo más viable.
Desarrollar políticas de IA responsable es crucial para las empresas no solo para evitar costos adicionales, sino también para generar confianza entre los clientes y cumplir con nuevos marcos regulatorios. Este enfoque podría alterar significativamente la manera en que se priorizan los proyectos de IA generativa, garantizando así decisiones más informadas y responsables.
