En un reciente evento organizado por el AI Accelerator Institute, un grupo de expertos en inteligencia artificial discutió los desafíos y lecciones aprendidas al implementar sistemas de IA en diversas industrias. Moderado por el CEO de TrueFoundry, la sesión contó con la participación de líderes como Kishore Aradhya de Frontdoor, Eli Tsinovoi de UKG, Shafik «SQ» Quoraishee de The New York Times y Manish Nigam de Ameriprise Financial. A diferencia de otros encuentros más teóricos, este panel se centró en experiencias prácticas y retos clave en la creación de sistemas de IA eficientes y escalables.
Una recomendación compartida por los expertos fue comenzar con proyectos de pequeña escala. Kishore Aradhya subrayó que aventurarse demasiado rápido en «marcos avanzados de agencia» puede ser un error y señaló que su equipo prefiere lidiar con problemas conocidos con resultados medibles, como la automatización de la revisión de reclamaciones de seguros, antes de acometer desafíos más complejos.
El panel también discutió el acceso a modelos de IA, un proceso que resulta ser más complicado de lo esperado. Cada empresa participante ha seguido un enfoque distinto para gestionar su infraestructura de IA. Eli Tsinovoi, por ejemplo, emplea Google Cloud’s Vertex AI por sus características de control y uso de tokens, mientras que Kishore utiliza Snowflake por motivos de gobernanza, asegurando que cada acción sea trazable. En contraste, The New York Times mantiene infraestructuras separadas para operaciones periodísticas y comerciales, priorizando la fidelidad de la información.
Un aspecto destacado del debate fue la discusión sobre la evolución necesaria de los gateways. Mientras que Eli argumentó que los API gateways tradicionales pueden adaptarse al tráfico de IA, Manish abogó por sistemas más avanzados para manejar las capacidades necesarias que requieren los sistemas de agentes.
Un punto revelador fue que ninguna de las empresas presentes ha logrado implementar un sistema unificado de trazabilidad a nivel empresarial, debido a la falta de estandarización en observabilidad. Esto ha llevado a que cada equipo desarrolle sus propias herramientas, complicando el seguimiento y la depuración de problemas. Eli compartió su experiencia con plataformas de observación, indicando que a menudo presentan resultados impresionantes en las demostraciones pero no se desempeñan igual en la práctica.
Además, se debatió acerca de la definición de «agente» en el contexto de IA. Manish ofreció una definición concreta: un agente es un modelo que tiene acceso a herramientas y memoria, un entendimiento que afecta la manera en que se construyen estos sistemas y su proceso de toma de decisiones.
Los panelistas coincidieron en que existen barreras significativas para la adopción de sistemas de agentes. La necesidad de alinear a las partes interesadas humanas y enfocarse en problemas genuinos, en lugar de apresurarse hacia soluciones anticipadas, es crucial para el éxito. Conforme las empresas avanzan en sus esfuerzos en IA, es cada vez más evidente que la infraestructura y el entendimiento de las capacidades de la IA pesan más que el modelo mismo.
En resumen, el camino hacia una implementación efectiva de la IA se enfoca en avances evolutivos más que en saltos revolucionarios. La colaboración humana y el construir sobre cimientos probados son estrategias hacia una innovación real y sostenible en el ámbito de la inteligencia artificial.
