Un reciente estudio ha revelado que hasta el 70% de los sistemas de Generación Aumentada por Recuperación (RAG) enfrentan fracasos al ser implementados en producción. A pesar de mostrar resultados impresionantes en pruebas preliminares, estos sistemas se enfrentan a desafíos significativos que pueden llevar a su ineficacia.

Shubham Maurya, un experto en inteligencia artificial de Mastercard, compartió su experiencia, subrayando la transición de los RAG de ser revolucionarios a quedar rezagados en entornos reales. La naturaleza evolutiva de los datos es una de las principales razones por las que los modelos generales como GPT-5 pueden no ser suficientes, ya que carecen del acceso a datos específicos y actualizados que son críticos en muchos dominios.

Maurya identifica cuatro desafíos cruciales que pueden causar el fracaso de los sistemas RAG:

1. Desviación del conocimiento: Los datos no actualizados pueden llevar a inconsistencias.
2. Decaimiento de la recuperación: La saturación de documentos puede sobrecargar el sistema.
3. Fragmentos irrelevantes: Demasiada información puede confundir al modelo.
4. Brechas de evaluación: Sin retroalimentación adecuada, los sistemas pueden operar ineficientemente sin ser detectados.

Para combatir estos problemas, Maurya sugiere un enfoque de búsqueda híbrido, combinando diferentes estrategias para mejorar la recuperación de datos. Además, destaca la automatización como una herramienta esencial para mantener los sistemas actualizados dinámicamente. Un ciclo de retroalimentación constante permite mejorar y optimizar los sistemas RAG a medida que evoluciona el entorno de datos.

El futuro de RAG parece prometedor, con avances que incluyen modelos que se autocomplementan y una integración más profunda de datos complejos. Maurya afirma que un sistema RAG que funcione adecuadamente en producción es más valioso que uno que solo brille en demostraciones. La clave radica en comprender los desafíos y aplicar soluciones robustas para construir sistemas fiables y efectivos.