En los últimos años, la integración de aplicaciones de inteligencia artificial (IA) generativa ha transformado de manera significativa el panorama empresarial. Las aplicaciones de IA han evolucionado desde simples asistentes que redactan textos o resumen reuniones hasta complejos agentes que pueden acceder a datos internos, interactuar con herramientas externas y tomar decisiones críticas dentro de los flujos de negocio en tiempo real. Este avance, pese a las oportunidades que ofrece, ha incrementado los riesgos asociados, especialmente en términos de seguridad.
Un informe reciente de Gartner revela que para 2028, el 25 % de todas las aplicaciones empresariales de IA generativa experimentará al menos cinco incidentes menores de seguridad al año, un notable aumento comparado con el 9 % previsto para 2025. Además, el mismo estudio predice que para 2029, el 15 % de estas aplicaciones sufrirá al menos un incidente grave anual, incrementándose desde un 3 % en 2025.
Este aumento de riesgos está directamente vinculado al crecimiento de la IA agéntica y al extendido uso del Model Context Protocol (MCP). Este protocolo, diseñado para optimizar la interoperabilidad entre modelos, herramientas y datos, no tiene la seguridad como prioridad. El MCP, introducido en 2024, ha sido rápidamente adoptado y se encuentra en el núcleo del nuevo ecosistema de agentes, siendo tratado ya como un estándar de facto por gigantes como OpenAI.
El riesgo real no reside tanto en el concepto de IA agéntica en sí, sino en cómo se implementa en los entornos empresariales. Estas aplicaciones modernas pueden acceder y manipular datos sensibles, integrarse con CRM, interactuar con sistemas de gestión de tickets y enviar resultados a servicios externos. Este complejo entramado aumenta el potencial de exfiltración de información y otros riesgos de seguridad.
Gartner destaca la importancia de no interpretar el crecimiento del MCP como el fin de la seguridad, sino como un llamado a la acción para diseñar flujos más robustos. Se insiste en la necesidad de implementar controles de acceso adecuados, así como flujos sólidos de consentimiento y autorización. Además, se advierte sobre los riesgos latentes en los componentes de terceros, que pueden contener vulnerabilidades no evidenciadas por la rápida adopción de la tecnología.
Entre las amenazas más destacadas se encuentra la denominada «prompt injection», un tipo de manipulación que puede cambiar el comportamiento previsto del modelo de IA, resultando en acciones indeseadas como la ejecución de comandos incorrectos o la filtración de datos. Las empresas deberán formular esquemas de autenticación y autorización personalizados para sus agentes, asegurando restricciones estrictas y revisiones periódicas de cada caso de uso.
A medida que se despliegan estas aplicaciones en diversos dominios de negocio, surgen nuevas complejidades en la gestión del acceso a datos y del cumplimiento normativo. Gartner recomienda que los expertos en cada dominio establezcan las reglas y directrices para el uso seguro de estas tecnologías, garantizando que cada servidor MCP tenga una clara propiedad dentro de la estructura organizativa.
Lejos de presagiar un futuro sin IA, Gartner urge a las empresas a no frenar la innovación, sino a utilizar la IA de manera responsable y con medidas de seguridad bien definidas. La clave reside en el diseño de arquitecturas bajo el principio de mínimos privilegios y en la adopción de revisiones de seguridad formales. Así, mientras el ecosistema madura, las organizaciones podrán beneficiarse del potencial de la IA generativa sin comprometer su seguridad ni exponerse a riesgos innecesarios.
Más información y referencias en Noticias Cloud.
