En un entorno tecnológico en constante evolución, la programación asistida por inteligencia artificial, o «vibe coding», se ha consolidado como una práctica clave en el desarrollo de software. Según el reciente «State of Cloud Security Report 2025» de Palo Alto Networks, un 99% de las organizaciones ya emplean agentes de inteligencia artificial en sus procesos de desarrollo. Sin embargo, un informe de Unit 42, el brazo de inteligencia de amenazas de esta compañía de ciberseguridad, alerta sobre los riesgos inherentes a esta tendencia si no se aplican controles adecuados.
El «vibe coding» facilita tanto a desarrolladores experimentados como a ciudadanos desarrolladores, que carecen de formación técnica avanzada, la creación rápida de grandes cantidades de código operativo. Aunque ventajoso por su eficacia, el software generado puede contener vulnerabilidades ocultas y dependencias poco fiables, las cuales, al no detectarse en etapas tempranas, emergen solo cuando las aplicaciones están en producción.
El informe de Unit 42 destaca que el problema central no es la tecnología, sino la falsa sensación de seguridad que se genera, ocultando fallos difíciles de identificar en las fases incipientes. Si bien el código creado por inteligencia artificial aparenta ser correcto y funcional, no siempre cumple con los estándares de codificación segura.
Muchos fallos de seguridad actualmente coinciden con la fase de desarrollo, cuando se genera código a gran velocidad, elevando la probabilidad de incluir errores como el desarrollo inseguro de aplicaciones, lógica insegura en plataformas que permita ejecutar código o eludir autenticación, y la potencial pérdida de datos por eliminación indebida de bases de datos.
Además, estas herramientas se han convertido en un atractivo objetivo para ciberdelincuentes, quienes podrían manipular su comportamiento por medio de técnicas como la inyección de instrucciones o el uso de código procedente de fuentes externas maliciosas.
En respuesta a esta problemática, Unit 42 ha introducido el marco SHIELD, diseñado para reintegrar principios de diseño seguro en la codificación asistida por inteligencia artificial. Este marco ofrece un enfoque equilibrado entre productividad y gestión eficiente del riesgo, asegurando que la innovación no se traduzca en una mayor vulnerabilidad a ataques.
El marco SHIELD consiste en seis principios fundamentales: la Separación de Funciones, la Inclusión del Humano en el Proceso para la revisión del código, la Validación de Entradas/Salidas, el Uso de Modelos de Ayuda enfocados en la seguridad, la Aplicación del Principio de Menor Agencia, y el Uso de Controles Técnicos Defensivos.
Aunque representa un paso hacia adelante en el desarrollo de software, el «vibe coding» conlleva un riesgo significativo si las organizaciones priorizan la rapidez y la funcionalidad sobre la seguridad. Palo Alto Networks subraya la necesidad de que la seguridad esté integrada desde el diseño y generación inicial del código y no solo al final del ciclo de vida de la aplicación, garantizando así un desarrollo seguro y confiable.
Más información y referencias en Noticias Cloud.
