La introducción de sistemas de inteligencia artificial autónomos está redefiniendo el panorama de la gestión de riesgos tecnológicos, haciendo del factor humano un elemento crucial en las defensas. Román Orús, Co-Fundador y Director Científico de Multiverse Computing, ha puesto de relieve la necesidad de reestructurar este enfoque, indicando que «los modelos se entrenan para cumplir objetivos, pero no tienen el contexto del ser humano».
La inteligencia artificial ha superado el papel de ser una simple herramienta para responder preguntas o generar contenido. Se anticipa que, a partir de 2026, con la introducción de la IA agéntica, sistemas avanzados podrán recibir un objetivo y planificar cómo alcanzarlo, actuar y modificar su estrategia sin intervención humana. Este avance presenta un desafío considerable en términos de seguridad tanto para organizaciones como individuos, ya que estos sistemas operan sin instrucciones detalladas, permitiendo la toma de decisiones imprevistas.
En un reciente encuentro organizado por TIER8, una empresa española especializada en neurociencia y ciberseguridad inmersiva, junto con ISMS Forum, se reunieron expertos de diversas instituciones para examinar las implicaciones de la rápida evolución de la IA. Estos nuevos sistemas, con capacidad de identificar vulnerabilidades y adaptarse constantemente, están creando una creciente brecha entre las capacidades de ataque y la habilidad de las organizaciones para responder eficazmente.
Orús destaca que la IA avanza a una velocidad que supera nuestra capacidad de asimilación, lo cual demanda la implementación de nuevas capas de control y gobernanza. Por su parte, Sergio Padilla, miembro de la Junta Directiva de ISMS Forum, subraya la urgencia de no solo reaccionar ante incidentes, sino de anticipar y gestionar futuros riesgos de manera más proactiva.
El riesgo técnico, aunque considerable, es solamente una parte del problema, dado que el factor humano representa un desafío igualmente importante. La discusión ahora se inclina hacia hasta qué punto estamos dispuestos a permitir que estos sistemas autónomos interpreten la realidad y tomen decisiones en nuestro lugar. Orús insta a fomentar un pensamiento crítico en la sociedad, recalcando la importancia de utilizar la IA como herramienta de apoyo y no como un sustituto de la toma de decisiones humanas.
La presencia de agentes de IA transforma la percepción del riesgo humano en ciberseguridad, ya que las amenazas se tornan personalizadas y persistentes, más allá de las amenazas estandarizadas. TIER8 enfatiza la necesidad de prepararse para estos nuevos escenarios, subrayando la importancia de entrenar a los usuarios en un entorno donde mantener el control sobre las decisiones será fundamental.
En última instancia, la emergencia de la IA agéntica requiere un cambio significativo en la concepción de la ciberseguridad, tanto en el ámbito técnico como humano. La clave reside en desarrollar una estrategia que integre la capacidad defensiva de la inteligencia artificial con un adecuado entrenamiento de los usuarios, en un contexto donde la habilidad de reconocer el engaño se vuelve cada vez más compleja.
