En un contexto donde la inteligencia artificial (IA) se convierte en un pilar fundamental para la innovación, las empresas se enfrentan a un reto significativo: equilibrar la adopción de estas tecnologías avanzadas con la necesidad imperiosa de reforzar sus medidas de seguridad. Según el Informe sobre el Estado de la Confianza 2024 de Vanta, un 55% de las organizaciones percibe que los riesgos de seguridad informática nunca han estado tan altos. Sin embargo, la paradoja radica en que, pese a esta percepción, solo un 11% del presupuesto de TI se destina a la seguridad, mucho menos del 17% recomendado.
La rápida adopción de la IA está magnificando los riesgos, evidenciado por un aumento del 33% en ataques de phishing y un 32% en malware basado en IA durante el último año. Además, las violaciones de cumplimiento alcanzaron un 27%. A pesar de estos datos alarmantes, muchas empresas presentan un enfoque inconsistente en cuanto al entrenamiento de sus modelos de IA, pues solo un cuarto de ellas solicita el consentimiento de los clientes para el uso de sus datos, mientras que una mayoría no ofrece la opción de exclusión. Este escenario plantea serios dilemas éticos y de privacidad, donde la confianza del cliente se convierte en un activo crucial.
El desafío no se limita solo a las amenazas cibernéticas externas. Con el incremento de la presión para mantener el cumplimiento normativo, los líderes de seguridad están invirtiendo más tiempo en tareas manuales, llegando a más de 11 semanas en comparación con las 10 semanas del año anterior. La dependencia de proveedores externos y la integración de la IA en procesos empresariales amplifica estos retos, especialmente cuando un 46% de las organizaciones ya ha sufrido violaciones de datos relacionadas con un proveedor, afectando la reputación de un 62% de las empresas.
A nivel geográfico, la gestión de la seguridad y la IA presenta variaciones significativas. En Estados Unidos, casi la mitad de las organizaciones ha sido víctima de violaciones de datos por parte de proveedores, mientras que en el Reino Unido, el tiempo dedicado a tareas de cumplimiento ha aumentado notablemente. Por otro lado, en Australia, solo un 17% de las empresas tiene una fuerte visibilidad sobre el riesgo de los proveedores. A pesar de esto, el Reino Unido lidera el incremento en inversión en IA para operaciones de seguridad, superando a sus contrapartes internacionales.
En este escenario complejo, la automatización y la IA se perfilan como soluciones clave para optimizar la seguridad. Un 44% de las organizaciones ha incrementado su inversión en herramientas automatizadas, que podrían liberar de 3 a 5 horas semanales a los equipos de seguridad. Christina Cacioppo, directora ejecutiva de Vanta, subraya la importancia de ir más allá de las prácticas tradicionales para mantener la confianza en un mundo dominado por la IA, promoviendo una confianza continua y automatizada.
En conclusión, la gestión del riesgo y la confianza se convierte en un componente esencial en la agenda de las empresas a medida que la IA avanza. Aquellas que logren balancear la adopción tecnológica con una estrategia robusta de seguridad estarán mejor posicionadas para fortalecer la confianza del cliente y crecer en un entorno digital cada vez más competitivo.
