El 24 de abril de 2025, a las 12 p.m. EST, el mundo de la ciberseguridad dirigirá su atención hacia un evento crucial: un seminario web sobre los nuevos desafíos de seguridad que enfrentan las aplicaciones impulsadas por inteligencia artificial generativa (GenAI). Este seminario, que se llevará a cabo en línea, representa una oportunidad invaluable para que empresas y expertos de la ciberseguridad exploren las amenazas emergentes, en particular, aquellas que se presentan en forma de inyecciones de mensajes.
Con el creciente énfasis en incorporar inteligencia artificial generativa en los procesos organizacionales, surgen adversarios que encuentran formas innovadoras de comprometer estos sistemas. Los ataques de inyección de mensajes se han convertido en una herramienta poderosa para permitir la filtración de datos sensibles y eludir los controles de seguridad establecidos. En este contexto de amenazas, es vital que las empresas comprendan el funcionamiento de estos ataques y adopten estrategias de defensa adecuadas para proteger sus aplicaciones de GenAI.
Rob Truesdell, Chief Product Officer de Pangea, será el encargado de guiar a los asistentes a través de un análisis detallado de las amenazas relacionadas con inyecciones de mensajes. A lo largo de la sesión, se desglosarán las técnicas de inyección directa e indirecta, ilustradas con ejemplos de ataques reales que destacan la gravedad de estos riesgos. Además, se discutirá cómo los proveedores de modelos de lenguaje están adoptando defensas nativas para contrarrestar estas amenazas.
Un enfoque distintivo del seminario será la exploración de amenazas internas y externas, subrayando cómo los modelos de GenAI pueden ser manipulados tanto desde dentro como desde fuera de las organizaciones. Los participantes recibirán información sobre estrategias de mitigación de riesgos, incluyendo prácticas recomendadas de ingeniería y seguridad, esenciales para prevenir, detectar y responder a intentos de inyección de mensajes. Asimismo, se proporcionarán pautas para evaluar la efectividad de los mecanismos de detección de estos ataques.
Dirigido especialmente a líderes en seguridad, ingenieros de inteligencia artificial y equipos de producto, este webinar busca proporcionar conocimientos profundos sobre cómo comprender y mitigar los riesgos asociados con aplicaciones impulsadas por IA en un entorno cada vez más hostil. Se anticipa una alta participación, impulsada por el creciente interés en cómo las implicaciones de la ciberseguridad afectan al desarrollo y uso de tecnologías de inteligencia artificial.
