En el acelerado mundo de la inteligencia artificial, una amenaza invisible está poniendo en jaque a las organizaciones: la Shadow AI. Este fenómeno se refiere al uso no autorizado de modelos de lenguaje generativo por parte de empleados que, en su afán por ser más productivos, recurren a herramientas como ChatGPT sin el conocimiento o control del área de TI, lo que conlleva enormes riesgos de seguridad y privacidad.
Para enfrentar este desafío, varias startups del programa Intel® Liftoff están desarrollando soluciones innovadoras que buscan proporcionar un entorno seguro y controlado para el uso de la IA. Desde complejas plataformas de filtrado hasta sistemas de cifrado avanzados, estas empresas están poniendo el listón alto para la seguridad y la gobernanza de la inteligencia artificial.
Los modelos de lenguaje de gran escala, aunque poderosos, son intrínsecamente impredecibles, capaces de generar respuestas incorrectas y almacenar datos sensibles de manera insegura. Prediction Guard, integrante del programa Intel Liftoff Catalyst Track, ha creado una plataforma que filtra entradas y salidas potencialmente dañinas, basándose en la infraestructura Intel® Tiber AI Cloud, para ofrecer una IA segura en sectores críticos.
Por su lado, Raidu ha implementado una plataforma de gobernanza que incluye un robusto sistema de enmascaramiento de datos y control de accesos, cumpliendo con estrictas normativas internacionales. Mientras tanto, Co-mind ha diseñado una alternativa corporativa que evita que documentos confidenciales sean subidos a modelos públicos, manteniéndolos en una infraestructura privada y segura.
La computación confidencial se erige como un pilar esencial para la seguridad de la IA. Roseman Labs está liderando este campo con un sistema que permite el análisis de datos entre organizaciones sin compartir información cruda. Utilizando procesadores Intel® Xeon® de última generación, su tecnología mejora significativamente el rendimiento en tareas complejas.
Tinfoil, otra startup prometedora, ofrece una plataforma de IA en la nube con enclaves seguros, garantizando la integridad del código y el aislamiento de datos.
En medio del auge de los fraudes digitales, Erasys presenta Trustmark, un sistema de verificación basado en biometría comportamental, mientras que Neural Defend se especializa en combatir los deepfakes con tecnología multimodal de IA. La canadiense Findora mezcla privacidad y confianza, clasificando resultados de búsqueda por credibilidad y detectando contenido manipulado.
En los dispositivos periféricos, Falcons.AI ha desarrollado modelos de reconocimiento de imágenes que funcionan eficientemente con escaso consumo energético, y MindFront ofrece SynthGrid, una plataforma segura de integración para agentes de IA en entornos corporativos.
Estas innovaciones no solo señalan un nuevo estándar para la IA empresarial, sino que también destacan la urgencia de implementar soluciones proactivas que aseguren la IA desde la raíz. Como mencionó Eugenie Wirz en el informe original, la transformación que la IA promete llevar a los negocios solo es posible con una base de seguridad sólida.
El compromiso de estas startups demuestra que, incluso frente a amenazas ocultas, es posible construir una inteligencia artificial ética y fuerte, preparada para el futuro. En este viaje, la prevención y la anticipación de riesgos son clave.
Más información y referencias en Noticias Cloud.
