En un contexto en el que la adopción de la inteligencia artificial (IA) avanza a pasos agigantados, muchas empresas enfrentan un dilema significativo. Aunque a simple vista parecen tener iniciativas sólidas con asociaciones estratégicas y proyectos piloto, la realidad es que en el subsuelo corporativo, los ingenieros están llevando a cabo innovaciones silenciosas al conectar aplicaciones de IA con datos empresariales y herramientas de software como servicio (SaaS).
El fenómeno conocido como «Shadow AI», o IA en la sombra, se ha convertido en una práctica común. Muchos empleados, sin poder conseguir la aprobación de las herramientas oficiales, experimentan con software de código abierto desde sus hogares, valiéndose de estas tecnologías no oficiales para acelerar sus tareas. Posteriormente, transfieren los resultados obtenidos a sistemas oficiales, provocando una disonancia entre la IA aprobada y la utilizada en el día a día.
Este uso paralelo de la tecnología resalta un problema aún más profundo: las compañías se sienten presionadas a adoptar sistemas autónomos dentro de una infraestructura y un marco de gobernanza que no están diseñados para tal propósito. Este es el foco de atención de Barndoor AI, una nueva empresa fundada por Oren Michels, que ofrece a las organizaciones un camino hacia la adopción de sistemas autónomos manteniendo intacto el control sobre la seguridad y la integridad operativa.
Durante la reciente Generative AI Summit en Boston, las discusiones revelaron que el verdadero reto no reside en las capacidades de los modelos de IA, sino en la falta de «control, visibilidad y confianza». Sin estos elementos, advirtieron los expertos, las empresas corren el riesgo de quedar atrapadas en un ciclo de actividad incesante sin generar un valor duradero.
Otro de los puntos críticos abordados durante la cumbre fue la falta de comunicación efectiva de las soluciones AI hacia los sectores financieros y operativos de las empresas. En un mercado saturado de plataformas sofisticadas, las organizaciones pequeñas y medianas no requieren más soluciones enlatadas, sino un entorno seguro donde puedan probar, aprender y adaptarse a los experimentos que demuestren un verdadero valor.
Al igual que en los primeros días de adopción de teléfonos inteligentes y servicios en la nube, donde el uso extraoficial terminó moldeando las políticas oficiales, la IA en la sombra también puede ser catalizadora de innovación. Sin embargo, esta práctica conlleva riesgos significativos, como la filtración de datos. Los expertos coinciden en que es crucial diseñar sistemas de gobernanza que no solo mitiguen estos riesgos, sino que también fomenten la experimentación segura.
Barndoor AI propone un «plano de control» que garantice operaciones seguras y efectivas de agentes de IA, proporcionando visibilidad y gobernanza. El objetivo final es desbloquear el potencial de la IA sin que la innovación quede ahogada por la burocracia, permitiendo un entorno propicio para el crecimiento y la experimentación en un marco de seguridad robusto. Según apuntan los líderes del sector, este enfoque es esencial para que las empresas logren capitalizar la revolución de la inteligencia artificial de manera viable y responsable.
