Fiddler AI, una destacada empresa en el ámbito de la observabilidad de inteligencia artificial (IA) y la seguridad de modelos de lenguaje de gran tamaño (LLM) y operaciones de aprendizaje automático (MLOps), está firmemente comprometida con la misión de mejorar el mundo. Recientemente, durante el Generative AI Summit en Washington D.C., se llevó a cabo una entrevista con Nick Nolan, gerente de ingeniería de soluciones de Fiddler AI, donde se exploraron las estrategias de la empresa para cumplir con este ambicioso objetivo.
La compañía se dedica a fomentar la confianza en los sistemas de IA, centrando sus esfuerzos en dos aspectos fundamentales: apoyar a los equipos corporativos en el desarrollo de aplicaciones de IA responsables y asegurarse de que los usuarios de estas tecnologías reciban respuestas justas y confiables. Con el rápido avance en la generación de contenido mediante IA, se prevé la implementación de más políticas que regulen la gobernanza y el riesgo, con el objetivo de reforzar la supervisión de estos sistemas y proteger a los consumidores frente a resultados sesgados o perjudiciales.
Fiddler AI guía a las empresas en el uso ético de la IA desde el inicio hasta la madurez de sus prácticas. Para ello, la empresa se enfoca en tres pilares: monitoreo, seguridad y gobernanza. Su plataforma de observabilidad permite a las empresas seguir un conjunto exhaustivo de métricas de modelos de lenguaje y aprendizaje automático, generando alertas cuando estas caen por debajo de ciertos umbrales. Además, proporciona evidencia de auditoría crucial para el cumplimiento de los requisitos regulatorios.
A medida que las empresas adoptan rápidamente los modelos de lenguaje de gran tamaño, surgen desafíos únicos, como la necesidad de monitorear estos modelos en entornos reales. La plataforma de Fiddler aborda este reto con su servicio de confianza y la solución Guardrails, que ofrece tiempos de respuesta inferiores a 100 milisegundos y puede implementarse de manera segura en los entornos de los clientes.
El enfoque responsable de la IA por parte de Fiddler se centra en el monitoreo continuo de modelos para identificar sesgos e inequidades, emitiendo alertas en tiempo real cuando se detecta un comportamiento desviado. Su plataforma también genera evidencia de auditoría, lo que facilita el cumplimiento de las normas regulatorias.
Un ejemplo del impacto positivo de Fiddler es su colaboración con Integral Ad Science (IAS), donde su plataforma mejoró significativamente la supervisión de modelos de aprendizaje automático y facilitó el cumplimiento regulatorio. Esto resultó en una reducción de costos de monitoreo y un aumento en la velocidad de lanzamiento de productos.
Con la creciente atención hacia la privacidad de datos, Fiddler ha implementado un sólido marco de seguridad que garantiza que su plataforma esté en conformidad con las regulaciones de protección de datos. La empresa se compromete a asegurar que todas sus interacciones cumplan con las leyes de privacidad vigentes y los estándares industriales.
De cara al futuro, Fiddler AI planea expandir su liderazgo en el ámbito de la observabilidad de IA, desarrollando capacidades avanzadas y recursos educativos que faciliten una gobernanza efectiva. La compañía aspira a ayudar a las empresas a implementar modelos de IA que no solo generen valor comercial, sino que también sean responsables y equitativos para todos.
