Amazon Bedrock, la innovadora plataforma de inteligencia artificial de Amazon en la nube, ha dado un paso significativo hacia una mayor transparencia y fiabilidad en la creación de aplicaciones AI. La empresa ha implementado el soporte para probabilidades logarítmicas en su función de Importación de Modelos Personalizados. Esta característica pionera permite a los desarrolladores integrar modelos personalizados previamente ajustados, como Llama, Mistral y Qwen, en una experiencia sin servidor con una API unificada.
Este avance es crucial para el desarrollo de aplicaciones de inteligencia artificial confiables, especialmente cuando se trata de modelos que enfrentan consultas específicas de un dominio. Con el nuevo soporte de probabilidades logarítmicas, los usuarios pueden acceder a información sobre la confianza de sus modelos a nivel de token, permitiendo una comprensión más profunda del comportamiento del modelo y mejorando la filtración y evaluación de resultados.
Las probabilidades logarítmicas ofrecen a los desarrolladores una medida precisa de la certeza del modelo con respecto a cada token generado. Un valor más cercano a cero indica mayor confianza; por ejemplo, -0.1 representa aproximadamente un 90% de certeza, mientras que un valor de -3.0 señala alrededor del 5%. Esta funcionalidad permite evaluar la confianza en diferentes partes de una respuesta, detectar errores potenciales y optimizar costos en sistemas de generación aumentada por recuperación (RAG).
Para sacar provecho de esta función, los usuarios necesitan una cuenta activa de AWS con acceso a Amazon Bedrock y los permisos adecuados para invocar modelos mediante la API de Amazon Bedrock. Este desarrollo representa un salto hacia una toma de decisiones más transparente y asegura que las aplicaciones se adapten a niveles específicos de certeza, mejorando su fiabilidad en áreas críticas como la salud y las finanzas.
Los casos de uso incluyen la detección de alucinaciones y respuestas de baja confianza, así como la optimización de sistemas RAG y la evaluación del ajuste en modelos. Al proporcionar métricas sobre la confianza del modelo, Amazon Bedrock refuerza la capacidad de los desarrolladores para construir aplicaciones resistentes y confiables. Esta adición reafirma el compromiso de Amazon Bedrock en fomentar una innovación segura y escalable en el mundo de la inteligencia artificial.
