El modelo Cohere Rerank 3 Nimble ya está disponible en Amazon SageMaker JumpStart. Este último desarrollo de la serie Rerank de Cohere está diseñado para optimizar la búsqueda de empresas y los sistemas de Generación Aumentada por Recuperación (RAG).
Cohere Rerank 3 Nimble se ha especializado en reordenar documentos recuperados por algoritmos de búsqueda iniciales conforme a su relevancia para una consulta determinada. Como cross-encoder, el modelo produce una puntuación de similitud entre una consulta y un documento, evaluando la similitud semántica mediante el cálculo del coseno del ángulo entre vectores densos, lo que permite reordenar los resultados con mayor relevancia.
Una de las principales ventajas de Cohere Rerank 3 Nimble es su mayor velocidad y eficiencia en comparación con su predecesor, Cohere Rerank 3, sin comprometer la precisión. Las pruebas de referencia de Cohere indican una mejora de velocidad de entre tres y cinco veces, lo cual es ideal para empresas que deseen mejorar sus capacidades de búsqueda sin perder rendimiento.
Amazon SageMaker JumpStart proporciona acceso a una amplia selección de modelos preentrenados que pueden personalizarse según casos de uso específicos, facilitando el ciclo de vida completo del machine learning (ML), desde la preparación de datos hasta la implementación y monitorización de modelos.
Para desplegar Cohere Rerank 3 Nimble, es esencial garantizar que el rol de servicio IAM de SageMaker disponga de la política de permisos AmazonSageMakerFullAccess. También se debe confirmar la suscripción al modelo a través de AWS Marketplace o contar con los permisos necesarios para suscripciones.
El acceso al modelo se realiza mediante Amazon SageMaker Studio, iniciando el despliegue al seleccionar la opción «Deploy». Una vez finalizado el proceso, se crea un endpoint que puede probarse a través de una solicitud de inferencia o utilizando opciones de prueba del SDK.
Cohere Rerank 3 Nimble ofrece un robusto soporte multilingüe, con versiones en inglés y en diversos idiomas que cubren más de 100 distintas lenguas. Esto permite a las organizaciones globales mejorar sus experiencias de búsqueda de manera consistente en diferentes regiones y preferencias de idioma.
En el ámbito del comercio minorista, la velocidad optimizada de Cohere Rerank 3 Nimble puede reducir la tasa de abandono del sitio web y aumentar la tasa de conversión. Cada incremento de 100 milisegundos en el tiempo de respuesta de búsqueda puede ser crucial para mantener a los usuarios interesados.
Cohere Rerank 3 y Rerank 3 Nimble ya están disponibles en SageMaker JumpStart. Se recomienda que los interesados consulten la documentación y ejemplos detallados en el sitio oficial de Amazon SageMaker y el repositorio GitHub «Cohere on AWS» para obtener más información y comenzar.
