NVIDIA ha anunciado el lanzamiento de sus últimos modelos de razonamiento, Llama 3.3 Nemotron Super 49B V1 y Llama 3.1 Nemotron Nano 8B V1, disponibles a través de Amazon Bedrock Marketplace y Amazon SageMaker JumpStart. Estos modelos representan un avance significativo para las organizaciones que buscan implementar inteligencia artificial generativa de manera eficiente y responsable en la plataforma AWS.
La tecnología subyacente, respaldada por los micronservicios de inferencia NVIDIA NIM, permite un despliegue simplificado de modelos de IA generativa mediante servicios gestionados de AWS. Con solo un comando o unas pocas líneas de código, los desarrolladores pueden integrar aplicaciones de IA, acelerando significativamente su implementación.
El modelo Llama 3.3 Nemotron Super 49B V1 destaca por su enfoque de Búsqueda de Arquitectura Neuronal (NAS), que mejora la eficiencia al reducir la huella de memoria. Ofrece soporte para contextos de hasta 128,000 tokens, lo que facilita tareas complejas como la generación aumentada de datos y la integración de herramientas. En paralelo, el modelo Llama 3.1 Nemotron Nano 8B V1 ofrece capacidades similares en un formato más compacto, idóneo para uso local.
Amazon Bedrock Marketplace proporciona un entorno seguro y unificado para acceder a estos modelos de IA, lo que facilita a las organizaciones encontrar soluciones adaptadas a sus necesidades. La versatilidad de las aplicaciones abarca desde la redacción de contenidos hasta la clasificación de información, permitiendo una adaptación a diversas áreas de negocio.
Para empezar a utilizar los nuevos modelos, los usuarios pueden suscribirse a ellos en Amazon Bedrock y seguir unos pasos simples para su despliegue, permitiendo realizar inferencias directamente desde la consola de Bedrock o a través del SDK de SageMaker.
La introducción de los modelos Llama 3.3 y Llama 3.1 marca un hito en la implementación de soluciones avanzadas de AI. Con el respaldo de la infraestructura escalable de AWS, las empresas ahora pueden desplegar estos modelos rápida y fácilmente, transformando sus aplicaciones de inteligencia artificial y posicionándose a la vanguardia del sector tecnológico.
