GoDaddy, el gigante en registro de dominios y servicios de comercio electrónico, está transformando la forma en que categoriza sus productos mediante la implementación de una avanzada solución de inteligencia artificial generativa. Con esta innovadora tecnología, la empresa busca proporcionar insights de negocio personalizados a sus más de 21 millones de clientes, ampliando así herramientas analíticas que antes estaban al alcance solo de grandes corporaciones.
En el panorama de la inteligencia artificial, los modelos de lenguaje grandes (LLMs) están ganando terreno rápidamente. No obstante, implementar estos modelos en un entorno de producción presenta desafíos significativos, particularmente en términos de escalabilidad. Para enfrentar estos retos, GoDaddy ha adoptado un enfoque de inferencia por lotes. Este método permite procesar numerosas solicitudes de manera asíncrona, incrementando significativamente la eficiencia al gestionar grandes volúmenes de datos.
La solución de GoDaddy, desarrollada en colaboración con el Generative AI Innovation Center, se fundamenta en Amazon Bedrock y emplea el modelo Meta Llama 2 para procesar datos de productos. Originalmente, la tarea de categorizar cerca de seis millones de productos resultó ser un desafío monumental, por lo que las categorías generadas inicialmente eran a menudo incompletas o incorrectas, incrementando los costos operativos.
El sistema implementado comprende un flujo de trabajo ordenado que inicia con la transferencia de archivos JSONL a un bucket de S3. Esto activa funciones Lambda para el procesamiento en lotes, permitiendo la lectura de nombres de productos y la generación de categorías precisas. Todos los servicios de AWS empleados garantizan la seguridad de los datos, protegiendo tanto su confidencialidad como integridad.
Más allá de mejorar la categorización, la solución ofrece un enfoque integral para obtener insights valiosos para los clientes. Al ser compatible con diversos modelos LLM en Amazon Bedrock, proporciona flexibilidad para adaptaciones y mejoras futuras.
La adopción de técnicas de «n-packing», que consiste en agrupar múltiples nombres de productos en una sola consulta, ha sido crucial para reducir latencias y costos. Esto no solo optimiza la operación de GoDaddy, sino que también conlleva ahorros significativos.
Con el fin de elevar aún más la calidad del servicio, GoDaddy planea expandir su base de datos de ejemplos verificados y reforzar los controles de calidad. La colaboración con el equipo de innovación de inteligencia artificial está diseñada para revolucionar la experiencia del cliente y democratizar el acceso a herramientas de comercialización para emprendedores. Las primeras estimaciones indican que esta solución podría procesar miles de productos en menos tiempo del requerido anteriormente, incrementando la eficiencia y satisfacción del cliente de manera notable.
