Los modelos de lenguaje avanzados han demostrado ser versátiles y eficaces en tareas generales, pero cuando se trata de aplicaciones especializadas, presentan limitaciones. La solución para adaptar estos modelos a contextos específicos dentro de las organizaciones radica en el fine-tuning supervisado (SFT). Este proceso se puede realizar mediante dos métodos clave: el ajuste de parámetros eficientes (PEFT) y el SFT de rango completo. El primero permite un entrenamiento más rápido y económico al actualizar solo una parte del modelo, mientras que el segundo ofrece un conocimiento más profundo del área de aplicación al ajustar todos los parámetros.
A pesar de sus beneficios, el SFT de rango completo enfrenta el desafío del «olvido catastrófico». Este fenómeno ocurre cuando un modelo especializado en un dominio pierde capacidades generales vitales, como el razonamiento y el conocimiento global. Esto obliga a las organizaciones a elegir entre la especialización y la inteligencia general, reduciendo la utilidad del modelo para diversos fines empresariales.
Como respuesta a este dilema, Amazon ha lanzado Nova Forge, un servicio innovador que permite a los usuarios desarrollar sus propios modelos a partir de los modelos frontera de Nova. Con Nova Forge, los clientes pueden comenzar con puntos de partida iniciales, combinar datos internos con datos seleccionados por Amazon Nova, y alojar sus modelos personalizados de forma segura en AWS.
Un equipo de ciencia aplicada de AWS China evaluó Nova Forge a través de una compleja tarea de clasificación de la Voz del Cliente (VOC). En este análisis, compararon su rendimiento con el de otros modelos de código abierto. Utilizando más de 16,000 muestras de feedback y un sistema de etiquetas de múltiples niveles, Nova Forge resultó en un aumento del 17% en el puntaje F1 para tareas específicas, mientras que mantenía el rendimiento general en niveles cercanos al punto de referencia y preservaba la habilidad para seguir instrucciones.
El procesamiento de comentarios de clientes es una tarea cotidiana en grandes empresas de comercio electrónico que reciben miles de opiniones cada día. Para gestionarlas eficientemente, requieren de un modelo de lenguaje que pueda clasificar automáticamente el feedback en categorías útiles con alta precisión, sin perder la capacidad de generar respuestas adecuadas y seguir pautas de análisis de datos.
La evaluación incluyó un marco dual que midió la eficacia tanto en tareas específicas como generales. En el análisis basado en datos reales de VOC, se observó que los modelos ajustados con Nova Forge no solo mejoraban en precisión sino que también conservaban sus habilidades generales, mitigando el problema del olvido catastrófico.
Los resultados destacan que una mezcla de datos durante el ajuste permite altos niveles de especialización sin comprometer las habilidades generales del modelo. Se recomiendan prácticas como el uso del SFT supervisado para optimizar el rendimiento en dominios específicos y aplicar la mezcla de datos de Nova cuando se anticipan diversos flujos de trabajo.
En resumen, Nova Forge muestra cómo las organizaciones pueden crear modelos de IA altamente especializados sin sacrificar la inteligencia general, facilitando el desarrollo e implementación de soluciones de IA generativa en ambientes corporativos.
