Las reuniones han sido durante mucho tiempo un pilar en el ámbito empresarial, esenciales para la toma de decisiones y la coordinación de proyectos. Sin embargo, la tarea de resumir los puntos clave de estas conversaciones puede ser laboriosa y propensa a errores. Actualmente, la tecnología ofrece soluciones más eficientes, utilizando modelos de lenguaje de gran tamaño (LLMs) para transformar transcripciones dispersas en resúmenes organizados y listas de acciones.
Amazon ha introducido en el mercado su familia de modelos Nova, disponible a través de Amazon Bedrock, para optimizar la resumisión de reuniones. Estos LLM son especialmente efectivos para entender contextos complejos y generar salidas estructuradas, facilitando la gestión de proyectos, ventas, y atención al cliente, entre otros.
El proceso de ingeniería de prompts se destaca como una alternativa innovadora frente a la afinación tradicional de modelos. En lugar de modificar o reentrenar un modelo, esta técnica utiliza consultas elaboradas para ajustar el comportamiento del modelo de manera eficiente y específica para cada dominio.
Los modelos de Amazon Nova, presentados en AWS re:Invent en 2024, incluyen cuatro niveles: Nova Micro, Nova Lite, Nova Pro y Nova Premier. Estos están optimizados para aplicaciones generativas en entornos seguros, destacándose por su rendimiento y costo accesible. La solución se concentra en resumir reuniones y extraer acciones, generando sumarios que destilan discusiones y decisiones, y listas de tareas claras.
Para evaluar su eficacia, se emplearon datos del conjunto QMSum, incluyendo transcripciones de reuniones y resúmenes manuales. Los resultados revelan que Nova Premier ofrece la mayor fidelidad, aunque otros modelos también muestran tiempos de procesamiento competitivos.
Evaluar la calidad de los resultados generados por LLMs suele ser desafiante. Las métricas tradicionales no siempre reflejan la precisión factual o la coherencia. Para abordar esto, se ha empezado a implementar un LLM como juez para evaluar las salidas basándose en criterios claros.
Los patrones observados en los modelos de Amazon Nova muestran una relación evidente entre rendimiento y latencia, haciendo de esta familia de modelos una opción atractiva para empresas que manejan grandes volúmenes de datos de reuniones.
En resumen, la combinación de ingeniería de prompts con Amazon Nova representa una solución eficaz para la gestión de reuniones. Su implementación permite no solo optimizar la latencia y los costos, sino también mejorar significativamente la precisión de los resúmenes automatizados, proporcionando a las empresas una herramienta valiosa para la gestión de conocimientos.
