Microsoft ha revelado su última innovación en tecnología de inteligencia artificial con el lanzamiento del modelo de lenguaje Mu, diseñado para operar de manera local en dispositivos equipados con Unidad de Procesamiento Neural (NPU). Este nuevo modelo busca revolucionar la interacción del usuario con el agente de Configuración en Windows, ofreciendo un rendimiento y precisión sin precedentes.
Mu, cuya capacidad para procesar más de 100 tokens por segundo lo convierte en ideal para requerimientos de respuesta rápida, destaca por su arquitectura de transformador optimizada. Utilizando un diseño de codificador-decodificador, Mu no solo reduce la latencia, sino que también mejora el rendimiento, superando a los modelos limitados a la decodificación.
El desarrollo de Mu implicó un enfoque exhaustivo en su rendimiento en NPUs. Microsoft llevó a cabo múltiples optimizaciones, ajustando tanto la arquitectura como la distribución de parámetros para maximizar su eficiencia. La implementación de técnicas de cuantización avanzadas asegura que el modelo funcione de manera óptima sin sacrificar la precisión.
En el marco de su integración en el agente de Configuración, Mu ha sido entrenado con millones de ejemplos enfocados en mejorar las consultas de lenguaje natural, facilitando así cambios en los ajustes del sistema. Este proceso ha permitido que el modelo reduzca consistentemente los tiempos de respuesta a menos de 500 milisegundos.
El avance de Mu no solo mejora significativamente la experiencia del usuario, permitiendo interacciones más intuitivas con Windows, sino que también marca un hito en la capacidad operativa de modelos de lenguaje en dispositivos con menor potencia. Este progreso es el resultado de una estrecha colaboración con equipos de ciencia aplicada, quienes han priorizado la retroalimentación de los usuarios como parte crucial del proceso de refinamiento y optimización del modelo.
La presentación de Mu subraya el compromiso de Microsoft con la innovación y la mejora constante de la tecnología, buscando siempre ofrecer soluciones que simplifiquen y enriquezcan la vida de los usuarios.
