Arm, la destacada empresa de diseño de chips, ha revelado importantes progresos en su objetivo de simplificar el desarrollo de aplicaciones de inteligencia artificial (IA) y aprendizaje automático (ML) en dispositivos basados en su arquitectura. Con el fin de crear un entorno que facilite el desarrollo de software impulsado por IA en hardware de Arm, la compañía ha establecido colaboraciones estratégicas con proveedores de servicios en la nube y los principales marcos de trabajo del sector.
El eje central de esta iniciativa es Arm Kleidi, una innovadora tecnología que aglutina herramientas de desarrollo de última generación y recursos esenciales para fomentar la colaboración técnica y la innovación en el ámbito del aprendizaje automático. Desde su lanzamiento, hace apenas cuatro meses, Kleidi ha logrado acelerar el desarrollo y desbloquear significativas mejoras de rendimiento en las CPU de Arm en el ámbito de la IA.
Arm ha fortalecido su colaboración con la comunidad de PyTorch para integrar las bibliotecas Kleidi directamente en el framework. Esta integración permite a los desarrolladores beneficiarse de mejoras sustanciales en el rendimiento sin necesidad de esfuerzos adicionales. Los resultados han sido impresionantes: un chatbot de demostración de Arm, alimentado por el modelo de lenguaje Llama 3 de Meta y ejecutándose en procesadores AWS Graviton, logró responder en tiempo real por primera vez en PyTorch. Además, el tiempo para generar el primer token se redujo 2,5 veces tras la integración de Kleidi en el código fuente de PyTorch, detectándose en los procesadores AWS Graviton4. Asimismo, optimizaciones en torch.compile, aprovechando Kleidi, resultaron en incrementos de rendimiento de 1,35 a 2 veces en diversas cargas de trabajo de inferencia de modelos de Hugging Face, medidas en AWS Graviton3.
Otro frente de colaboración incluye a proveedores de servicios en la nube como AWS y Google, y con una creciente comunidad de proveedores de software independientes de aprendizaje automático, como Databricks. El objetivo de estas alianzas es garantizar que los desarrolladores puedan mantenerse al tanto de la rápida evolución de la IA generativa.
Además de los avances en la nube, Arm ha anunciado que KleidiAI se integrará en ExecuTorch, el nuevo tiempo de ejecución de inferencia en dispositivos de PyTorch, proyectado para completarse en octubre de 2024. Esto promete mejoras notables de rendimiento para dispositivos edge en una gran variedad de aplicaciones.
Alex Spinelli, recientemente nombrado miembro de la junta directiva de PyTorch, lidera la misión de Arm para empoderar a los desarrolladores globales en la construcción de capacidades y aplicaciones de IA avanzadas, explotando el potencial de la IA de extremo a extremo en Arm. Con estas iniciativas, Arm reafirma su compromiso de hacer que la experiencia del desarrollador sea lo más fluida posible, permitiéndoles concentrarse en la innovación y la creación de aplicaciones de IA de última generación.
