Arm ha dado un paso significativo hacia la integración de la inteligencia artificial directamente en dispositivos móviles con el lanzamiento de Scalable Matrix Extension 2 (SME2). Esta extensión de la arquitectura Armv9, junto con la capa de software KleidiAI, permitirá a los desarrolladores de Android implementar funciones avanzadas de IA en sus aplicaciones sin necesidad de conexión a la nube ni modificaciones en el código.
Esta innovación abre nuevas posibilidades en experiencias móviles, desde la mejora de fotos hasta la limpieza de ruido en llamadas. El desafío radica en ofrecer estas capacidades en tiempo real sin comprometer la eficiencia energética y el rendimiento. SME2 aborda este reto al acelerar las tareas de IA directamente en la CPU del dispositivo, distribuyendo inteligentemente la carga entre diferentes unidades de cómputo.
La accesibilidad de SME2 es su mayor fortaleza. A través de KleidiAI, los desarrolladores no necesitan cambiar una sola línea de código para beneficiarse de esta aceleración. Esta integración automática se extiende a librerías populares como Google XNNPACK, MediaPipe y ONNX Runtime. Iliyan Malchev, ingeniero de Android en Google, ha destacado que SME2 permite ejecutar modelos avanzados como Gemma 3 en una amplia gama de dispositivos, mejorando la experiencia del usuario con baja latencia.
En pruebas recientes, dispositivos con SME2 han mostrado un rendimiento notable. El modelo Gemma 3 de Google respondió hasta seis veces más rápido en interacciones, y logró resúmenes de textos de 800 palabras en menos de un segundo. Estos resultados han llevado a una importante empresa de software independiente a trasladar parte de su generación de tokens desde la nube a dispositivos móviles.
Aunque SME2 debutará en nuevos dispositivos Android, ya está disponible en las últimas versiones de iOS. Su impacto será significativo, con más de 22 millones de desarrolladores y 9 millones de aplicaciones en plataformas basadas en Arm. Esto se traduce en mayor portabilidad y eficiencia energética, ofreciendo una solución potente para el futuro del desarrollo de apps.
Arm aconseja a los desarrolladores que usen frameworks compatibles con KleidiAI para prepararse ante la implementación de SME2, evitando la necesidad de reescribir código. Además, ha lanzado un Developer Launchpad para facilitar esta adopción con recursos y ejemplos prácticos.
En resumen, SME2 representa un avance sustancial en la ejecución de modelos de IA directamente en CPU móviles, impulsando la IA generativa y personalizada, mientras mantiene intacta la lógica de las aplicaciones. En un futuro donde la eficiencia es crucial, Arm asegura que la inteligencia en el despliegue es la clave. SME2 y KleidiAI lideran el camino hacia este futuro.
Más información y referencias en Noticias Cloud.
