Intel y AMD revolucionan la IA con ACE: hasta 16 veces más rápido que AVX10

by Redazione
Intel y AMD revolucionan la IA con ACE: hasta 16 veces más rápido que AVX10 - ACE Intel AMD

Intel y AMD han decidido que sus procesadores tienen que aprender a moverse mejor en el terreno de la inteligencia artificial, y para lograrlo están apostando por hardware dedicado dentro de la propia CPU. La idea es sencilla de explicar pero potente en sus consecuencias, conseguir que el procesador resuelva ciertas cargas de trabajo de IA sin tener que depender de otros componentes. Hoy la gran protagonista de la aceleración por hardware sigue siendo la GPU, eso está claro, pero estas dos compañías quieren cambiar las reglas del juego desde dentro del chip.

Qué es ACE y por qué importa

Mucha gente pensará lo mismo nada más leer esto, que para eso ya existe la NPU. Y tienen parte de razón. Pero el enfoque aquí es distinto, porque lo que buscan Intel y AMD es que la aceleración ocurra directamente dentro del procesador. Para conseguirlo han creado ACE, siglas de Advance Compute Extensions, una especificación pensada para ir más allá de los límites de AVX10.

Vale la pena recordar un detalle. Las instrucciones AVX no nacieron para resolver multiplicaciones de matrices, que son la base de la IA. Sin embargo han servido de puente perfecto para introducir ACE, porque este estándar conserva la estructura de registro que ya vimos en AVX10 y añade hardware específico para resolver operaciones con matrices. De esta forma nadie obliga a los desarrolladores a aprender formatos de datos o modelos de programación completamente nuevos. Las extensiones seguirán trabajando con entradas de 512 bits, así que los cambios necesarios para adoptar este estándar a gran escala se reducen al mínimo.

Rendimiento, eficiencia y formatos soportados

Aquí viene lo interesante. A nivel de instrucciones, con un conjunto dado de vectores de entrada ACE puede ejecutar hasta 16 veces más operaciones que AVX10. La diferencia es enorme, casi parece exagerada, aunque conviene tomarlo con calma porque los resultados finales varían según cada escenario y cada prueba concreta.

Link affiliato

El otro gran atractivo está en la eficiencia. No alcanza el rendimiento de una GPU de última generación, eso ni de lejos, pero a cambio su consumo energético es mucho más bajo. Eso convierte a este estándar en una opción muy atractiva para cargas de trabajo de IA en el borde y también para cubrir las necesidades de usuarios individuales.

ACE se podrá implementar de forma agnóstica, lo que aporta una mayor consistencia, y soportará una buena variedad de operaciones, entre ellas INT8, INT32, FP8, FP16, FP32 y BF16. Tendrá además soporte nativo para los formatos de bloques a escala MX del Open Compute Project, algo que AVX10 no permite, lo que se traduce en una versatilidad notable.

¿Y entonces por qué apostar por ACE teniendo NPUs? La explicación es bastante directa. ACE resulta una propuesta más sencilla y eficiente que encaja a la perfección en la computación heterogénea, y evita las complicaciones de tener que mover ciertas cargas de trabajo a una NPU. Esas tareas se pueden resolver directamente en la CPU con más simplicidad y menos quebraderos de cabeza.

Fuente
Imagen: muycomputer.com

Link affiliato

Related Articles