Cada vez más gente cerca equipos pensati per far girare l’inteligencia artificial local senza dover passare per la nube, e adesso tocca a Xiaomi con il suo AI Cube. Non parliamo dei soliti portatili con NPU, ma di macchine come il DGX Spark di NVIDIA o l’AMD Ryzen AI Halo, a cui ora si aggiunge questo cubo che promette prestazioni serie in uno spazio ridottissimo.
Il Xiaomi AI Cube è per ora un prototipo di mini PC costruito attorno a tre processori della famiglia XRING: O100, O3 e D100. Ognuno ha un compito ben preciso dentro il sistema. Secondo il produttore, l’insieme lavora con un consumo di 150W ed è capace di eseguire modelli locali da 120B e 3B parametri direttamente sulla macchina, senza appoggiarsi a server esterni.
Tres procesadores XRING y un ancho de banda de 1,22 TB/s
Il vero cuore del sistema è il XRING O100, un acceleratore di IA con una particolarità che salta subito all’occhio: la DRAM impilata verticalmente sopra la logica di calcolo. Questo tipo di confezionamento, chiamato wafer on wafer con unione ibrida, riduce la distanza fisica tra memoria e NPU. Il risultato è un percorso dei dati corto e larghissimo, che si traduce in un ancho de banda vicino alla memoria di circa 1,22 TB/s.
Per capirci qualcosa serve un confronto. Quella cifra mette l’O100 in una categoria tutta sua nell’hardware per l’inferenza locale. Batte nettamente soluzioni come AMD Ryzen AI Halo, che si ferma a 256 GB/s, e NVIDIA DGX Spark con i suoi 273 GB/s. Si avvicina addirittura alla memoria GDDR7 di una RTX 5090, anche se qui l’approccio è completamente diverso. L’O100 non punta solo sulla banda: dentro ci sono 14 núcleos NPU collegati tramite il bus matriciale Xuanwu, pensato per spingere al massimo il parallelismo e il movimento dei dati. Nelle prove interne, questo chip arriva a 330 token al secondo mentre esegue il modello Xiaomi MiMo 3B, un numero niente male per un dispositivo così compatto.
Link affiliatoIl secondo pezzo del puzzle è il XRING O3, che fa da SoC generale. Monta una CPU a 10 núcleos, sei ad alte prestazioni e quattro a basso consumo, con frequenze che salgono fino a 4,35 GHz. Ci sono poi una GPU G2-Ultra NX a 16 núcleos e una NPU da 200 TOPS. Questo chip gestisce il sistema, l’interfaccia e coordina il dialogo tra tutti i componenti, con supporto alla memoria LPDDR6.
Chiude il terzetto il XRING D100, un processore di IA nato per la guida intelligente e prodotto a 3 nm. Ha una CPU a 20 núcleos, una NPU a 16 núcleos e regge fino a 160 GB di memoria unificata, con la capacità di gestire modelli fino a 200B parametri. Nell’AI Cube però lavora come parte del sistema collaborativo a tre chip, spartendosi il carico con gli altri due.
Fuente
Imagen: hardzone.es