Nel 2016 Il Ceo di Nvidia Jensen Huang consegnò personalmente a Elon Musk (allora in OpenAI) il primo server – workstation DGX-1 che vantava una potenza di calcolo compresa tra 170 teraflops fino a 960 teraflops a seconda del modello e della configurazione: l’incontro tra i due si è ripetuto (questa volta in SpaceX) nelle scorse ore in occasione del lancio del piccolo e potentissimo Nvidia DGX Spark.
Rispetto all’illustre predecessore, che ha contribuito alla nascita di OpenAI e di ChatGPT, il nuovo modello riduce drasticamente ingombri, consumo di energia e prezzo, ma aumenta drasticamente la potenza di calcolo. Per NVIDIA DGX Spark è il super computer AI più piccolo al mondo, in effetti gli ingombri sono paragonabili a quelli di un Mac mini.
Mentre il predecessore DGX-1 costava oltre 100mila dollari, richiedeva 3200W e occupava buona parte di un rack o di uno chassis alto quasi un metro, il nuovo DGX Spark è un rettangolo di 15 cm di lato, spesso 5 centimetri, funziona dalla preda si corrente da 240W e con prezzo a partire da 4.000 dollari.
Mentre dimensioni, consumo e prezzi si sono compressi, esplodono letteralmente le prestazioni che in campo AI arrivano a un petaflop, quindi un milione di miliardi di operazioni al secondo, una unità di misura fino a poco tempo fa riservata ai super computer che occupavano interi mobili rack o stanze.
Potenza per Intelligenza
Il pacchetto è piccolo ma completo, perché DGX Spark contiene tutto l’hardware e il software Nvidia che permette a sviluppatori e ricercatori di iniziare subito a lavorare.
È basato sull’architettura Grace Blackwell: funziona con il superchip Nvidia GB10 dotato di 128GB di memoria unificata. Presenti anche le tecnologie Nvidia ConnectX-7 da 200Gb al secondo per il networking e Nvidia NVLink-CSC in grado di offrire una larghezza di banda cinque volte superiore rispetto a PCIe di quinta generazione.
In DGX Spark è incluso l’intero stack software Nvidia per AI, con modelli, librerie e microservizi Nvidia NIM. Il costruttore dichiara che questo mini super computer accelera lo sviluppo di AI per modelli, agenti e AI fisica. Permette di eseguire inferenza su modelli AI fino a 200 miliardi di parametri, così come perfezionare in locale modelli fino a 70 miliardi di parametri.
Anche i principali marchi di PC sono pronti
Nvidia commercializza il suo DGX Spark, in ogni caso i principali marchi di PC Windows sono pronti per proporre le proprie versioni, con varianti estetiche e di configurazione. A partire dal 15 ottobre si potrà ordinare con Nvidia ma anche con Acer, Asus, Dell, Gigabyte, HPI, Lenovo e MSI.
Per tutti gli articoli dedicati all’intelligenza artificiale si parte da questa pagina di macitynet.
