Nvidia, SK Hynix, Samsung e Micron stanno lavorando su un nuovo standard di memoria SOCAMM per PC basati sull'intelligenza artificiale
NVIDIA è conosciuta principalmente per le sue schede grafiche e solo poche settimane fa ha lanciato la RTX 50, di cui abbiamo visto pochissime unità e sono state classificate come un lancio su carta. Sebbene NVIDIA sia famosa per le sue GPU, è anche responsabile dello sviluppo di nuove tecnologie ed è ora impegnata in un progetto per creare un nuovo standard di memoria.
Secondo SEDaily, NVIDIA sta conducendo una collaborazione tra Samsung, Micron e SK Hynix per creare un nuovo standard per la memoria incentrata sull'intelligenza artificiale. Quest'ultimo si chiamerebbe System On Chip Advanced Memory Module, o più semplicemente, SOCAMM.
Le schede grafiche per giochi e le schede grafiche professionali o AI differiscono principalmente per la quantità e il tipo di memoria utilizzata. Nel caso delle GPU gaming, abbiamo già visto che utilizzano GDDR6, GDDR6X, o GDDR7 nel caso dell'ultima RTX 50 di NVIDIA. Tuttavia, questo cambia con le schede grafiche per uso professionale e intelligenza artificiale, poiché queste utilizzano memoria HBM ad alta larghezza di banda e ad alta capacità. Abbiamo visto così GPU che superano i 100GB di memoria e questo è necessario per applicazioni di questo tipo.
Le GPU AI continueranno a utilizzare la memoria HBM3E e HBM4 in futuro, ma ciò non significa che tutti i dispositivi seguiranno l'esempio. Si scopre che NVIDIA vuole realizzare computer come Project DIGITS, che probabilmente ricorderete come una sorta di supercomputer AI compatto. Utilizza un superchip Grace Blackwell GB10 con una CPU Arm a 20 core e 128 GB di RAM DDR5X.
Con questo chip e una GPU Blackwell con 1 PetaFLOP di FP4 per AI, è possibile eseguire LLM fino a 200 miliardi di parametri e si avvale di Linux per poter utilizzare tutti i tipi di strumenti. Ispirandosi a DIGITS, NVIDIA si è unita ai suoi partner Samsung, SK Hynix e Micron per creare un formato di memoria chiamato SOCAMM (System on Chip Advanced Memory Module). Si tratta di un'evoluzione dello standard CAMM adattato esclusivamente al sistema di chip NVIDIA e questi produttori sperano di poter produrre in serie la nuova memoria entro il 2025.
SOCAMM ha un numero maggiore di porte I/O rispetto a LPCAMM e DRAM, con 694 porte in totale mentre le altre due ne hanno rispettivamente 644 e 260. Un altro vantaggio è che SOCAMM sarebbe più conveniente rispetto alla DRAM convenzionale che utilizza SO-DIMM. È inoltre più piccolo dei tradizionali moduli DRAM e dispone di un modulo rimovibile per facilitare gli aggiornamenti. L'obiettivo di NVIDIA con questa memoria è quello di abilitare PC palmari con elevate capacità di intelligenza artificiale.
Considerando che l’intelligenza artificiale dipende dalla memoria, questo nuovo fattore di forma ha senso in quanto consente l’utilizzo della memoria in un formato più piccolo ed efficiente. Secondo Jensen Huang, in futuro gli artisti, gli ingegneri e chiunque sia coinvolto nell'intelligenza artificiale avranno bisogno di piccoli supercomputer personali ed è qui che SOCAMM ha senso. Non sappiamo se in futuro avremo i supercomputer DIGITS nelle nostre case, ma si prevede che la prossima generazione farà uso di tale memoria.