Nvidia, SK Hynix, Samsung et Micron travaillent sur une nouvelle norme de mémoire SOCAMM pour les PC alimentés par l'IA
NVIDIA est principalement connu pour ses cartes graphiques, et il y a quelques semaines à peine, ils ont lancé le RTX 50, dont nous avons vu très peu d'unités et qui ont été classés comme faisant un lancement papier. Bien que NVIDIA soit célèbre pour ses GPU, elle est également responsable du développement de nouvelles technologies et est désormais plongée dans un projet visant à créer un nouveau standard de mémoire.
Selon SEDaily, NVIDIA dirigerait une collaboration entre Samsung, Micron et SK Hynix pour créer une nouvelle norme pour la mémoire axée sur l'IA. Ce dernier s'appellerait System On Chip Advanced Memory Module, ou plus simplement, SOCAMM.
Les cartes graphiques de jeu et les cartes graphiques professionnelles ou IA diffèrent principalement par la quantité et le type de mémoire qu'elles utilisent. Dans le cas des GPU de jeu, nous avons déjà vu qu'ils utilisent GDDR6, GDDR6X ou GDDR7 dans le cas du dernier RTX 50 de NVIDIA. Cependant, cela change avec les cartes graphiques à usage professionnel et d'intelligence artificielle, puisque celles-ci utilisent une mémoire HBM à large bande passante et de grande capacité. C'est ainsi que l'on a vu des GPU dépasser les 100 Go de mémoire et cela est nécessaire pour des applications de ce type.
Les GPU AI continueront à utiliser la mémoire HBM3E et HBM4, mais cela ne signifie pas que tous les appareils emboîteront le pas. Il s’avère que NVIDIA souhaite créer des ordinateurs comme le Project DIGITS, dont vous vous souvenez probablement comme une sorte de supercalculateur IA compact. Il utilise une superpuce Grace Blackwell GB10 avec un processeur Arm à 20 cœurs et 128 Go de RAM DDR5X.
Avec cette puce et un GPU Blackwell avec 1 PetaFLOP de FP4 pour l'IA, il est possible d'exécuter des LLM jusqu'à 200 milliards de paramètres et il utilise Linux pour pouvoir utiliser toutes sortes d'outils. Inspiré par DIGITS, NVIDIA s'est associé à ses partenaires Samsung, SK Hynix et Micron pour créer un format de mémoire appelé SOCAMM (System on Chip Advanced Memory Module). Il s'agit d'une évolution du standard CAMM uniquement adaptée au système de puces NVIDIA et ces fabricants espèrent pouvoir fabriquer en masse la nouvelle mémoire cette année 2025.
SOCAMM possède un nombre de ports d'E/S plus élevé que LPCAMM et DRAM, avec 694 ports au total tandis que les deux autres en ont respectivement 644 et 260. Un autre avantage est que SOCAMM serait plus rentable que la DRAM conventionnelle utilisant des SO-DIMM. Il est également plus petit que les modules DRAM traditionnels et dispose d'un module amovible pour faciliter les mises à niveau. L'objectif de NVIDIA avec cette mémoire est de permettre à des PC de la taille d'une paume de main de bénéficier de capacités d'IA élevées.
Étant donné que l’intelligence artificielle dépend de la mémoire, ce nouveau facteur de forme est logique car il permet d’utiliser la mémoire dans un format plus petit et plus efficace. Selon Jensen Huang, à l’avenir, les artistes, les ingénieurs et toute personne impliquée dans l’IA auront besoin de petits superordinateurs personnels et c’est là que SOCAMM prend tout son sens. Nous ne savons pas si nous aurons des supercalculateurs DIGITS dans nos foyers à l'avenir, mais la prochaine génération devrait utiliser une telle mémoire.