1 000 fois plus puissant qu’un PC classique, à poser directement sur le bureau !
Nvidia présente Project Digits comme « le plus petit supercalculateur d’IA au monde » puissant d’un pétaflop avec une précision FP4 capable, selon NVIDIA, d’exécuter en local de larges modèles d’IA avec 200 milliards de paramètres.
« Project Digits exécute l’intégralité de la pile d’IA de Nvidia, ce qui veut dire que tous les logiciels Nvidia fonctionnent sur cette pile, explique Jensen Huang, CEO, Nvidia. Mon ambition ? Placer un supercalculateur d’IA sur le bureau de chaque data scientist, chercheur en IA et étudiant leur permet de s’engager et de façonner l’ère de l’IA. »
Conçu pour les chercheurs en IA, les data scientists et les étudiants, Project Digits intègre la nouvelle superpuce GB10 Grace Blackwell de Nvidia, qui offre jusqu’à un pétaflop de performances de calcul pour le prototypage, le réglage fin et l’exécution de modèles d’IA.
Nvidia affirme qu’une seule unité Project Digits peut exécuter des modèles jusqu’à 200 milliards de paramètres. Les paramètres correspondent approximativement aux capacités de résolution de problèmes d’un modèle, et les modèles avec plus de paramètres fonctionnent généralement mieux que ceux avec moins de paramètres.
Project Digits, jusqu’à 405 milliards de modèles de paramètres sur deux machines !
Le GB10, qui a été développé en partenariat avec MediaTek, dispose d’un GPU Nvidia Blackwell connecté à un processeur Nvidia Grace à 20 cœurs. À l’intérieur du boîtier, les puces sont reliées à un pool de mémoire de 128 Go et jusqu’à 4 To de stockage flash.
Nvidia affirme que deux machines Project Digits peuvent être reliées ensemble pour exécuter jusqu’à 405 milliards de modèles de paramètres, si une tâche l’exige. Project Digits peut offrir une expérience autonome, comme évoqué précédemment, ou se connecter à un PC Windows ou Mac principal.
Le plus petit supercalculateur, qui sera disponible en mai au prix approximatif de 3.000 USD, est en mesure de faire tourner localement des modèles LLM multimodaux sophistiqués comme LLama 3.1 ou Mistral Large 2. La machine s’accompagne de tout l’écosystème logiciel complet de NVidia (AI Enterprise, NeMo, Rapids) et facilite le déploiement sur DGX Cloud.
