NVIDIA GB200 NVL72

Le système GB200 NVL72 introduit des fonctionnalités de pointe et un moteur de transformation de deuxième génération capable de prendre en charge l'IA FP4. Grâce à un couplage via la technologie d’interconnexion NVIDIA NVLink de cinquième génération, il offre des performances d’inférence LLM en temps réel jusqu'à 30 fois plus rapides pour le traitement de modèles de langage comportant des billions de paramètres. Cette avancée est rendue possible par l'émergence d'une nouvelle génération de cœurs Tensor capables d'atteindre de nouveaux formats de précision tout en étant optimisés pour l’inférence IA à haut débit et à faible latence. En outre, le GB200 NVL72 utilise NVLink et le refroidissement liquide pour créer un rack massif de 72 GPU capable de surmonter les goulots d’étranglement au niveau de la couche de communication.

Le GB200 NVL72 inclut un moteur de transformation de seconde génération à précision FP8 qui fournit des capacités de calcul jusqu'à 4 fois plus rapides pour un traitement évolutif des grands modèles de langage à l'échelle. Ce gain de performance repose sur la technologie NVLink de cinquième génération, qui permet un débit d’interconnexion GPU-vers-GPU de 1,8 To/s avec les solutions de mise en réseau InfiniBand et l'environnement logiciel NVIDIA Magnum IO™.

Les racks GB200 NVL72 refroidis par liquide réduisent l'empreinte carbone et la consommation d'énergie des Data Centers. Le refroidissement liquide augmente la densité de calcul, réduit l'espace au sol utilisé et facilite les communications GPU à bande passante élevée et à faible latence avec les grandes architectures de domaine NVLink. Par rapport à l’infrastructure NVIDIA H100 à refroidissement par air, le système GB200 fournit 25 fois plus de performances à une puissance similaire, tout en réduisant la consommation d'eau.

Les bases de données jouent un rôle essentiel dans la gestion, le traitement et l’analyse d’importants volumes d'informations au sein des entreprises. Le GB200 tire parti de la bande passante élevée de l’interface NVLink-C2Cet des moteurs de décompression dédiés de l'architecture NVIDIA Blackwell de manière à accélérer jusqu’à 18 fois le pipeline des requêtes de bases de données par rapport au traitement CPU, mais aussi à réduire jusqu’à 5 fois le coût total de possession.