Quel est le véritable impact de la nouvelle génération de puces super-informatiques AI de NVIDIA sur l’avenir du deep learning et des modèles de langage ? NVIDIA a annoncé le lancement de ses nouvelles puces qui semblent être cruciales pour les futurs progrès dans les domaines tels que la prédiction climatique, la découverte de médicaments ou encore le calcul quantique. Mais qu’apporte réellement cette technologie par rapport à la génération précédente ?
Le produit phare de cette nouvelle ère est le GPU HGX H200 basé sur l’architecture « Hopper », mais en quoi est-il une avancée majeure par rapport au populaire H100 ? Est-ce que le fait d’être le premier chip de NVIDIA à utiliser la mémoire HBM3e, plus rapide et plus large, le rend véritablement supérieur pour gérer les modèles de langue de grande envergure ?
Est-ce la vitesse d’inférence doublée du HGX H200 sur le LLM Llama 2 qui le rend si attrayant pour les futurs centres de données et supercalculateurs ?
La promesse est alléchante : une vitesse d’inférence doublée sur les modèles de langue à 70 milliards de paramètres par rapport au H100. Comment le HGX H200 pourra-t-il s’intégrer dans les différents types de centres de données et quels grands acteurs du cloud ont déjà prévu de déployer cette technologie ? Allons-nous assister à une course entre les géants du service pour intégrer cette innovation dans leurs infrastructures dès le deuxième trimestre de 2024 ?
Et que penser du GH200 Grace Hopper « superchip », ce produit clé qui unit le GPU HGX H200 et le CPU ARM basé sur la technologie NVIDIA Grace ? Conçu pour les supercalculateurs, en quoi ce « superchip » est-il à même de transformer les recherches scientifiques et de résoudre des problématiques mondiales ? Avec plus de 40 supercalculateurs AI prévus à travers le monde utilisant ce GH200, quels seront les secteurs les plus impactés ?
Par ailleurs, faut-il s’interroger sur JUPITER, le futur « système AI le plus puissant au monde » situé en Allemagne, équipé de l’architecture refroidie par liquide et des GH200 Superchips ? Quelles avancées majeures en matière de prédiction climatique et de découverte pharmaceutique peut-on espérer de ce monstre de calcul ? L’écosystème logiciel propre à NVIDIA va-t-il verrouiller encore davantage l’utilisation de ses propres hardwares au sein des groupes de supercomputing ?
Ce n’est pas un secret que NVIDIA tire désormais l’essentiel de ses revenus des secteurs de l’IA et des centres de données. Après avoir battu son propre record de benchmark d’entraînement AI avec la technologie H100, peut-on anticiper que la nouvelle génération HGX H200 et le GH200 Grace Hopper superchip garantiront la position dominante de NVIDIA dans un marché déjà conquis ?
Source : Engadget
