Nvidia veut contrôler votre data center IA de bout en bout

Date:

Nvidia et l’Infrastructure AI : Une Vision Révolutionnaire

Nvidia, lors de sa conférence GTC à San Jose, a présenté une avancée notable dans le domaine de l’infrastructure AI avec l’annonce de nouveaux racks de serveurs conçus pour optimiser les performances. Ces installations visent à intégrer tous les aspects de l’infrastructure AI, renforçant ainsi la position de Nvidia en tant que leader de l’innovation dans ce domaine. Celui qui a capté l’attention était un alignement de 40 racks, symbolisant une gestion pionnière des données et des processeurs.

Un Récemment Développé pour l’Inference AI

Le LPX rack, nouvellement conçu pour une inference ultra-rapide, sera lancé plus tard cette année. Ce système incorpore les puces Groq, acquises pour 20 milliards de dollars, en synergisant avec les GPUs Rubin pour obtenir une vitesse d’inference optimale. Selon Ian Buck de Nvidia, ce système peut transformer des requêtes qui prenaient autrefois jours en réponses fournies en moins d’une heure, un changement significatif dans la façon dont les données sont traitées.

Transformer l’Économie de l’AI

L’un des arguments clés présentés par Nvidia est que le LPU (Language Processing Unit) peut réduire considérablement l’énergie consommée par l’accès à la mémoire. En effet, le LPU utilise seulement un tiers du coût énergétique par bit comparé aux GPUs traditionnels. Les LPUs dans le rack LPX peuvent traiter 35 fois plus de jetons par seconde par mégawatt, ce qui entraîne une augmentation substantielle des revenus pour les fournisseurs AI.

Une Stratégie d’Intégration Complète

Jensen Huang, PDG de Nvidia, promulgue l’idée que disposer d’une infrastructure complète fournie par un seul acteur, Nvidia, peut garantir un meilleur rapport qualité-prix. Ce discours repose sur l’intégration de plusieurs composants: des puces, le logiciel associé, ainsi que les infrastructures nécessaires. La ligne de produits inclut des racks variés comme le rack Vera-Rubin NVL72 et le nouveau rack de données Bluefield 4, chacun optimisé pour gérer des workloads AI spécifiques.

Un Horizon d’Ambitions Élargies

Nvidia ne se limite pas à l’AI, mais cherche également à pénétrer des domaines comme la robotique et l’AI spatiale. Huang a évoqué ces nouvelles directions lors de son discours, illuminant une vision où Nvidia pourrait potentiellement diriger diverses industries grâce à une offre intégrée d’AI, de la formation à la mise en œuvre dans des applications variées. Cela positionne Nvidia comme un acteur incontournable dans la redéfinition du paysage technologique actuel.

Conclusion sur la Domination de Nvidia

Avec ses unités et racks de serveur interconnectés conçus pour optimiser chaque couche de l’infrastructure AI, Nvidia démontre sa volonté de dominer le marché. En intégrant des technologies avancées et en d’avantage franchissant des barrières traditionnelles, Nvidia est en train de s’imposer comme une référence incontournable pour toute entreprise souhaitant tirer parti des capacités AI à l’avenir. Pour en savoir plus, consultez leur vidéo sur YouTube.


En savoir plus sur L'ABESTIT

Subscribe to get the latest posts sent to your email.

Share post:

Popular

More like this
Related

Canicule : 54 départements en vigilance rouge dès mardi midi

Alors que l’épisode caniculaire se poursuit, la vigilance rouge est étendue par Météo-France aux départements du Calvados, de l’Eure, de la Manche, de la Seine-Maritime et de l’Oise, à compter de mardi, à midi....

Guerre au Moyen-Orient : l’Iran veut administrer le détroit d’Ormuz

« Tout le monde doit savoir que l’administration du détroit d’Ormuz ne redeviendra jamais ce qu’elle était avant la guerre », a affirmé Mohammad Bagher Ghalibaf lundi....

Roumanie : Adrian Vestea recalé, l’AUR réclame des élections anticipées

Alors que la crise politique se poursuit, le parti d’extrême droite AUR, qui progresse dans les sondages, plaide pour des élections anticipées....

Double accident sur l’A9 à Fabrègues : sept blessés, trafic coupé

Un double accident sur l'autoroute A9 a perturbé la circulation toute la matinée, ce lundi, sur la commune de Fabrègues, en direction de Béziers. Le bilan total s'élève à sept blessés....