Nvidia veut contrôler votre data center IA de bout en bout

Date:

Nvidia et l’Infrastructure AI : Une Vision Révolutionnaire

Nvidia, lors de sa conférence GTC à San Jose, a présenté une avancée notable dans le domaine de l’infrastructure AI avec l’annonce de nouveaux racks de serveurs conçus pour optimiser les performances. Ces installations visent à intégrer tous les aspects de l’infrastructure AI, renforçant ainsi la position de Nvidia en tant que leader de l’innovation dans ce domaine. Celui qui a capté l’attention était un alignement de 40 racks, symbolisant une gestion pionnière des données et des processeurs.

Un Récemment Développé pour l’Inference AI

Le LPX rack, nouvellement conçu pour une inference ultra-rapide, sera lancé plus tard cette année. Ce système incorpore les puces Groq, acquises pour 20 milliards de dollars, en synergisant avec les GPUs Rubin pour obtenir une vitesse d’inference optimale. Selon Ian Buck de Nvidia, ce système peut transformer des requêtes qui prenaient autrefois jours en réponses fournies en moins d’une heure, un changement significatif dans la façon dont les données sont traitées.

Transformer l’Économie de l’AI

L’un des arguments clés présentés par Nvidia est que le LPU (Language Processing Unit) peut réduire considérablement l’énergie consommée par l’accès à la mémoire. En effet, le LPU utilise seulement un tiers du coût énergétique par bit comparé aux GPUs traditionnels. Les LPUs dans le rack LPX peuvent traiter 35 fois plus de jetons par seconde par mégawatt, ce qui entraîne une augmentation substantielle des revenus pour les fournisseurs AI.

Une Stratégie d’Intégration Complète

Jensen Huang, PDG de Nvidia, promulgue l’idée que disposer d’une infrastructure complète fournie par un seul acteur, Nvidia, peut garantir un meilleur rapport qualité-prix. Ce discours repose sur l’intégration de plusieurs composants: des puces, le logiciel associé, ainsi que les infrastructures nécessaires. La ligne de produits inclut des racks variés comme le rack Vera-Rubin NVL72 et le nouveau rack de données Bluefield 4, chacun optimisé pour gérer des workloads AI spécifiques.

Un Horizon d’Ambitions Élargies

Nvidia ne se limite pas à l’AI, mais cherche également à pénétrer des domaines comme la robotique et l’AI spatiale. Huang a évoqué ces nouvelles directions lors de son discours, illuminant une vision où Nvidia pourrait potentiellement diriger diverses industries grâce à une offre intégrée d’AI, de la formation à la mise en œuvre dans des applications variées. Cela positionne Nvidia comme un acteur incontournable dans la redéfinition du paysage technologique actuel.

Conclusion sur la Domination de Nvidia

Avec ses unités et racks de serveur interconnectés conçus pour optimiser chaque couche de l’infrastructure AI, Nvidia démontre sa volonté de dominer le marché. En intégrant des technologies avancées et en d’avantage franchissant des barrières traditionnelles, Nvidia est en train de s’imposer comme une référence incontournable pour toute entreprise souhaitant tirer parti des capacités AI à l’avenir. Pour en savoir plus, consultez leur vidéo sur YouTube.


En savoir plus sur L'ABESTIT

Subscribe to get the latest posts sent to your email.

Share post:

Popular

More like this
Related

...

Vingt-cinq médaillés Fields alertent sur les dangers de l’IA

En dépit des prouesses mathématiques réalisées par l’intelligence artificielle, un collectif rassemblant 25 lauréats de la médaille Fields s’inquiète, dans une tribune au « Monde », du tort causé par ces technologies à leur discipline....

Ryad augmente le brut via oléoduc pour contourner Ormuz

Depuis le début de la guerre au Moyen-Orient, Ryad a augmenté les volumes de brut transportés par cet oléoduc, qui relie Abqaïq, près du Golfe, au port de Yanbou, sur la mer Rouge, pour contourner le verrouillage du détroit d’Ormuz par l’Iran....

À Paris, Maha Al-Daya brode la mémoire de Gaza

Réfugiée en France, Maha Al-Daya a fui les bombardements qui s’abattent sur l’enclave palestinienne depuis octobre 2023. Afin de conserver une trace du vécu des Gazaouis, elle reproduit, par la pratique d’une broderie ancestrale, les cartes d’évacuation larguées par I’armée israélienne. Un geste de résistance et de résilience qui ancre sur la toile la mémoire de sa terre d’origine....