Gérer un tel éventail gargantuesque de puces pour développer Llama 4 est susceptible de présenter des défis d’ingénierie uniques et nécessiter d’énormes quantités d’énergie. Les dirigeants de Meta ont contourné mercredi une question d’un analyste concernant les contraintes d’accès à l’énergie dans certaines parties des États-Unis qui ont entravé les efforts des entreprises pour développer des IA plus puissantes.

Selon une estimation, un cluster de 100 000 puces H100 nécessiterait 150 mégawatts de puissance. Le superordinateur du plus grand laboratoire national aux États-Unis, El Capitan, nécessite quant à lui 30 mégawatts de puissance. Meta s’attend à dépenser jusqu’à 40 milliards de dollars en capital cette année pour fournir des centres de données et d’autres infrastructures, ce qui représente une augmentation de plus de 42 % par rapport à 2023. L’entreprise prévoit une croissance encore plus rapide de ces dépenses l’année prochaine.

Les coûts d’exploitation totaux de Meta ont augmenté d’environ 9 % cette année. Mais les ventes globales—principalement issues de la publicité—ont fortement augmenté de plus de 22 %, laissant l’entreprise avec des marges plus confortables et des bénéfices plus importants, même si elle investit des milliards de dollars dans les efforts de Llama.

Pendant ce temps, OpenAI, considéré comme le leader actuel dans le développement d’IA de pointe, brûle de l’argent malgré le fait de facturer aux développeurs l’accès à ses modèles. Ce qui reste pour le moment une initiative à but non lucratif a déclaré qu’elle formait GPT-5, un successeur du modèle qui alimente actuellement ChatGPT. OpenAI a déclaré que GPT-5 sera plus grand que son prédécesseur, mais n’a pas précisé le cluster informatique qu’elle utilise pour l’entraînement. OpenAI a également dit qu’en plus de sa taille, GPT-5 intégrera d’autres innovations, y compris une approche récemment développée pour le raisonnement.

Le PDG Sam Altman a déclaré que GPT-5 sera “un saut en avant significatif” par rapport à son prédécesseur. La semaine dernière, Altman a répondu à un reportage affirmant que le prochain modèle de frontière d’OpenAI serait publié d’ici décembre en écrivant sur X, “les fausses nouvelles hors de contrôle.”

Mardi, le PDG de Google, Sundar Pichai, a déclaré que la nouvelle version de la famille Gemini de modèles d’IA générative est en cours de développement.

L’approche ouverte de Meta en matière d’IA s’est parfois révélée controversée. Certains experts en IA craignent que la mise à disposition de modèles d’IA beaucoup plus puissants en libre accès puisse être dangereuse car cela pourrait aider les criminels à lancer des cyberattaques ou à automatiser la conception d’armes chimiques ou biologiques. Bien que Llama soit ajusté avant sa sortie pour restreindre les comportements inappropriés, il est relativement trivial de supprimer ces restrictions.

Zuckerberg reste optimiste quant à la stratégie open source, même si Google et OpenAI poussent des systèmes propriétaires. “Il me semble assez clair que l’open source sera l’option la plus rentable, personnalisable, fiable, performante et facile à utiliser disponible pour les développeurs”, a-t-il déclaré mercredi. “Et je suis fier que Llama ouvre la voie à cela.”

Zuckerberg a ajouté que les nouvelles capacités de Llama 4 devraient permettre une plus large gamme de fonctionnalités à travers les services de Meta. Aujourd’hui, l’offre phare basée sur les modèles Llama est le chatbot similaire à ChatGPT connu sous le nom de Meta AI, qui est disponible sur Facebook, Instagram, WhatsApp et d’autres applications.

Plus de 500 millions de personnes utilisent Meta AI chaque mois, a déclaré Zuckerberg. Au fil du temps, Meta s’attend à générer des revenus grâce à la publicité dans cette fonctionnalité. “Il y aura un ensemble élargi de requêtes pour lesquelles les gens l’utiliseront, et les opportunités de monétisation existeront au fil du temps à mesure que nous y parviendrons”, a déclaré la directrice financière de Meta, Susan Li, lors de l’appel de mercredi. Avec le potentiel de revenus publicitaires, Meta pourrait bien réussir à subventionner Llama pour tout le monde.