Dans une publication Instagram Reels du 18 janvier, Mark Zuckerberg a déclaré que la « future feuille de route » de l'entreprise pour l'IA nécessite la construction d'une « infrastructure informatique massive » qui sera alimentée par 350 000 puces Nvidia H100 d'ici la fin de 2024.

ms92shcq.png
Mark Zuckerberg affirme que l'IA est la principale priorité d'investissement de Meta en 2024. (Photo : Bloomberg)

Le PDG de Meta n'a pas précisé le nombre de GPU qu'il avait achetés, mais le H100 devrait arriver sur le marché fin 2022 et l'offre est extrêmement limitée. Les analystes de Raymond James estiment que Nvidia vend le H100 entre 25 000 et 30 000 dollars. Sur eBay, la puce peut atteindre plus de 40 000 dollars. Si Meta obtient un prix inférieur, le coût avoisinerait les 9 milliards de dollars.

De plus, Zuckerberg a également révélé qu'en incluant d'autres GPU, la puissance de calcul de l'infrastructure équivaudrait à 600 000 H100. En décembre 2023, Meta, OpenAI et Microsoft ont annoncé qu'ils utiliseraient la nouvelle puce d'IA Instinct MI300X d'AMD.

Meta a besoin de puces informatiques aussi « lourdes » car elle poursuit son développement en matière d'intelligence artificielle générale (IAG), que Zuckerberg qualifie de « vision à long terme » pour l'entreprise. OpenAI et Google DeepMind travaillent également sur l'IAG – une IA futuriste comparable à l'intelligence humaine.

Yann LeCun, directeur scientifique de Meta, a souligné l'importance des GPU lors d'un événement le mois dernier à San Francisco, aux États-Unis. Il a déclaré que pour l'IA générale, il fallait acheter davantage de GPU. « Une guerre de l'IA est en cours et il (Jensen Huang, PDG de Nvidia) fournit les armes. »

Dans son rapport sur les résultats du troisième trimestre 2023, Meta a annoncé des dépenses totales de 94 à 99 milliards de dollars en 2024, notamment pour accroître ses capacités de calcul. Lors d'une réunion avec des analystes, le directeur général du groupe a également confirmé que « l'IA sera le principal domaine d'investissement prioritaire en 2024, tant en termes de technologie que de ressources informatiques ».

Le 18 janvier également, Zuckerberg a annoncé son intention de rendre « open source » de manière responsable l'AGI que l'entreprise développe, une approche similaire à celle de la famille de langages Llama. Meta forme Llama 3 et renforcera les liens entre les groupes de recherche Fundamental AI Research (FAIR) et GenAI.

Peu de temps après la publication de Zuckerberg, l'ingénieur LeCun a écrit sur X : « Pour accélérer le processus, FAIR est désormais une organisation sœur de GenAI, la division des produits d'IA. »

(Selon CNBC)