Les géants de la technologie accumulent les processeurs Nvidia H100
Stockage de Nvidia H100
Meta possède 350 000 processeurs Nvidia H100, pouvant coûter jusqu’à 40 000 dollars chacun. Cet important stock fait partie d’une tendance plus large parmi les géants de la technologie pour acquérir ces puces puissantes pour l’entraînement de l’intelligence artificielle (IA).
Le Nvidia H100 est une technologie très demandée, utilisée pour alimenter le boom actuel de l’IA. Les entreprises vont jusqu’à payer des particuliers pour les faire passer en contrebande en Chine afin de contourner les contrôles à l’exportation américains.
Demande pour les processeurs Nvidia H100
La demande pour les processeurs Nvidia H100 est motivée par la nécessité de matériel informatique puissant pour entraîner les grands modèles de langage. La récente sortie de Llama 3.1 par Meta, un grand modèle de langage, a été entraînée à l’aide de jusqu’à 16 000 processeurs Nvidia H100.
D’autres entreprises, telles que Tesla et OpenAI, cherchent également à acquérir de grandes quantités de processeurs Nvidia H100. Le PDG de Tesla, Elon Musk, a déclaré que l’entreprise vise à avoir entre 35 000 et 85 000 H100 d’ici la fin de l’année.
La forte demande pour ces processeurs a entraîné une pénurie, avec des prix atteignant jusqu’à 34 749,95 dollars sur Amazon. Cette pénurie a des implications importantes pour les entreprises cherchant à développer la technologie de l’IA.
Histoire de Nvidia H100
Le Nvidia H100 est le successeur du Nvidia A100, qui était également très demandé pour l’entraînement de l’IA. L’A100 a été publié en 2020 et est rapidement devenu un incontournable dans de nombreuses institutions de recherche en IA et entreprises.
La demande pour l’A100 était si élevée qu’elle a entraîné une pénurie, de nombreuses entreprises et chercheurs ayant du mal à obtenir les puces. Le H100, publié en 2022, a continué cette tendance, de nombreuses entreprises cherchant à acquérir les puces pour leurs besoins en entraînement de l’IA.
Mécaniques techniques
Le Nvidia H100 est un processeur puissant capable de gérer des calculs complexes nécessaires à l’entraînement de l’IA. Ses performances élevées et sa faible latence en font un choix idéal pour les entreprises cherchant à développer de grands modèles de langage.
Le Nvidia H100 est également hautement personnalisable, permettant aux entreprises d’adapter ses performances à leurs besoins spécifiques. Cela a entraîné une forte demande pour la puce, alors que les entreprises cherchent à optimiser leurs processus d’entraînement de l’IA.
L’architecture du H100 est basée sur l’architecture Hopper de Nvidia, qui offre un gain significatif en termes de performances et d’efficacité par rapport aux architectures précédentes. Cela a rendu le H100 très populaire auprès des entreprises cherchant à développer des modèles d’IA nécessitant des performances élevées et une faible latence.
Implications en aval
La pénurie de processeurs Nvidia H100 a des implications importantes pour les entreprises cherchant à développer la technologie de l’IA. Le coût élevé des puces, combiné à l’offre limitée, a rendu difficile pour les petites entreprises de concurrencer les géants de la technologie.
Cela a soulevé des inquiétudes quant au risque de monopole dans l’industrie de l’IA, alors que les grandes entreprises sont en mesure d’acquérir et de stocker le matériel nécessaire. Cela pourrait avoir des implications importantes pour le développement de la technologie de l’IA, ainsi que pour l’industrie technologique dans son ensemble.
La pénurie a également entraîné un marché noir pour les processeurs Nvidia H100, avec des particuliers payés pour les faire passer en contrebande en Chine. Cela a soulevé des inquiétudes quant à la sécurité et à l’authenticité de ces puces, ainsi qu’au risque qu’elles soient utilisées à des fins malveillantes.
Implications plus larges
L’obsession de l’industrie technologique pour les processeurs Nvidia H100 fait partie d’une tendance plus large des entreprises cherchant à acquérir et à stocker du matériel informatique puissant. Cette tendance a des implications importantes pour le développement de la technologie de l’IA, ainsi que pour l’industrie technologique dans son ensemble.
La demande pour les processeurs Nvidia H100 n’est pas limitée aux géants de la technologie. D’autres entreprises, telles que celles des secteurs de la finance et de la santé, cherchent également à acquérir ces puces pour développer leurs propres capacités d’IA.
Le Nvidia H100 est un composant clé dans le développement de grands modèles de langage, qui ont de nombreuses applications dans des secteurs tels que le service client, la traduction automatique et la synthèse de texte.