Meta、Nvidia H100 GPUを大量保有

MetaのNvidia H100大量保有

Metaは、オープンソースの大規模言語モデルLlama 3.1の最新版をリリースした。Llama 3.1は、OpenAIのChatGPT 4を一部のテストで上回る性能を発揮した。研究論文によると、モデルの405bパラメータバージョンは、最大16,000個のNvidiaの人気の高いH100 GPUを使用してトレーニングされた。

Nvidia H100は、現在のAIブームを牽引する最も高価で最も人気のあるテクノロジーの一つだ。Metaは、AIトレーニングインフラストラクチャに35万個のH100を保有している。この数は、10億ドル以上と推定される。

AIモデルのトレーニングコスト

H100は、2万ドルから4万ドルと推定されるコストを持つ。Metaは、モデルをトレーニングするために最大6億40万ドル相当のハードウェアを使用した。これは、AI研究開発への多額の投資である。他の企業も、AIトレーニングのためにこれらの強力なチップを入手しようとしている。

Nvidia H100 GPUを保有する企業

ベンチャーキャピタルファームのAndreesen Horowitzは、2万個以上の高価なGPUを保有していると報告されている。これは、AIスタートアップにエクイティと引き換えにレンタルされている。Teslaは、H100を収集しており、イーロン・マスクは、4月の決算説明会で、Teslaは今年末までに3万5,000個から8万5,000個のH100を保有したいと述べている。