AIの学�{・推�bに�咾�Nvidiaが�收�AIでも�咾ね��y
Nvidiaが半導��メーカーの中で唯�k、時価総�Y1兆ドルを��えた。同社の2024�Q度��1四半期（2023�Q2〜4月期）の売�幢Yはまだ�i�Qの金�Yにも達しなかったにもかかわらず、次の四半期売�幢Yを�i四半期比53%�\の110億ドルとの見通しを発表したためだ。その原動��は�收�AI向けのGPUだ。��に最高性�Δ�H100というGPUの供給が�Bりないため、�收�AI業�vはチップを���]するTSMCから順番待ちを�咾い蕕譴討い襦�
図1 文脈を理解して新しいコンテンツを�收�する�收�AIの位��づけ 出�Z： Nvidia
これほどまでなぜNvidiaフィーバーが��きているのか。Nvidiaの�咾気�GPU（グラフィックスプロセッサ）だけではない。GPU搭載コンピュータシステムとAIに応��するためのソフトウエアも提供する。また、H100は単なるGPUではない。�收�AI（図1）に��要な�j��模言語モデルを構築するためのトランスフォーマーエンジンを集積しているという。すなわち、�收�AIに向いた専���v路を集積している。
24�Q度��1四半期のNvidiaの業績は、売�幢Yだけを見るとさほど�`立ったものではなかった。�i四半期比で19%�\とは言っても�i�Q同期比では13%��というマイナスの71.9億ドルにすぎなかった。ただ、売�幢Yのボトムであった2023�Q度��3四半期（2022�Q8~10月期）からは徐々に�峺�してきてはいる。それが次の四半期見通しが53%�\±2%という驚異的な見通しを��したため、業績発表後の株価は���_し、時価総�Yが1兆ドルに��り、その後��えた。
バンク・オブ・アメリカのアナリストは、ITメジャーをもはやGAFAMでは表現できず、Google、Amazon、Facebook （Meta）、Apple、MicrosoftにTeslaとNvidiaを加え、Magnificent Seven（偉�jな7社）と表現した。実は、Magnificent Sevenという�@称は、1960�Q代の映画「荒野の�D人」の原��である。���cのためにならず�vたちと戦った勇気ある7人をたたえた、��澤��監�Hの「�D人の侍」をモデルとしている。
Nvidiaは�`の�iのH100というGPUの�攵�だけに集中しているのではない。H100の次世代版とでもいうべき、GH200というCPUとGPUを1パッケージに搭載しSuperchipと表現された「Grace Hopper」（図2）の試作も発表し、次のレベルの�收�AIにも�官�していることを最�ZのComputex-Taipeiで発表している。この最新チップ「Grace Hopper」では1兆パラメータの�j��模言語モデルにも�官�できるという。ChatGPTに使われたGPT-3では1750億パラメータというとてつもないと思われた�j��模言語モデルのさらに�k桁�jきな巨�jなモデルの学�{も可�Δ砲垢襯船奪廚任△襦�
図2 最高性�Δ��△┐真靴靴�Superchipの「Grace Hopper」 Computex Taipeiで発表され今�Q�Q��までに出荷される予定 出�Z：Nvidia
Grace HopperはCPU（Grace）とGPU（H100）を�kつのパッケージに搭載した巨�jなチップであるが、チップサイズをNvidiaは�o開していない。CPUにはArm Neoverse V2コアを72個集積しており、GPUとはPCIe 5.0よりも7倍高�]のNVLink-C2Cでつながっており、900GB/sというバンド幅を実現している。GPUのメモリとCPUのメモリ内容が同じというメモリコヒーレンスも実現している。
トランスフォーマーエンジンとは、�收�AIを実現するためのトランスフォーマーモデル専���v路で、入��される言語を理解するエンコーダ�v路と、言語を�收�するデコーダ�v路からできている（図3）。いずれの�v路とも入��データを�Q�霾�に分解しそれぞれの�_要度に応じて�_み��けされるアテンションメカニズムを導入したディープニューラルネットワークモデルである。
図3 トランスフォーマーエンジン 入��される言語を理解するエンコーダ�v路と、言語を�收�するデコーダ�v路で出来ている 出�Z：Nvidia
デコーダ、エンコーダ内�陲侶Qレイヤーの処理を何ビットで演�Qするのか、FP16（16ビットの浮動小数点）かFP8（8ビットの浮動小数点）か、を適切に切り��えることで、処理�]度と�@度のバランスをとりながら、�j��模言語モデルに�官�しているという。ここにNvidiaのノウハウがあるようだ。
Nvidiaは、クラウドを通じてAIトレーニングサービスを提供しており、性�Ω��屬��мqする同社のAIエキスパートの�мqも�pけられる。Microsoft AzureやGoogle Cloudなどを通じて提供される。データ収集から始めて�收�AIモデルを構築し、学�{やモデルのカスタマイズ、推�bの高�]化に加え、不適切な情報（偏りと毒性）を排除し�T図に�pった情報だけを守るガードレールまで行うNeMoフレームワークもクラウドベースで提供している。
Nvidiaは、もはやファブレスチップ設��企業から、モジュールやサーバーも設��し、それらをつなげて拡張するネットワークチップやインターフェイスも提供し、スーパーコンピュータを実現するための�мqも行うコンピュータメーカーになったといえそうだ。
