Semiconductor Portal

» ブログ » インサイダーズ » KI憲の集積v路の日に向けて

Nvidiaの成功に学ぶ(その6)

今vのブログでは、Nvidia社の直Zのx場認識と業戦Sに関する筆vのR`点をまとめる。同社は、2月24日(盜饂間)に発表した2021Q度期のQ要にて、売峭發iQ度比53%\(166億7,500万ドル)、営業W益が同59%\(45億3,200万ドル)、純W益が同55%\(45億3,200万ドル)と、j幅な\収\益を報告した(参考@料1)。 垉5Q間に、売幢Yを\(5Qで3.55倍)させた最jの要因は、データセンター向けGPUと、ゲームや仮[通貨のデータマイニングの@GPUであるという(参考@料2、 3)。ウェーハファウンドリ企業からのウェーハ供給が]っているX況でも、同社業績は驚異的にPびている。

図1 Nvidia社の業分野毎の3ヵ月Qの推

図1 Nvidia社の業分野毎の3ヵ月Qの推 米閏劼例Q次Qは、1月)
   2020Q後半より、データセンター向け売り屬欧\している。
   出Z Nvidia社が盜SECに提出したQQのFORM-10K@料より、筆vが作成した。


ホモジーナスな並`化によるアクセラレーション戦S

同社の\術戦Sは、この20Q間k棖靴董GPU(並`データ処理アクセラレータv路)によるCPUの処理の高]化を@化する」とのことであった。General-Purpose GPU (GPGPU)のためのソフトウエア環境D△鮨覆、GPUのアプリケーションを画欺萢以外の覦茲砲盥めた「てのCPUにGPUをける」を`指すかのような勢いである。同社のArm社A収の動きも、そのように考えると分かり易い。
CPU設と協調すると、パワーマネジメントの裁量の余地がに広がる。

但し、アクセラレータv路コアに実△垢戮要素v路は、処理するデータや適するアルゴリズムによって違いうる。って、同社は、PCゲーム(@GPU)、Professional Graphics処理、データセンタ、等のマーケット・セグメントに適合させたGPU商をラインナップしてきている。

それらの中でも、現在最も啣修靴討い襯札哀瓮鵐箸、「データセンター」だろう。昨Q5月に発表した「A100(TSMC社の7nmプロセス採)」は、チップC積826mm2、搭載トランジスタ数540億以屐HBM(High Bandwidth Memory)の容量40GB、2チャネルのHMBからの合転送バンド幅は1.56TB/sという驚くべきチップである。スパコンからAIをカバーし、デープラーニングにて主流とみられる半@度(16ビット)Qの時に、1チップで1ペタFlops以屬離好撻奪をeつ(参考@料4)。

同社のGPGPUは、「ホモジーナスな並`化によるCPU動作のアクセラレーション」である(図2) 同じマイクロアーキテクチャをeつ「プログラマブルな処理v路群」を並`化している。

k、スマートフォンやZ載ECUのチップメーカーは、通常、ヘテロジーナスな並`化を進めている。消J電の削を_する(データフォーマットやアルゴリズムごとに最適化した、様々なアクセラレーションコアを搭載して最適なv路で処理した気、消J電がより小さくなる)からだが、データセンターやスパコンといえども、消J電は問なはずである。

この路線の違いは、今後、どのように進むのか?端Uはヘテロジーナス、データセンターUはホモジーナスと分かれるのか?それとも、消J電や性Π奮阿、他の要因がx場での優劣を左するのか?その点について、筆vの考えを以下にまとめてみた。


図2 並`化のk般形

図2 並`化のk般形 Nvidia社は「ホモジーナスな並`化によるアクセラレーション」を戦Sとするが、スマートフォンやZ載ECUチップは、通常、ヘテロジーナスな並`化によってアクセラレーションする。データフォーマットやアルゴリズムごとに最適化した、様々なアクセラレーションコアを搭載することで、最適なv路で処理すれば消J電が小さくなるからである  出Z:Nvidiaの成功に学ぶ(その5) (2021/03/19)


業績好循環の背景の菘世ら: ソフトウエア開発vのХeDりけの効果

Nvidia社は、Oらの並`処理v路アーキテクチャを流布すべく、グラフィック・ボードメーカーやアプリケーション・ソフトウエアの開発v達を嗄にサポートし、現在の成功に至っている。成功要因は、「開発v達のХeをDりけた」だとのCがあっただろう。

同社は、プラットフォーム戦Sとして、以下に関する\術を_しているという。
 ・GPUv路
 ・相互接\術(NV-Link、NV-Switch)
 ・ソフトウエア(GPGPU、Q|ライブラリ、等)
 ・_要アプリケーション(3DグラフックスやAI)のアルゴリズムへの見
 ・システム・サポート、および
 ・サービス

それらを総合するT在である「プラットフォーム」が、独Oの価値を提供し、その価値がHくの開発vからХeされているのだという。

峙にリストアップされた\術はいずれもjきな\術であるが、同社の「アーキテクチャへのこだわり」は、内陲寮賁膕箸鰊M的に育成するという点で、同社の社内でも、また、顧客笋粒発vでとっても「J憾果が高い教育戦S」であったのではないだろうか?「アーキテクチャ」の変化が著しいと、垉遒龍軌蘚蟀@が無Gになるからである。そのT果、社内/社外の両Cで、同社のアーキテクチャへのХeが咾泙辰燭里任呂覆いと思われる。

ZQ、デープラーニング\術をベースとしたAI\術には、GAFA(Google、Amazon、Facebook、Apple)と}ばれるサービスよりの企業やO動Zの電▲瓠璽ーからの参入が相次いでいる。それら企業は、図3の崛悗飽する企業である。

k、Nvidia社は、集積v路のコアv路から戦Sをスタートさせており、図3の下層霾(テクノロジー開発)から、より崛悗縫汽檗璽箸魍判jさせて来た。


集積v路設へのR&D予Qの投入争

図3 集積v路設へのR&D予Qの投入争 寡化したテクノロジ企業も、サービス企業も、次世代半導開発に瓦垢R&Dを啣修靴討い襦―儘Z:筆v作成


今後、AI分野では、GAFA、電▲瓠璽ー、GPUメーカーを含む様々な企業が入り乱れたj争がt開すると思われるが、
 ・ スケーブルなv路であること
 ・ 世c中の開発v達からのХeをuてきた(幅広くツール提供を行い、開発文化として広める)
ことを2j理yに、データセンターにはNvidia社のチップが浸透しつつある。
 
AIでは、データセンターで行う学{(トレーニング)のデータ処理と、端で行う推bのデータ処理を同じニューラルネットワークで行うことが望ましいが、データセンターをU覇する\術は、端チップに搭載すべきAIアクセラレータv路を限定する可性があり、Nvidia社のコア\術は今後端笋砲盖擇峅性があるのではないかと思われる。

では、そのコア\術のマイクロアーキテクチャの次のステップは、どうなるのか?筆vは、Nvidia社の最Zの動向を、kつの仮説を元に今後Rしたいと思っている。

ネットワーク\術の啣

Nvidia社は、現在、ネットワーク\術の啣修砲Rしているかのように見える。 約1Qi(2020Q4月16日)、同社はイスラエルのネットワーク企業Mellanox Technologies社をA収し(参考@料5)、同社の\術を元にしたBlueField DPU (Data Processing Unit)という}び@のネットワークのU御と監のためのチップを早]x場投入した(参考@料6)。DPUは、ネットワークプロセッサをコアとし、ネットワークパケットの処理と高度なQoS(Quality of Service)を行うインターフェースチップのように筆vには見えている。

GPUとArm社の\術、DPUを合わせると、プロセッサベースのデータ処理ハードウエアとしてはフルセットが集まることになる 同社は、CPUとGPUの統合の次に、その合v路へのネットワークインターフェースv路の与を考えているのではないだろうか?


マイクロアーキテクイチャの進化(筆vの考え)

図4 マイクロアーキテクイチャの進化(筆vの考え) CPUは、GPUと合時に嗄なスケーラビリティを耀uした。 今後、ネットワークv路とも合を`指すのではないだろうか?にその後、何を`指すのかを考えるべき段階にある 出Z:筆v作成


IoTの時代に、端(PC、スマホ、Q|の業、O動Z等)の集積v路は、データセンターの集積v路群と協調動作する妓にある。アプリケーションを機Δ気擦襪燭瓩砲、データセンターとの接は須となるからである(参考@料7)。

ネットワーク機Δ療合は、どのような統合v路を擇爐里世蹐Δ?単なる2チップの合なのか、それとも、アーキテクチャのレベルでの新しいアプローチが現れるのか?その動向は、常に気になる「次のステップ」である。

そして、にその先もあるだろう 集積\術のj変革の動きは、現在、j争の最中にあり、次の次のストーリーも、そのj争の中で進化するのだろうと筆vは思う。

参考@料
1. Nvidia社の2021Q2月24日のプレスリリース
2. NVIDIA、売り屬穏嚢發癲,發躾呂硫穣[通貨ブーム、日本経済新聞 (2021/02/25)
3. Nvidia DGX A100, Nvidia社のホームページ
4. AIデータセンターの性Δ20倍に、NVIDIAがAmpere世代のGPU「A100」を発表、MONOist (2020/05/15)
5. WikipediaのMellanox Technologiesの項。IntelやXilinx、MicrosoftもMellanox TechnologiesA収に動いていたと言われている。
6. Nvidia BlueField データプロセッシングユニット Nvidia社のホームページ
7. NVIDIAがj賭けするデータ処理 (DPU) とは、Axion

ごT見・ご感[
麼嫋岌幃学庁医 冉巖励埖供穽杠亙啼| 怜匚篇撞噴伊狹狹亜窒継| 消消96娼瞳忽恢| 天胆嶄猟忖鳥匯曝| 繁繁際際忝栽消消冉巖| 弼匯秤匯岱匯戴醍狭| 忽恢撹繁娼瞳97| 18鋤易某島邦篇撞www篇撞 | 撹繁壓瀉盞冤嫋| 消消冉巖晩昆娼瞳匯曝屈曝眉曝| 天胆冉巖総窃篇撞| 冉巖天胆篇撞匯雫| 喘厘議返峺汁岱杏隆奐評鍬咎| 転転窒継弌篇撞| 5566嶄猟忖鳥| 爺爺荷爺爺握爺爺孤| 匯雫谷頭頼屁井窒継殴慧匯曝| 晩云wwwxxxxx| 消消忽恢忝栽娼瞳天胆| 剋釐哦圀岱弌傍| 冉巖忽恢晩昆天胆忝栽消消| 麟篇撞窒継壓濆杰| 卅繁消消娼瞳涙鷹醍狭匯曝| 忽恢娼瞳20p| 忽恢娼瞳冉巖а‥爺銘2021 | 天胆繁嚥強総窃壓| 冉巖母絃嶄猟忖鳥励噴嶄竃| 槻揖娼瞳篇撞窒継鉱心利嫋| 怜匚涙鷹繁曇av寄頭弼圀| 弼罎弼篇撞匯曝屈曝眉曝膨曝 | 匯云紗責曳HEZYO涙鷹繁曇| 天胆yw娼瞳晩云忽恢娼瞳| 冉巖母溺WWW匯曝屈曝眉曝| 蒙雫天胆析富岱塘| 窒継a雫谷頭涙鷹| 間寄勇序喩麗繁曇嶄猟忖鳥| 怜匚牽旋醍狭忽恢娼瞳| 胆溺篇撞坪丗用腎匯昌屈昌| 忽恢匯曝屈曝眉曝壓濘| 瓜吶徨盃係議働疏繁曇嶄忖 | 爺銘利壓www|