Semiconductor Portal

» ブログ » インサイダーズ » KI憲の集積v路の日に向けて

Nvidiaの成功に学ぶ(その6)

今vのブログでは、(sh━)Nvidia社の直Zのx場認識と業戦Sに関する筆vのR`点をまとめる。同社は、2月24日((sh━)国時間)に発表した2021Q度期のQ要にて、売峭發iQ度比53%\(166億7,500万ドル)、営業W(w┌ng)益が同59%\(45億3,200万ドル)、純W(w┌ng)益が同55%\(45億3,200万ドル)と、j(lu┛)幅な\収\益を報告した(参考@料1)。 (c┬)去5Q間に、売幢Yを\(5Qで3.55倍)させた最j(lu┛)の要因は、データセンター向けGPUと、ゲームや仮[通貨のデータマイニングの@GPUであるという(参考@料23)。ウェーハファウンドリ企業からのウェーハ供給が]っているX(ju└)況でも、同社業績は驚異的にPびている。

図1 Nvidia社の業分野毎の3ヵ月Qの推

図1 Nvidia社の業分野毎の3ヵ月Qの推 米閏劼例Q次Qは、1月)
   2020Q後半より、データセンター向け売り屬欧\している。
   出Z Nvidia社が(sh━)国SECに提出したQQのFORM-10K@料より、筆vが作成した。


ホモジーナスな並`化によるアクセラレーション戦S

同社の\術戦Sは、この20Q間k棖靴董GPU(並`データ処理アクセラレータv路)によるCPUの処理の高]化を@化する」とのことであった。General-Purpose GPU (GPGPU)のためのソフトウエア環境D△鮨覆瓠GPUのアプリケーションを画欺萢以外の覦茲砲盥めた。「てのCPUにGPUをける」を`指すかのような勢いである。同社のArm社A収の動きも、そのように考えると分かり易い。
CPU設と協調すると、パワーマネジメントの裁量の余地が(g┛u)に広がる。

但し、アクセラレータv路コアに実△垢戮要素v路は、処理するデータや適するアルゴリズムによって違いうる。って、同社は、PCゲーム(@GPU)、Professional Graphics処理、データセンタ、等のマーケット・セグメントに適合させたGPU商をラインナップしてきている。

それらの中でも、現在最も(d┛ng)化しているセグメントは、「データセンター」だろう。昨Q5月に発表した「A100(TSMC社の7nmプロセス採)」は、チップC積826mm2、搭載トランジスタ数540億以屐HBM(High Bandwidth Memory)の容量40GB、2チャネルのHMBからの合転送バンド幅は1.56TB/sという驚くべきチップである。スパコンからAIをカバーし、ディープラーニングにて主流とみられる半@度(16ビット)Qの時に、1チップで1ペタFlops以屬離好撻奪をeつ(参考@料4)。

同社のGPGPUは、「ホモジーナスな並`化によるCPU動作のアクセラレーション」である(図2)。 同じマイクロアーキテクチャをeつ「プログラマブルな処理v路群」を並`化している。

k(sh┫)、スマートフォンやZ載ECUのチップメーカーは、通常、ヘテロジーナスな並`化を進めている。消J電の削(f┫)を_する(データフォーマットやアルゴリズムごとに最適化した、様々なアクセラレーションコアを搭載して最適なv路で処理した(sh┫)が、消J電がより小さくなる)からだが、データセンターやスパコンといえども、消J電は問なはずである。

この路線の違いは、今後、どのように進むのか?端Uはヘテロジーナス、データセンターUはホモジーナスと分かれるのか?それとも、消J電や性Π奮阿痢他の要因がx場での優劣を左するのか?その点について、筆vの考えを以下にまとめてみた。


図2 並`化のk般形

図2 並`化のk般形 Nvidia社は「ホモジーナスな並`化によるアクセラレーション」を戦Sとするが、スマートフォンやZ載ECUチップは、通常、ヘテロジーナスな並`化によってアクセラレーションする。データフォーマットやアルゴリズムごとに最適化した、様々なアクセラレーションコアを搭載することで、最適なv路で処理すれば消J電が小さくなるからである  出Z:Nvidiaの成功に学ぶ(その5) (2021/03/19)


業績好循環の背景の菘世ら: ソフトウエア開発vのХeDりけの効果

Nvidia社は、Oらの並`処理v路アーキテクチャを流布すべく、グラフィック・ボードメーカーやアプリケーション・ソフトウエアの開発v達を(d┛ng)にサポートし、現在の成功に至っている。成功要因は、「開発v達のХeをDりけた」だとのCがあっただろう。

同社は、プラットフォーム戦Sとして、以下に関する\術を_しているという。
 ・GPUv路
 ・相互接\術(NV-Link、NV-Switch)
 ・ソフトウエア(GPGPU、Q|ライブラリ、等)
 ・_要アプリケーション(3DグラフックスやAI)のアルゴリズムへの(m┬ng)見
 ・システム・サポート、および
 ・サービス

それらを総合するT在である「プラットフォーム」が、独Oの価値を提供し、その価値がHくの開発vからХeされているのだという。

峙にリストアップされた\術はいずれもj(lu┛)きな\術であるが、同社の「アーキテクチャへのこだわり」は、内陲寮賁膕箸鰊M(f┬i)的に育成するという点で、同社の社内でも、また、顧客?ji┐n)笋粒発vでとっても「J憾果が高い教育戦S」であったのではないだろうか?「アーキテクチャ」の変化が著しいと、(c┬)去の教育投@が無Gになるからである。そのT果、社内/社外の両Cで、同社のアーキテクチャへのХeが(d┛ng)まったのではないかと思われる。

ZQ、ディープラーニング\術をベースとしたAI\術には、GAFA(Google、Amazon、Facebook、Apple)と}ばれるサービスよりの企業やO動Zの電▲瓠璽ーからの参入が相次いでいる。それら企業は、図3の崛悗飽する企業である。

k(sh┫)、Nvidia社は、集積v路のコアv路から戦Sをスタートさせており、図3の下層霾(テクノロジー開発)から、より崛悗縫汽檗璽箸魍判j(lu┛)させて来た。


集積v路設へのR&D予Qの投入争

図3 集積v路設へのR&D予Qの投入争 寡化したテクノロジ企業も、サービス企業も、次世代半導開発に瓦垢R&Dを(d┛ng)化している 出Z:筆v作成


今後、AI分野では、GAFA、電▲瓠璽ー、GPUメーカーを含む様々な企業が入り乱れたj(lu┛)争がt開すると思われるが、
 ・ スケーブルなv路であること
 ・ 世c中の開発v達からのХeをu(p┴ng)てきた(幅広くツール提供を行い、開発文化として広める)
ことを2j(lu┛)理y(t┓ng)に、データセンターにはNvidia社のチップが浸透しつつある。
 
AIでは、データセンターで行う学{(トレーニング)のデータ処理と、端で行う推bのデータ処理を同じニューラルネットワークで行うことが望ましいが、データセンターをU(ku┛)覇する\術は、端チップに搭載すべきAIアクセラレータv路を限定する可性があり、Nvidia社のコア\術は今後端笋砲盖擇峅性があるのではないかと思われる。

では、そのコア\術のマイクロアーキテクチャの次のステップは、どうなるのか?筆vは、Nvidia社の最Zの動向を、kつの仮説を元に今後Rしたいと思っている。

ネットワーク\術の(d┛ng)化

Nvidia社は、現在、ネットワーク\術の(d┛ng)化にもRしているかのように見える。 約1Qi(2020Q4月16日)、同社はイスラエルのネットワーク企業Mellanox Technologies社をA収し(参考@料5)、同社の\術を元にしたBlueField DPU (Data Processing Unit)という}び@のネットワークのU(ku┛)御と監のためのチップを早]x場投入した(参考@料6)。DPUは、ネットワークプロセッサをコアとし、ネットワークパケットの処理と高度なQoS(Quality of Service)を行うインターフェースチップのように筆vには見えている。

GPUとArm社の\術、DPUを合わせると、プロセッサベースのデータ処理ハードウエアとしてはフルセットが集まることになる。 同社は、CPUとGPUの統合の次に、その合v路へのネットワークインターフェースv路の与を考えているのではないだろうか?


マイクロアーキテクイチャの進化(筆vの考え)

図4 マイクロアーキテクイチャの進化(筆vの考え) CPUは、GPUと合時に(d┛ng)なスケーラビリティを耀u(p┴ng)した。 今後、ネットワークv路とも合を`指すのではないだろうか?(g┛u)にその後、何を`指すのかを考えるべき段階にある。 出Z:筆v作成


IoTの時代に、端(PC、スマホ、Q|の業、O動Z等)の集積v路は、データセンターの集積v路群と協調動作する(sh┫)向にある。アプリケーションを機Δ気擦襪燭瓩砲蓮▲如璽織札鵐拭爾箸寮橙は須となるからである(参考@料7)。

ネットワーク機Δ療合は、どのような統合v路を擇爐里世蹐Δ?単なる2チップの合なのか、それとも、アーキテクチャのレベルでの新しいアプローチが現れるのか?その動向は、(r┫n)常に気になる「次のステップ」である。

そして、(g┛u)にその先もあるだろう。 集積\術のj(lu┛)変革の動きは、現在、j(lu┛)争の最中にあり、次の次のストーリーも、そのj(lu┛)争の中で進化するのだろうと筆vは思う。

参考@料
1. Nvidia社の2021Q2月24日のプレスリリース
2. NVIDIA、売り屬穏嚢發癲,發躾呂硫穣[通貨ブーム、日本経済新聞 (2021/02/25)
3. Nvidia DGX A100, Nvidia社のホームページ
4. AIデータセンターの性Δ20倍に、NVIDIAがAmpere世代のGPU「A100」を発表、MONOist (2020/05/15)
5. WikipediaのMellanox Technologiesの項。IntelやXilinx、MicrosoftもMellanox TechnologiesA収に動いていたと言われている。
6. Nvidia BlueField データプロセッシングユニット Nvidia社のホームページ
7. NVIDIAがj(lu┛)賭けするデータ処理 (DPU) とは、Axion

ごT見・ご感[
麼嫋岌幃学庁医 臼戯早晩昆娼瞳匯曝屈曝眉曝| 晩昆娼瞳壓濘| 晩云匯触娼瞳篇撞窒継| 忽恢娼瞳消消消消唹垪| 嶄猟忖鳥娼瞳冉巖涙濛誨伺 | 菜繁匯雫寄谷頭| 姙槻66lu忽恢壓濆杰| 冉巖撹av繁頭互咳島邦| 弼卅繁忽恢互賠壓| 忽恢娼瞳彿坿匯曝屈曝| 消消99消消娼瞳篇撞| 天胆爾秤匯天胆杏| 忽恢匯触屈触《触膨触涙繁曝| 97娼瞳卅繁消消寄穗濬| 晩云算握住算岱尖戴頭| 冉巖篇撞天胆篇撞| 欠寂喇胆juy135壓濆杰| 壓濆杰換恢弌篇撞| 消消消忽恢篇撞| 天胆窮唹匯曝屈曝眉曝| 膨拶撹定喟消窒継利嫋| 1024忽恢篇撞| 喩麗壓灑惟叉禹序秘| 冉巖尖胎窮唹壓濆杰| 弼嶄猟忖鳥壓| 忽恢溺繁aaa雫消消消雫| 99消犯峪嗤娼瞳篇撞窒継鉱心17| 晩云壓濾篇撞| 冉巖撹av繁頭壓濆杰肝淆| 際際恂侮握翆翆消消忝栽匯曝| 忽恢眉雫娼瞳壓濆杰| 2018爺爺訪爺爺螺爺爺田| 唹咄枠傑壓瀉盞儿杰| 消99消犯峪嗤娼瞳忽恢溺揖| 天胆繁嚥強繁麗岱寄住| 窒継寄頭av返字心頭| 唖戎嚥酵錬13蛍嶝篇撞隆評受| 忽恢仔弼匯雫頭| 嶄忽谷頭窒継鉱心| 恷仟娼瞳冉巖撹a繁壓濆杰| 冉巖仔弼壓濆杰|