Arm、モバイルにも詞帽な欄喇AIを烹很できるサブシステムIPを倡券
IntelやAMD、Qualcommまでがパソコン羹けのAI怠墻柒壟のSoCプロセッサを券山し、パソコンにAI怠墻がこれから掐っていく箕洛になるが、スマ〖トフォンのようなモバイルにもAI怠墻が掐っていく箕洛になりそうだ。モバイル染瞥攣IPの瞧莢ArmがAI怠墻を烹很できる糠IP≈Arm Compute Subsystems∈CSS∷for Client∽を券山した。排蝸跟唯が光いことが呵絡の潑墓となる。
哭1 欄喇AIをモバイルで悸附できるArmの糠サブシステムIP 叫諾¨Arm
≈Arm CSS for Client∽はGPUコアであるImmortalis-G925を面乘に、糠CPUコアのArm Cortex-X925を2改、拉墻腳渾のCortex-A725を4改、久銳排蝸腳渾のCortex-A520を2改礁姥したIPである∈哭1∷。呵絡の謄弄は、CPUとGPUをセットにして、クライアントのチップにそのまま悸劉できるサ〖ビスを捏丁するもので、IPだけではなく倡券ツ〖ルのKleidiと鼎に捏丁する。
驢眶の姥下遍換攙烯を礁姥しているGPU∈グラフィックプロセッサ∷は、ニュ〖ラルネットワ〖クのモデルに努した紛換を捏丁する辦數、遍換馮蔡デ〖タを鼎銅する慌寥みが澀妥となる。そこで、Cortex-X925がマルチコアのクラスタを擴告しL3キャッシュメモリを鼎銅する慌寥みを捏丁する。マルチコアCPUとしては、拉墻腳渾のCortex-A725を4コアと久銳排蝸腳渾のCortex-A520を2コア蝗う。いわば驕丸のbig.LITTLEア〖キテクチャに辮ったCPU凡だ。これらのCPUとGPUのImmortalis-G925を擴告するのがCortex-X925である。これらのコアは3nmプロセスノ〖ドに灤炳した濕妄肋紛を貉ませた翁緩潔灑OKのコアとなっている。
ニュ〖ラルネットワ〖クのAIモデルでは、驢眶ある事誤瓢侯の姥下遍換達で評られたデ〖タをメモリに鼎銅しなければ肌のニュ〖ラルネットワ〖クレイヤ〖に乖かれない。CPU借妄もGPU借妄もメモリを鼎銅しなければ覓くなるため、それらを鼎銅するための慌寥みがCortex-X925のようだ。
つまりArm CSS for Clientは、AIに潑步した漓脫のプロセッサという條ではなく、メモリを鼎銅するような慌寥みを積ったサブシステムとなっている。このためAIではなく、セキュリティ禱窖SVE2エンジンに恃垂することも材墻になっている。さらに、欄喇AIのようにテキストをト〖クンという帽疤に尸充する瓢侯にも灤炳できる。ちなみにTiny-Llama∈Q4∷の井憚滔咐胳モデルで、呵介のト〖クンまでの箕粗は驕丸のCortex-X4と孺べて41%も廬いというAI拉墻を積つ。いわばAIにもセキュリティ攙烯にも灤炳できるフレキシブルなサブシステムだといえそうだ。
AI炳脫を罷急したサブシステムなのにCPUと鼎銅メモリを腳渾したのは、AIチップではワ〖クロ〖ドの70%をCPUが么っているためだとArmはいう。
ただし、GPU票晃で驕丸瀾墑と孺秤しても拉墻は光くなった。海攙の14コアのImmortalis-G925は、12コアの驕丸のImmortalis-G720よりもAI夸俠が34%光廬になった。さらにグラフィック拉墻としてのレイトレ〖シング∈Ray Tracing∷拉墻も52%羹懼したという。レイトレ〖シングは、グラフィックスで閃いた敞の濕攣に碰たる各俐を掐紀から靜や噬などで鏈ての瓤紀まで紛換する禱窖で、繼靠か敞か惰侍しにくいほど繼悸弄な敞を閃くことができる。しかし、これまでは紛換に墓い箕粗がかかっていた。Armはこれをほぼリアルタイムで紛換できる禱窖を倡券したようだ。Nvidiaも2018鉗にリアルタイムのレイトレ〖シング禱窖を窗喇させていた。ただし、久銳排蝸はArmよりも絡きいと鱗嚨される。
哭2 AI羹けアプリを倡券するためのツ〖ルKleidiAI 叫諾¨Arm
ハ〖ドウエアだけではなく、AI羹けのアプリケ〖ションソフトウエアを倡券するためのツ〖ルKleidiでは、AI羹けのArm KleidiAIとコンピュ〖タビジョン羹けのArm KleidiCVも脫罷した。KleidiAIでは、ArmのCPUに呵努步したアプリを侯れるだけではなく、欄喇AIフレ〖ムワ〖クに呵努步した肋紛を材墻にする∈哭2∷。KleidiCVはコンピュ〖タビジョンのフレ〖ムワ〖クに羹けた倡券ツ〖ルである。
海稿、ArmはこれまでのようなAndroidに裁え、WindowsやLinuxなどにも灤炳していく。Microsoftのソフトウエアにはほぼ灤炳するようになったという。
