Semiconductor Portal

» セミコンポータルによる分析 » \術分析 » \術分析(半導)

Arm、モバイルにも~単な收AIを搭載できるサブシステムIPを開発

IntelやAMD、Qualcommまでがパソコン向けのAI機ζ鼎SoCプロセッサを発表し、パソコンにAI機Δこれから入っていく時代になるが、スマートフォンのようなモバイルにもAI機Δ入っていく時代になりそうだ。モバイル半導IPの覇vArmがAI機Δ鯏觝椶任る新IP「Arm Compute Subsystems(CSS)for Client」を発表した。電効率が高いことが最jの長となる。

CSS for Client / Arm

図1 收AIをモバイルで実現できるArmの新サブシステムIP 出Z:Arm


「Arm CSS for Client」はGPUコアであるImmortalis-G925を中核に、新CPUコアのArm Cortex-X925を2個、性δ_のCortex-A725を4個、消J電_のCortex-A520を2個集積したIPである(図1)。最jの`的は、CPUとGPUをセットにして、クライアントのチップにそのまま実△任るサービスを提供するもので、IPだけではなく開発ツールのKleidiと共に提供する。

H数の積和演Qv路を集積しているGPU(グラフィックプロセッサ)は、ニューラルネットワークのモデルに適したQを提供するk、演QT果データを共~する仕組みが要となる。そこで、Cortex-X925がマルチコアのクラスタをU御しL3キャッシュメモリを共~する仕組みを提供する。マルチコアCPUとしては、性δ_のCortex-A725を4コアと消J電_のCortex-A520を2コア使う。いわば来のbig.LITTLEアーキテクチャにpったCPU群だ。これらのCPUとGPUのImmortalis-G925をU御するのがCortex-X925である。これらのコアは3nmプロセスノードに官した駘設を済ませた量OKのコアとなっている。

ニューラルネットワークのAIモデルでは、H数ある並`動作の積和演Q_でuられたデータをメモリに共~しなければ次のニューラルネットワークレイヤーに行かれない。CPU処理もGPU処理もメモリを共~しなければくなるため、それらを共~するための仕組みがCortex-X925のようだ。

つまりArm CSS for Clientは、AIに化した専のプロセッサというlではなく、メモリを共~するような仕組みをeったサブシステムとなっている。このためAIではなく、セキュリティ\術SVE2エンジンに変換することも可Δ砲覆辰討い襦さらに、收AIのようにテキストをトークンという単位に分割する動作にも官できる。ちなみにTiny-Llama(Q4)の小模言語モデルで、最初のトークンまでの時間は来のCortex-X4と比べて41%も]いというAI性Δ魴eつ。いわばAIにもセキュリティv路にも官できるフレキシブルなサブシステムだといえそうだ。

AI応をT識したサブシステムなのにCPUと共~メモリを_したのは、AIチップではワークロードの70%をCPUが担っているためだとArmはいう。

ただし、GPU同士で来と比較しても性Δ蝋發なった。今vの14コアのImmortalis-G925は、12コアの来のImmortalis-G720よりもAI推bが34%高]になった。さらにグラフィック性Δ箸靴討離譽ぅ肇譟璽轡鵐亜Ray Tracing)性Δ52%向屬靴燭箸い。レイトレーシングは、グラフィックスでWいた絵のに当たる光線を入oからoや壁などでての反oまでQする\術で、^真か絵か区別しにくいほど^実的な絵をWくことができる。しかし、これまではQに長い時間がかかっていた。ArmはこれをほぼリアルタイムでQできる\術を開発したようだ。Nvidiaも2018Qにリアルタイムのレイトレーシング\術を完成させていた。ただし、消J電はArmよりもjきいと[気気譴。


KleidiAI / Arm

図2 AI向けアプリを開発するためのツールKleidiAI 出Z:Arm


ハードウエアだけではなく、AI向けのアプリケーションソフトウエアを開発するためのツールKleidiでは、AI向けのArm KleidiAIとコンピュータビジョン向けのArm KleidiCVもTした。KleidiAIでは、ArmのCPUに最適化したアプリを作れるだけではなく、收AIフレームワークに最適化した設を可Δ砲垢襦平2)。KleidiCVはコンピュータビジョンのフレームワークに向けた開発ツールである。

今後、ArmはこれまでのようなAndroidに加え、WindowsやLinuxなどにも官していく。Microsoftのソフトウエアにはほぼ官するようになったという。

(2024/06/04)
ごT見・ご感[
麼嫋岌幃学庁医 忽恢匯壓濔瞳匯曝壓濆杰| 際際弼天胆冉巖際際弼www| 弌傍廨曝冉巖敢弼丕坩| 冉巖娼瞳忽恢互賠音触壓| 析湊用帥徨弌誌bbbaaa| 忽恢撹繁娼瞳匯曝屈眉曝| 91牽旋窒継篇撞| 晩晩当際際耶爺爺訪階当97| 冉巖娼瞳壓濂シ妬啼| 娼瞳忽恢窒継鉱心| 忽恢娼瞳v頭壓濆杰寛賛| 嶄忽speakingathome塩鋼僥伏| 天胆晩昆嶄猟忖鳥壓濆杰 | 消消D晩云祇弼忝栽消消| 犯揮嚏窮唹涙評受壓濂シ| 忽恢溺藍忰vk| 99忽恢娼瞳犯消消消消消 | 弌弌篇撞恷仟窒継鉱心| 嶄猟忖鳥晩恢涙鷹| 天胆撹繁窒継互賠利嫋| 嗽寄嗽諸嗽頚壷18p富絃| 階雫弼議利嫋鉱心壓| 忽恢秉巾傘彰鶺| 嶄猟忖鳥及30匈| 天胆眉雫音触壓濆杰| 崙捲某沃匯曝屈曝眉曝| 忽恢篇撞低峡誼| 爺爺荷爺爺孤爺爺峨| 消消娼瞳涙鷹匯曝屈曝www | 忽恢娼瞳利嫋壓濆杰潅盞儡箪| 99娼瞳忽恢及匯牽旋利嫋 | 忽恢天胆消消匯曝屈曝| www.窒継壓濆杰| 晩昆窮唹窒継壓濆杰間侘鍔崢 | 1曝1曝3曝4曝恢瞳冉巖| 來弼AV匯曝屈曝眉曝涙鷹| 冉巖岱鷹匯屈眉膨曝忽恢| 娼瞳匯曝屈曝篇撞壓濆杰| 忽恢溺繁岱徨斤易AV頭| 晩云忽恢壓瀛啼| 壓濆杰間侘鍔崢子伺|