Imagination、CNN夸俠脫アクセラレ〖タAIコアを捏丁
毖柜のIPベンダ〖、Imagination Technologiesは、夸俠漓脫のAI羹けIPコア≈PowerVR 2NX NNA∽のライセンス捏丁を倡幌した。クラウドを奶すとレイテンシが覓くなるエッジやフォグなどの脫龐に蝗うだけではなく、モバイルにも蝗えるほど久銳排蝸は警ないという。≈セキュリティAIをエッジに積ってくる∽と票家PowerVR 么碰DirectorのChris Longstaff會は動拇する。
哭1 Imagination Technologies PowerVR 么碰DirectorのChris Longstaff會
このIPを蝗えば、毋えば1000綏の繼靠を池漿した浮瑚エンジン(AIマシン)から、瓦しい繼靠を斧つけるのに、光拉墻GPUなら60擅かかるところ、わずか2擅で滇められるとしている。バッテリ檻炭の1%の箕粗を蝗って尸梧できる繼靠綏眶は、GPUの2400綏に灤して、42它8000綏にものぼるという。また、ドロ〖ン脫ではハ〖ドウエアを烹很しない眷圭、灤據濕から10~15m違れていないと遍換が粗に圭わず咀仆してしまうが、このIPコアを礁姥していれば1mまで儡奪しても咀仆を閏けられるとする。
夸俠脫チップは、これまでモバイル脫龐はなく、このIPコアは、GoogleやApple、Facebook、紗刨∈Baidu∷、糙百などのスマホメ〖カ〖がAI/ニュ〖ラルネットワ〖クをモバイルへ弓げようとしていることに灤炳するもの。このIPコアは、アクセラレ〖タとして怠墻し、CPUと鼎に瓢侯する。モバイル脫龐として、你久銳排蝸と井さな攙烯燙姥が澀妥で、オプションだがMMU∈メモリ瓷妄ユニット∷も礁姥できる。Androidをサポ〖トしている爬も潑魔だ。ちなみに16nmプロセスでこのIPコアを礁姥すると1.1mm2鎳刨の燙姥だとしている。
Imaginationがニュ〖ラルネットワ〖クアクセラレ〖タと鈣んでいるこのIPコアは、ニュ〖ラルネットワ〖クの夸俠アクセラレ〖タとしての拉墻回眶である夸俠眶/擅や、コスト跟唯を山す夸俠眶/mm2、久銳排蝸を山す夸俠眶/mWという回篩で山すと、眶機を給倡していないがすべて呵光だとしている。またアクセラレ〖タであるため、遍換借妄するためのハ〖ドウエアを灑えており、ドライバ脫のホストCPUとやり艱りする。
哭2 PowerVR 2NXファミリは夸俠脫IPコア 叫諾¨Imagination Technologies
このIPコアはあくまでも夸俠脫のIPコアである。池漿をクラウド懼のス〖パ〖コンピュ〖タやGPUのHPC∈光拉墻コンピュ〖ティング∷などで乖い、ネットワ〖クモデルや池漿デ〖タをマシンラ〖ニングのフレ〖ムワ〖クに呈羌している。この面に、オ〖プンソ〖スのディ〖プラ〖ニングライブラリTensorFlowやCaffeなどを積っている。これらのライブラリから灤據とするパタ〖ンを夸俠するための妨及に恃垂するのにImaginationが捏丁するPowerVR NNA Toolを蝗う。Imaginationは恃垂ツ〖ルに裁え、DNNのAPIも捏丁する。
ニュ〖ラルネットワ〖クの遍換は答塑弄に乖誤遍換で帳姥下遍換が面看になる。デ〖タに池漿脫の腳みを齒け換しネットワ〖ク鏈てのニュ〖ロン儡魯尸を裁えるという侯度が澀妥だからである。このためこれまではGPUやDSPが羹いていたが、デ〖タビット眶は蓋年しており、遍換すべき灤據濕によって恃えられなかった。このため、痰綠な遍換も崔まれており、久銳排蝸が絡きかった。GoogleのTPUは、レイヤ〖ごとにデ〖タビット眶を恃えることで、久銳排蝸を1/10に布げたという悸烙がある。このため、GPUやDSPではなく、AI漓脫のチップが滇められている。
このPowerVR 2NX NNAでは、茶嚨千急脫のCNN∈決み哈みニュ〖ラルネットワ〖ク∷遍換に澀妥な、茶嚨の決み哈みからフィルタをかけたアクティベ〖ション霖、レイヤ〖を教井するプ〖リング霖、呵稿に窗鏈儡魯霖に魂る拎侯を鏈て、このIPで乖うデ〖タフロ〖システムを灑えている(哭3)。この馮蔡、呵井の燙姥で呵絡のMAC眶/クロックを遍換できる。
哭3 PowerVR 2NXはCNNの瓢侯を鏈て悸乖する 叫諾¨Imagination Technologies
PowerVR 2NX NNAのア〖キテクチャは、デ〖タビット眶を32ビットではなく、16ビットや8ビット、4ビットと澀妥に炳じて汾くできることが潑墓となっている。姥下遍換に澀妥なデ〖タビットと腳み燒けのビット眶は、レイヤ〖ごとに8ビット~4ビットで肋年できる。
MACは篩潔菇喇として橙磨拉を積たせており、16ビット/クロックのMAC∈姥下遍換達∷を128~1024改、8ビット/クロックのMACを256~2048改灑えており、ニュ〖ラルネットワ〖クのレイヤ〖ごとに呵努なビット眶を聯ぶことができる。またビット考さはデ〖タと腳みについて嚼起に恃えることができ、16ビットから、12、10、8、7、6、5、4ビットまでサポ〖トしている(哭4)。裁えて、このアクセレレ〖タ柒でデ〖タフロ〖を呵努步しているため、嘲嬸メモリへのアクセスは呵井になっている。また、MMUをオプションで礁姥すれば、アンドロイドなどのOSにも灤炳できる。
哭4 PowerVR 2NXを蝗ったデ〖タフロ〖 レイヤ〖ごとにデ〖タ/腳みビット眶を恃えられる 叫諾¨Imagination Technologies
このPowerVR 2NX NNAニュ〖ラルネットワ〖クのアクセラレ〖タIPコアは、CNNに辮った千急借妄を評罷とするため、IoTビデオモニタ〖をはじめ、サ〖ベイランス(雌渾カメラ)、セキュリティなどのシステムに羹く。久銳排蝸が井さいという胎蝸はモバイルカメラにも雌渾カメラ怠墻を燒けられることを罷蹋する。
茶嚨千急に蝗うCNNでは、ディ〖プラ〖ニングライブラリはTensorFlowやCaffeなどが面看であるため、これらをサポ〖トしているが、戮のライブラリも澀妥ならばサポ〖トしていくとLongstaff會はいう。
