Amazon、漓脫染瞥攣チップを魯」倡券面
Amazonのクラウドコンピュ〖ティング柴家であるAWS∈Amazon Web Service∷が極家肋紛の染瞥攣を橙絡している。呵糠惹マイクロプロセッサであるGraviton 2に裁え、怠常池漿のチップAWS Inferentia、ハ〖ドウエアセキュリティチップNitro Security Chipをクラウドで網脫しており、さらに池漿チップAWS Trainiumを倡券面だ。
哭1 Nitroシステムをハ〖ドウエア步し戮家と汗侍步する 叫諾¨AWS
AWSのクラウドにおけるプラットフォ〖ムは簿鱗步を虐攆しており、これまではサ〖バ〖の面で、簿鱗步コンピュ〖テンングのカスタマインスタンスと、メモリとCPUを充り碰てるハイパ〖バイザをサ〖バ〖鏈攣の70%を貍めていた。荒りの30%はネットワ〖キングとストレ〖ジ、その戮∈瓷妄やセキュリティなど∷だった。これを漣莢の70%を100%サ〖バ〖に積たせ、荒り30%を鏈て漓脫のハ〖ドウエアで菇喇しそれをNitro∈ナイトロと券不∷と鈣んだ∈哭1∷。つまり、ここにも染瞥攣チップを極家倡券していく。
コンピュ〖ティング簿鱗步嬸尸は、IntelやAMDのx86ア〖キテクチャと、64ビットArm Neoverseコアを礁姥したGraviton 2プロセッサで菇喇する。極肩肋紛のGraviton 2プロセッサは、x86ア〖キテクチャよりも40%コストフォ〖マンスが紊いことを澄千している。デ〖タセンタ〖のプロセッサ嬸尸でコストパフォ〖マンスが紊いことは、簿鱗步コンピュ〖ティング墻蝸を戮のクラウドベンダ〖よりももっと籠動できることにある。すなわち汗侍步できる。
Intelの糠プロセスIntel 20AではGraviton 3を瀾隴巴完する紛茶であり、Intelのファウンドリとしての墻蝸への袋略は絡きい。海のところ、x86ア〖キテクチャとGravitonを鼎賂させているが、經丸に簇しては咐第していない。
AWSは、Nitroの瞥掐によって、ネットワ〖ウやストレ〖ジ、瓷妄ˇセキュリティ簇犯をハ〖ドウエア步するためのチップ倡券に蝸を廟ぐことになる。セキュリティでは、インスタンスのハ〖ドウエアやファ〖ムウエア步を雌渾、瘦割する。セキュリティチップはRoot of Trust∈慨完の答爬∷をハ〖ドウエアで悸附したもの。このチップが、鏈ての稍帶券拉ストレ〖ジへのI/Oをトラップして擴告する。そして稍帶券拉ストレ〖ジへの鏈ての今き哈みをハ〖ドウエアでブロックする。彈瓢箕にはストレ〖ジ懼のデ〖タが今き垂わっていないことを撅に澄千する。
AIの怠常池漿漓脫チップAWS Inferentia∈哭2∷を倡券したのは、ディ〖プラ〖ニングのラニングコストをGPUインスタンスと孺べて30%猴負でき、炳批のレイテンシは25%に猴負できるという。
哭2 AWSの夸俠脫チップAWS Inferentia 叫諾¨AWS
AWSは不蘭掐蝸≈Alexa∽のような不蘭をテキストから欄喇するモデルをInferentiaに敗乖させることで、より光廬なAlexa炳批をもたらすことになる。
さらに海稿は倡券面の池漿チップAWS Trainiumは、AWS Inferentiaで網脫するAWS Neuron SDK∈ソフトウエア倡券キット∷を蝗ってモデルをコンパイルできるという。呵井嘎のコ〖ド恃構でGPUベ〖スのインスタンスからも敗乖材墻だとしている。TensorFlowやPyTorchなど肩妥フレ〖ムワ〖クをサポ〖トしている。拉墻の拒嘿は券山していないがTFLOPSレベルであることは粗般いなさそう。2021鉗瑣までには掐緘材墻にする紛茶だ。
