Intel AI Everywhere里維の媽1悶、オフラインPC懼で欄喇AIが材墻に
Intelは、AI Everywhere里維を何ることを離咐した。その洛山弄な毋としてAIエンジンを礁姥したパソコン羹けCPU≈Core Ultra∈コ〖ド嘆Meteor Lake∷∽∈哭1∷を券卿するとともに、サ〖バ〖羹けのCPU≈媽5坤洛のXeonプロセッサ∽にもAIエンジンを礁姥した。さらにAI漓脫チップ≈Gaudi 3∽を2024鉗に券卿することも湯らかにした。
哭1 Intelの呵糠SoCのPC羹けCore Ultraプロセッサ 叫諾¨Intel
IntelのAI Everywhere里維のキモは、欄喇AIのような叼絡なLLM∈絡憚滔咐胳モデル∷から、パソコンのプロセッサや眉瑣レベルまでAI禱窖が蝗えるようにすることである。AIは禱窖であり謄弄ではない。
AIは海やさまざまなところに蝗われ、これまでにない怠墻を侯り叫している。毋えば、ST Microelectronicsは寥み哈みシステムに簇する鷗績柴Techno-Frontier 2023において、麗邁怠にAIを脫いて、蝗うモ〖タ〖の呵努な攙啪眶に圭った排萎を萎すことによって久銳排蝸を猴負した∈徊雇獲瘟1∷。これはSTのマイコンにAI怠墻を礁姥している。もう辦つの毋として、Googleの呵糠スマ〖トフォン≈Pixel 8∽シリ〖ズには、AIを蝗ってズ〖ムインの豺嚨刨を懼げている。これまでのカメラだとズ〖ムの橙絡はレンズとデジタルズ〖ムの墻蝸で瘋まってしまい、嘎腸があった。それをズ〖ムインしてぼやけずに橙絡できるという茶燎輸窗怠墻にAIで輸窗すべき妨覺を池漿させて、侍の繼靠を橙絡してもくっきりと斧えるようにした。
つまりAIは、もっと怠墻を橙絡したい、あるいは拉墻を懼げたい、借妄箕粗をもっと沒くしたい、などの妥滇に炳える漓脫の怠墻を悸附するための禱窖である。AI=腑い、部でもできる、という條では瘋してない。池漿させたことだけを悸附する禱窖である。AIがパソコンやスマホに很るようになると、ちょっとしたさまざまな妥滇に炳えられるようになる、嫡に咐えば、AIエンジンをマイコンやSoCに礁姥させることができるようになるため、パソコンやスマホ婁ではどのような怠墻をAIで悸附すべきかがシステム倡券莢には啼われるようになる。
海攙Intelがパソコン羹けにAI怠墻を很せたプロセッサ∈SoC¨System on Chip∷Core Ultraで詞帽な欄喇AIをクラウドと儡魯せずに蝗えるようなデモを斧せた。これは、敞を閃くための欄喇AIであり、毋えば≈客濕の磅據巧弄な敞を閃いてほしい∽と巴完すると、そのような敞を叫蝸し、その稿≈キュ〖ビズム弄な敞を閃いてほしい∽と完むとピカソのような敞を叫蝸する、というデモであった。いずれも10×15擅かかったが、インタ〖ネットとは磊り違したデモであった。このCore Ultra瀾墑は12奉18泣に柜柒で券卿した。
哭2 CPUとGPU、NPUを1パッケ〖ジに悸劉 叫諾¨Intel
このチップでは、CPUとGPU∈グラフィックスを閃く∷、NPU∈ニュ〖ラルプロセッシング∷のチップを礁姥した黎眉パッケ〖ジに悸劉している∈哭2∷。TSVを蝗った3D-IC禱窖Feverosを蝗い、3D-ICや2.5D-ICを蝗い、これまでのパソコン羹けSoCよりも帽疤久銳排蝸碰たりの拉墻が光い。CPUには呵絡6コアのP-コア∈拉墻庭黎のCPUコア∷、8コアのE-コア∈排蝸跟唯庭黎のCPUコア∷そして、潑に久銳排蝸の你いLP E-コアを2コア礁姥した。GPUにはインテル迫極のArcコアを蝗い、Ray Tracing攙烯禱窖を礁姥した。AI漓脫のNPUはニュ〖ラルネットのデ〖タフロ〖コンピュ〖ティングのストリ〖ムを悸乖するようだ。
欄喇AIで茶嚨を叫蝸するデモでは、LLMの辦鹼であるLLaMa2-7Bモデルをオフラインで悸乖したが、CPUとGPU、そしてNPUを票箕に充り慷りながら悸乖している。LLMのEncoderモデルをNPUで悸乖したという。
哭3 媽5坤洛のXeonスケ〖ラブルプロセッサ 叫諾¨Intel
券山したもう辦つのSoCである媽5坤洛のXeonスケ〖ラブルプロセッサ∈倡券コ〖ド嘆Emerald Rapids∷∈哭3∷は、CPUそのものを呵絡64コア礁姥したデ〖タセンタ〖羹けのSoCである。媽4坤洛のXeonスケ〖ラブルプロセッサと孺べ、士堆弄な拉墻は1.21擒、AIの夸俠拉墻は呵絡1.42擒などの猖紊が裁えられている。
拉墻羹懼のカギはメモリである。メモリ廬刨を光めると鼎に、CPUから呵も斌いキャッシュメモリであるLLC∈Last Level Cache∷のサイズを漣坤洛の3擒に籠やした。メモリの啪流レ〖トは呵絡5600MT/sで、LLCメモリの絡きさは呵絡320MBもある。CPUあたり8チャンネルのDDR5をサポ〖トし、CPU粗のUPI∈Ultra Path Interconnect∷2.0灤炳廬刨は呵絡20GT/sと光廬になった。このチップは2024鉗媽1煌染袋から券卿される徒年となっている。
哭4 媽5坤洛Xeonスケ〖ラブルプロセッサ∈寶緘∷とCore Ultra∈焊緘∷を積つインテル洛山艱涅舔家墓の塢騰柜賴會
Intel泣塑恕客インテル洛山艱涅舔家墓の塢騰柜賴會は、クラウド懼でのAIアクセラレ〖タとして、2024鉗券卿の糠瀾墑Gaudi 3に簇しても卡れたが、Intel 5プロセスを蝗う徒年であることだけにとどめた。附哼蝗われているGaudi 2と孺べBF16遍換拉墻が4擒、ネットワ〖ク掠拌升が2擒、HBM掠拌升が1.5擒にそれぞれ籠えるとしている。また、AI Everywhere里維の墊端はエッジにおける寥み哈みシステムになるだろう、と票會は徒鱗する。IntelはクラウドからエッジまでAIを寵脫できる攣擴を臘えることになりそうだ。
徊雇獲瘟
1. ≈SiCトップのSTMicro、パワ〖だけでなくエッジAI崔めソリュ〖ションで盡砷∽、セミコンポ〖タル (2023/08/09)
2. ≈AIチップ、クラウドの欄喇AIからエッジでの漓脫弄な欄喇AIへ橙絡∽、セミコンポ〖タル (2023/10/10)
