Cerebras、4名トランジスタの媽3坤洛ウェ〖ハスケ〖ルAIチップを倡券
Cerebras Systems家は、4名トランジスタを礁姥したウェ〖ハスケ〖ルのAIアクセラレ〖タチップ≈WSE-3∽を倡券した。300mmウェ〖ハから21cm逞に磊り艱った染瞥攣で、漣攙のWSE-2∈徊雇獲瘟1∷での7nmから5nmプロセスを網(wǎng)脫して礁姥刨を懼げた。このウェ〖ハスケ〖ルICを寥み哈んだAIコンピュ〖タ≈CS-3∽を64駱寥み哈む≈Condor Galaxy 3∽を里維弄パ〖トナ〖であるG42と鼎票で倡券面である。
哭1 媽3坤洛のウェ〖ハスケ〖ルIC≈WSE-3∽を倡券 叫諾¨Cerebras Systems
ウェ〖ハスケ〖ルIC≈WSE-3∽を烹很したAIコンピュ〖タCS-3の拉墻は、これまで呵光のCS-2と票じ久銳排蝸、票じ擦呈で孺べると拉墻は2擒になっているという。このコンピュ〖タCS-3は、呵も叼絡(luò)なAIモデルを池漿させることを謄弄としたマシンで、呵絡(luò)24名パラメ〖タのAIモデルを池漿させることを晾っている。票家のウェ〖ハスケ〖ルAIチップは、媽1坤洛が16nm∈徊雇獲瘟2∷、媽2坤洛7nm、媽3坤洛が5nmとやってきた。5nmプロセスのICファウンドリはTSMCだと、このAIチップを烹很したコンピュ〖タを?yàn)懞瞍筏皮い隚42がニュ〖スリリ〖スで揭べている∈徊雇獲瘟3∷。
ウェ〖ハスケ〖ルICのチップ燙姥は46,225mm2と叼絡(luò)で、スパ〖ス俐妨洛眶∈ゼロの驢い諒乖誤∷に呵努步された90它コアが礁姥されている。AIコンピュ〖タとしての拉墻は125 Peta FLOPS∈1Petaは10の15捐∷、オンチップメモリの推翁は44 GB、嘲嬸メモリ∈HBM∷は1200 GBで、メモリのバンド升は21 Peta Bytes/sとなっている。
Cerebrasはまた、AIアクセラレ〖タCS-3を池漿脫に蝗い、QualcommのクラウドAI 100 Ultraを夸俠脫にAIを蝗えば、腆10擒のコストˇパフォ〖マンスが評(píng)られたとしている。
アブダビを凋爬とするAIコンピュ〖タ措度のG42家は、CerebrasのAIチップWSE-3を烹很したAIアクセラレ〖タ≈CS-3∽を64駱事べたAIコンピュ〖タ≈Condor Galaxy 3∽を活侯した。CG 3には腆5800它改のAIに呵努步したコアを?yàn)ⅳā?6 Exa FLOPS∈Floating Operations Per Second∷という畝光拉墻を券帶すると斧姥もっている。Exaは10の18捐を罷蹋する帽疤。
2023鉗11奉附哼における坤腸のス〖パ〖コンピュ〖タランキングTOP500で呵も光廬のスパコンは、勢(shì)Oakridge 柜惟甫墊疥の1.1 Exa FLOPSであるから、CS-3はその1峰懼の拉墻となる。ちなみに泣塑の少遲は候鉗に魯き媽4疤の0.44 Exa FLOPSとなっている。
≈Condor Galaxy 3∽を蝗えば絡(luò)憚滔咐胳モデルLlama-70B∈700帛パラメ〖タ∷を池漿させるのにわずか眶泣で貉むという。1750帛パラメ〖タのLLMであるGPT-3をNvidiaのGPUであるA100では池漿するのに300泣かかったと咐われている。
これまでのCondor Galaxy 1と2は、勢(shì)柜カリフォルニア劍に肋彌されているが、Condor Galaxy 3はテキサス劍ダラスに肋彌される徒年だという。
CerebrasのCS-1とCS-2のAIア〖キテクチャは、驕丸のフォンノイマン房コンピュ〖ティングではなく、ニュ〖ラルネットワ〖クのワ〖クフロ〖と票屯、デ〖タフロ〖コンピュ〖ティングである。CS-3もそのア〖キテクチャを何脫していると蛔われるが、湯らかにしていない。
徊雇獲瘟
1. ≈7nmプロセスで瀾隴したウェ〖ハ憚滔の叼絡(luò)なAIチップ∽、セミコンポ〖タル (2021/04/28)
2. ≈Cerebras家、ウェ〖ハ憚滔のAIチップを悸劉したコンピュ〖タを券卿∽、セミコンポ〖タル (2019/12/20)
3. "G42 and Cerebras Break Ground on Condor Galaxy 3, an 8 exaFLOPs AI Supercomputer", G42 (2024/03/13)
