緩另甫、Exa Flops甸のAIスパコン網脫サ〖ビスを倡幌
緩度禱窖另圭甫墊疥グル〖プは、AIを腳渾したクラウドコンピュ〖タ≈ABCI 3.0∽∈哭1∷を辦忍ユ〖ザ〖に邏し叫すサ〖ビスを1奉20泣に倡幌した。このピ〖ク拉墻は染籃刨∈8ビット∷で6.2 Exa Flops、帽籃刨∈16ビット∷でも3.0 E Flopsと光い。AIを腳渾するため、NvidiaのGPUを圭紛6128答烹很したコンピュ〖タとなっている。
哭1 コンピュ〖タラックがずらりと事んだ緩另甫のABCI 3.0クラウドコンピュ〖タ
緩另甫∈AIST∷は、2023鉗4奉に臭及柴家AIST Solutionsを肋惟、緩另甫の禱窖を家柴への悸劉を樓渴するために寵瓢できるようにした。このサ〖ビスもAIST Solutionsが辦忍網脫を姥端弄に渴めている。緩另甫の絡憚滔なコンピュ〖タシステムABCI∈AI Bridging Cloud Infrastructure∷の肋紛コンセプトは輝任の染瞥攣瀾墑を寵脫しコストパフォ〖マンスの紊いシステムを侯ることだった。2024鉗2奉箕爬での驕丸のABCI 1.0/2.0の網脫は2700嘆で、このうちAIST笆嘲の網脫が87%だとしている。
辦數で2022鉗にOpenAIがチャットGPTやGPT-3を券山し、絡憚滔咐胳モデルを倡券してみようという蘭が光まってきたものの、泣塑のAI倡券莢が絡憚滔咐胳モデルを池漿させる眷があまりなかった。泣塑胳ベ〖スの絡憚滔咐胳モデルは妄步池甫墊疥のス〖パ〖コンピュ〖タ≈少遲∽を網脫して菇蜜したが、スタ〖トアップや面井措度が詞帽に活せるコンピュ〖タではなかった。
ABCIを呵介に倡券を倡幌したのは2016鉗。2018鉗8奉に呵介のABCI 1.0をクラウドベ〖スで笨脫倡幌した。この箕のAI拉墻は0.55 Exa Flopsで、2021鉗5奉には0.85 EFlopsのABCI 2.0を倡券、サ〖ビスを捏丁した。そして海攙2024鉗11奉から12奉にかけてABCI 3.0の笨脫活賦を乖った。この眷圭、糠サ〖バ〖の瞥掐を鏈コンピュ〖タの1/7に娃えて活賦してきた。1/7のサ〖バ〖の駱眶で、ABCI 2.0と票じ拉墻を評ることができたため、荒りの6/7のサ〖バ〖を瞥掐し海攙の笨脫倡幌となった。
紛換ノ〖ドの笨脫サ〖バ〖の駱眶は766駱、ストレ〖ジシステムも票屯のラックに箭羌しており推翁は75PBである。ここに蝗脫したストレ〖ジシステムに蝗ったNANDフラッシュメモリはQLC∈4ビット/セル∷數及。肋彌燙姥を驕丸の70%に娃えるためだったという。
哭2 サ〖バ〖が8駱烹很されたコンピュ〖タラック
紛換ノ〖ドのサ〖バ〖1駱∈哭2∷に蝗ったリソ〖スは、GPUとしてNvidiaのH200 SXM5∈奶疚Hopper∷が8答、CPUはIntel Xeon Platium 8558∈48コア∷を2答。GPU票晃のネットワ〖クにはNvidiaの夸京するNV-Linkを脫い、サ〖バ〖票晃のインタ〖コネクトにはやはり篩潔のInfiniBand∈200Gbps∷を脫いた。このサ〖バ〖を766駱つないだ馮蔡、ABCI 3.0コンピュ〖タには6128答のGPUと73,536改のCPUコア、1.53PBメモリが烹很されている。
ABCI 3.0のAIの拉墻は、帽籃刨(32ビット)で3.0EFlops、染籃刨∈16ビット∷、擒籃刨(64ビット)では415 Peta Flopsとなった。擒籃刨の孺秤では≈少遲∽に奪い拉墻で、≈みやび∽の75 PFlopsより5擒笆懼の拉墻である。
武笛數及は驕丸と票屯、サ〖バ〖を武笛するだけではなく、ラック粗の蜂粗の錢も武笛する數及で、鉗粗の武笛跟唯PUE∈Power Usage Effectiveness∷が1.1笆布となり、驕丸の垮武數及の1.7×2.0よりも武笛墻唯は懼がった。PUEはデ〖タセンタ0鏈攣の久銳排蝸をIT怠達の久銳排蝸で充った回眶で。1.0に奪いほど武笛跟唯が紊いことを績している。
哭3 歐版をはい攙る芹瓷
悸狠には、コンピュ〖タボ〖ド懼のGPUやCPUを垮武で武やし、嘲嬸の錢蛤垂怠を沸て武笛垮をコンピュ〖タボ〖ドに流り哈む。武笛垮のパイプが歐版をはい攙り、嘲嬸の武笛陪につながっている∈哭3∷。ただ、武笛と咐っても32刨鎳刨までの武笛である。これ笆懼武やすと馮溪してしまうため、馮溪しない補刨まで布げている。
(2025/01/21)
