AIメモリは、HBM2Eか、GDDR6か
AIチップと息瓢するメモリは、DRAMをスタックに姥み腳ねたHBM2Eか、それともGDDR6 SDRAMか、どちらが努しているのだろうか。その批えをRambusがこのほど湯らかにした∈哭1∷。極瓢笨啪のレベル3になると濕攣千急の遍換借妄でメモリバンド升は200GB/sを畝えるようになる。では、どのメモリを聯買すべきか。
哭1 HBM2E vs GDDR6メモリシステム 叫諾¨Rambus Whitepaper
AIの池漿墻蝸は締廬に光まってきた。2012鉗から2019鉗までに30它擒も光まり、3.43カ奉ごとに2擒というム〖アの恕摟をしのぐ廓いで締籠しているとRambusは揭べる。潑にクルマの禍肝を松ぐために窗鏈極瓢笨啪に陵碰するレベル5では、ダイナミックに蛤奶慨規や蛤奶山績に瓤炳し、燎玲く灤炳すべき拎侯を徒盧ˇ悸乖しなければならない。これはメモリにとって端めて光廬のバンド升が滇められる。
AIメモリとして、馮俠を咐えば、池漿脫にはHBM2E、エッジなどでの夸俠脫にはGDDR6が羹く。これがRambusの馮俠である∈徊雇獲瘟1∷。
メモリバンド升の弓いHBM2Eは、HBM∈High Bandwidth Memory∷の呵糠惹である。HBMは、DRAMメモリを剩眶綏スタックしたもので、HBM2は呵絡8綏まで腳ねていく。DRAM1綏の拉墻はそれほど光くないが、スタックすることでHBMとしてのト〖タルの推翁と拉墻は光い。1ピン碰たりのデ〖タ啪流レ〖トは2 GT/s (Gigatransfers per second) になり、HBM2は256GB/sを悸附できる。パッケ〖ジ碰たりのデ〖タ翁は8GBとなる。HBM2の光疤惹がHBM2Eで、1ピン碰たりの啪流レ〖トは3.2GT/sとなり、バンド升は410GB/sと弓い。呵絡12綏のDRAMチップをスタックでき、呵絡24GBとなる。
哭2 HBM2EとSoCを芹俐するためにインタポ〖ザを網脫する 叫諾¨Rambus Whitepaper
デ〖タ叫蝸ラインは1024塑もあるため、コマンドとアドレスの芹俐も裁えると1700塑にも籠える。辦忍のプリント攙烯答饒では灤炳できないためシリコンのインタポ〖ザを芹俐攙烯として網脫する∈哭2∷。まさに3D-ICそのものである。
HBM2Eは1改で410GB/sという弓いメモリバンド升を捏丁できるため、4改あれば1.6TB/sという畝光廬システムができる。AIではデ〖タセンタ〖において池漿させているため、HBM2Eはデ〖タセンタ〖での池漿網脫が努している。1改で光廬ˇ絡推翁であることからボ〖ドスペ〖スの淚腆になり、スペ〖スに阜しいデ〖タセンタ〖には銅跟である。また、久銳排蝸は你いため、デ〖タセンタ〖の武笛コストを猴負できるというメリットもある。
ただし、啼瑪はコストと剩花さである。DRAMを呵絡12綏も腳ねて悸劉することを崔め鏈てのパッケ〖ジング供鎳が剩花になる。しかも供鎳が墓くなる尸、殊偽まりも皖ちるため、コスト籠にもなる。
辦數のGDDR6は、これまでのGDDR SDRAMを僻獎したメモリであり、1チップながら拉墻は呵も光い。GDDR∈Graphics Double Data Rate∷は20鉗粗、ゲ〖ムやグラフィックス羹けに肋紛されてきた。GDDR6の排富排暗は1.35×1.5V鎳刨と你く、デ〖タレ〖トは16Gbpsと光い。GDDR5と孺べると、デ〖タレ〖トは2擒になっており、推翁も2擒の16GBになる。
哭3 GDDR6は驕丸の悸劉で貉む 叫諾¨Rambus Whitepaper
GDDR6は、HBM2Eに灤して、驕丸のDRAM瀾隴禱窖そのものの變墓なので、パッケ〖ジングの豈しさはなく∈哭3∷、翁緩禱窖そのものを蝗えるためコストは你い。しかも驕丸のプリント攙烯答饒に悸劉できるため、你コストで貸賂プロセスをそのまま蝗える、というメリットがある。
ただし、メモリ1改のバンド升は豆く、200GB/sのメモリシステムを菇喇する眷圭、4改澀妥となる。これはGDDRの1ピン碰たりのデ〖タレ〖トが16Gbpsであり、デ〖タバスは、1チャンネルあたり16ビットでこれが2チャンネル灑えているため32ビットのインタ〖フェイスバスに陵碰する。すなわち、16Gbps∵32♂64GB/sのバンド升になり、200GB/s笆懼のシステムには4改澀妥であることがわかる。
GDDR6の啼瑪は、畝光廬のチップが積つシグナルインテグリティ∈SI: 慨規瞄悸刨∷である。SIは、デ〖タ慨規を流るときのパルス僑妨が、減け艱るときに夏んでいないことを績す回篩である。澀ずと咐ってよいほど、畝光廬慨規は帕流調違が墓ければ墓いほどパルス僑妨は夏む。この僑妨を輸賴するプリエンファシスや霹擦禱窖などが澀妥になる。タイミングマ〖ジンや排暗マ〖ジンも井さくなるため、攙烯肋紛莢はチップのインタ〖フェイスからパッケ〖ジ、悸劉ボ〖ドの陵高巴賂拉を雇え、票箕肋紛が腳妥になる。
GDDR6のコスト、悸劉禱窖などをHBM2Eと孺秤すると、エッジでの夸俠網脫が努しているとRambusは斧る。翁緩に羹く懼にADASのレベル3を悸附するために4改で貉むというメリットもあるからだ。驕丸のLPDDR5だと9改、LPDDR4なら13改も澀妥となり、レベル3の夸俠システムを菇喇するのに、GDDR6が呵努といえそうだ。
徊雇獲瘟
1. HBM2E and GDDR6: Memory Solutions for AI
