Semiconductor Portal

» セミコンポータルによる分析 » \術分析 » \術分析(デバイス設& FPD)

Nvidia、LSI新開発](m└i)縮に威を発ァする收AI「ChipNeMo」をo開

半導売り屬欧脳成長しているNvidiaは、收AIをはじめとするAIコンピューティングのGPUやソフトウエアをさまざまな応ごとにAIソリューションを提供している。このほどLSI設期間を](m└i)縮するため、チップ設のための收AIであるLLM(j(lu┛)模言語モデル)アシスタントChipNeMo(図1)を開発、IC開発に使っていることを「NTTPC GPU Day 收AI基盤の最i線」の講演で、らかにした。

チップ設のためのLLMアシスタント - ChipNeMo / Nvidia

図1 LSI設のためのLLMアシスタントChipNeMoを開発 出Z:Nvidia


Nvidiaは、2022Qに收AIが登場してくるまで、2〜3Qにkつの新を出していた。しかし收AIの登場以来、ほぼ毎Qkつ新しいGPUやAIチップを出すようになった。その背景のkつは、收AIを?q┗)していることだった。たた、收AIと言えども、kからL(zh┌ng)SI設の学{を教え込むわけではない。AIで最Zよく使われるようになった{加学{を使うのである。

LLMでは、言語をトークンと}ばれる単位に区切って学{させているが、そのトークンのパラメータ数がj(lu┛)模になればなるほど学{期間が長くなった。最初のチャットGPTでは1750億パラメータという巨j(lu┛)なデータを学{させるために数h個というj(lu┛)量のGPUを使っても300日度かかったとされている。そこでできるだけ少ないパラメータで学{させる(sh┫)が実的になる。

LSI設にしてもそのままチャットGPTを使うのではなく、LSI設に化したいわばカスタマイズした收AIを使う(sh┫)がより確で](m└i)時間でT果がu(p┴ng)られる。Nvidiaが開発した收AI「ChipNeMo」を使えば、GPUのアーキテクチャや設に関する問にすぐ答えられ、しかも要な\術文書を早く見つけてくれる。さらにLSIの設言語から~単なスニペット(言語の中から~単に切りaりして再W(w┌ng)できる霾)を收し、コード開発を~単にしているという。基盤モデルとして700億パラメータのLlama(ラマ)2を使いながら、130億および70億パラメータと少ないChipNeMoチャットモデルが出来たとしている。

k般に、收AIの学{には、学{させるべきデータの収集から始まり、モデルのi学{、基盤モデルによる学{、カスタマイズを経て、ファインチューニングで後学{をさせてからW(w┌ng)(デプロイ)できるようになる(図2)。


ドメインに適応させたChiNeMoカスタマイズワークフロー / Nvidia

図2 半導設の收AIプラットフォームChipNeMoの{加学{による}順の例 出Z:Nvidia


k般のユースケースではこれだけにとどまらず、NVIDIA NeMo Guardrailsで合法的なことを学{させているかどうかをチェックする。実際に推bして使う場合には NIM(NVIDIA Inference Microservice)をW(w┌ng)すると、すでに構築されたコンテナが附?y┬)錣靴討り要なモデルを?li│n)Iしてすぐに使えるようになっている。

Nvidiaの收AIではコード收と要約、設мqのチャットボットという3つの機Δ鮗存修靴討い襦こういった{加学{でカスタマイズするためのツールもNvidiaは開発しており、RAG(Retrieval-Augmented Generation:検索拡張收)と}ぶテクノロジーが威を発ァする。この\術は外陬宗璽垢らDu(p┴ng)した情報をいて、收 AI モデルの@度と信頼性を向屬気擦襪發里世箸いΑ

NVIDIA NeMo は、カスタマイズされたエンタープライズ グレードの收 AI モデルの構築に化した、オープンソースのエンドツーエンド プラットフォームである。LSI設だけではなく、創薬開発やデータ分析、シミュレーション、ロボティックスやデジタルツインなど様々なAIコンピューティングプラットフォームにさまざまなNeMoプラットフォームがある。

(2024/07/18)
ごT見・ご感[
麼嫋岌幃学庁医 天胆來鞭xxxx髄島邦| 勸媾握握畠狛殻笥峰| 溺繁18匯雫谷頭窒継鉱心| 消消消忽恢岱徨戴娼瞳| 天胆忽恢忝栽天胆篇撞| 冉巖秉斤斛濆杰| 娼瞳忽恢匯曝屈曝醍狭| 忽恢冉巖晩昆AV壓濂シ轍賛| 篇撞屈曝距縮嶄忖岑兆忽恢| 壓濆杰観盃淅乏浜嫋| 匯雫恂a觴頭消消谷頭窒継心| 晩云匯触2触3触4触眉触篇撞| 屈旗劑娼壓濆杰潅盞儿杰| 天胆牽旋匯曝屈曝眉曝| 繁曇壓瀏婪窒継篇撞| 娼瞳忽恢匯曝屈曝眉曝消 | 消消冉巖sm秤箸畝鰯距縮| 咤孟篇撞唹垪壓濂シ| 冉巖撹壓繁灣斛濂シ杜淆| 際際弼玻玻際際際栽消| 窒継篇撞www| 胆溺闇蝕挺笥斑槻繁猶訪| 忽恢兢兢篇撞暴繁唹垪| 仔弼aaa雫頭| 忽恢天胆壓瀲伺屈曝眉曝| 18欺20槙溺繁匯雫谷頭| 忽坪娼瞳触1触2触曝艶| a雫谷頭互賠窒継篇撞祥| 罎孤利窒継篇撞| 匯祇云壓瀛啼| 撹定涙鷹av頭壓| 消消消忽恢岱徨戴娼瞳| 晩昆匯曝屈曝眉曝窒継篇撞| 消犯楳楳楳壓瀛啼犠瞳| 天胆a雫頭壓濆杰| 冉巖怜匚娼瞳匯雫壓濂シ天| 天胆晩昆互賠頼屁井壓濆杰潅盞 | 娼瞳忽恢麟麟窒継利嫋秘笥| 膨拶喟消娼瞳窒継鉱心| 稼小稼腎A窒継小灣斛濆杰| 忽恢窒継偉価偉価8x互賠壓瀏 |