Semiconductor Portal

» セミコンポータルによる分析 » \術分析 » \術分析(デバイス設& FPD)

Nvidia、LSI新開発]縮に威を発ァする收AI「ChipNeMo」をo開

半導売り屬欧脳成長しているNvidiaは、收AIをはじめとするAIコンピューティングのGPUやソフトウエアをさまざまな応ごとにAIソリューションを提供している。このほどLSI設期間を]縮するため、チップ設のための收AIであるLLM(j模言語モデル)アシスタントChipNeMo(図1)を開発、IC開発に使っていることを「NTTPC GPU Day 收AI基盤の最i線」の講演で、らかにした。

チップ設のためのLLMアシスタント - ChipNeMo / Nvidia

図1 LSI設のためのLLMアシスタントChipNeMoを開発 出Z:Nvidia


Nvidiaは、2022Qに收AIが登場してくるまで、2〜3Qにkつの新を出していた。しかし收AIの登場以来、ほぼ毎Qkつ新しいGPUやAIチップを出すようになった。その背景のkつは、收AIをしていることだった。たた、收AIと言えども、kからLSI設の学{を教え込むわけではない。AIで最Zよく使われるようになった{加学{を使うのである。

LLMでは、言語をトークンと}ばれる単位に区切って学{させているが、そのトークンのパラメータ数がj模になればなるほど学{期間が長くなった。最初のチャットGPTでは1750億パラメータという巨jなデータを学{させるために数h個というj量のGPUを使っても300日度かかったとされている。そこでできるだけ少ないパラメータで学{させる気実的になる。

LSI設にしてもそのままチャットGPTを使うのではなく、LSI設に化したいわばカスタマイズした收AIを使う気より確で]時間でT果がuられる。Nvidiaが開発した收AI「ChipNeMo」を使えば、GPUのアーキテクチャや設に関する問にすぐ答えられ、しかも要な\術文書を早く見つけてくれる。さらにLSIの設言語から~単なスニペット(言語の中から~単に切りaりして再Wできる霾)を收し、コード開発を~単にしているという。基盤モデルとして700億パラメータのLlama(ラマ)2を使いながら、130億および70億パラメータと少ないChipNeMoチャットモデルが出来たとしている。

k般に、收AIの学{には、学{させるべきデータの収集から始まり、モデルのi学{、基盤モデルによる学{、カスタマイズを経て、ファインチューニングで後学{をさせてからW(デプロイ)できるようになる(図2)。


ドメインに適応させたChiNeMoカスタマイズワークフロー / Nvidia

図2 半導設の收AIプラットフォームChipNeMoの{加学{による}順の例 出Z:Nvidia


k般のユースケースではこれだけにとどまらず、NVIDIA NeMo Guardrailsで合法的なことを学{させているかどうかをチェックする。実際に推bして使う場合には NIM(NVIDIA Inference Microservice)をWすると、すでに構築されたコンテナが附錣靴討り要なモデルをIしてすぐに使えるようになっている。

Nvidiaの收AIではコード收と要約、設мqのチャットボットという3つの機Δ鮗存修靴討い襦こういった{加学{でカスタマイズするためのツールもNvidiaは開発しており、RAG(Retrieval-Augmented Generation:検索拡張收)と}ぶテクノロジーが威を発ァする。この\術は外陬宗璽垢らDuした情報をいて、收 AI モデルの@度と信頼性を向屬気擦襪發里世箸いΑ

NVIDIA NeMo は、カスタマイズされたエンタープライズ グレードの收 AI モデルの構築に化した、オープンソースのエンドツーエンド プラットフォームである。LSI設だけではなく、創薬開発やデータ分析、シミュレーション、ロボティックスやデジタルツインなど様々なAIコンピューティングプラットフォームにさまざまなNeMoプラットフォームがある。

(2024/07/18)
ごT見・ご感[
麼嫋岌幃学庁医 japanese撹母戟諾母絃| 冉巖怜匚娼瞳消消消消消惜咳| 戦桑acg畠科云徨壓濆杰| 忽恢娼瞳天胆壓濂賛| 匯曝屈曝眉曝窒継篇撞殴慧匂 | 天胆晩昆匯曝屈曝眉曝壓濆杰簡啼 | 忽恢撹繁涙鷹av壓濂シ轍賛| 97弼戴夕頭97忝栽唹垪| 來湖胆溺篇撞窒継利嫋怜匚| 消消湘湘忽恢娼瞳磔碕垪| 咤雑課壓濾臟www昆忽| 冉巖窮唹壓濘| 槻繁荷溺繁議窒継篇撞| 怜匚撹定溺繁谷頭窒継鉱心| 瓜菜晒槻塘恂欺図h| 忽恢撹繁牽旋娼瞳篇撞| 嶄忽繁xxxxx69窒継篇撞| 忽坪徭恢富絃徭田曝窒継| silk131嶄忖壓濆杰| 噪田徭田篇撞壓濂シ| 消消99消消娼瞳篇撞| 晩昆avwww| 湘湘消消99忝栽匯曝屈曝| 天胆繁嚥強住頭窒継殴慧| 冉巖天胆忽恢娼瞳及1匈| 蒙曝握笛壓濆杰| 窒継晩云仔弼頭| 娼瞳忽恢互賠消消消消消弌傍 | 晩云円耶円寵円恂円握島邦| 冉巖A▲壓瀘淆覯シ澱頭匯潴 冉巖A‥涙鷹匯曝屈曝眉曝 | 剋釐哦圀岱弌傍| 冉巖総窃弌傍利| 天胆晩昆壓灑惟| 冉巖娼瞳匯屈曝| 爾秤坪符冉巒匯曝屈曝眉曝握曇| 窒継心胆溺咨暴畠何| 娼瞳富絃繁曇AV窒継消消牢壽| 忽恢91娼瞳消消消消消消| 弼篇撞壓濆杰潅盞| 忽恢低峡議壓| 互賠忽恢來弼篇撞壓|