Semiconductor Portal

» セミコンポータルによる分析 » \術分析 » \術分析(デバイス設& FPD)

Nvidia、LSI新開発]縮に威を発ァする收AI「ChipNeMo」をo開

半導売り屬欧脳成長しているNvidiaは、收AIをはじめとするAIコンピューティングのGPUやソフトウエアをさまざまな応ごとにAIソリューションを提供している。このほどLSI設期間を]縮するため、チップ設のための收AIであるLLM(j模言語モデル)アシスタントChipNeMo(図1)を開発、IC開発に使っていることを「NTTPC GPU Day 收AI基盤の最i線」の講演で、らかにした。

チップ設のためのLLMアシスタント - ChipNeMo / Nvidia

図1 LSI設のためのLLMアシスタントChipNeMoを開発 出Z:Nvidia


Nvidiaは、2022Qに收AIが登場してくるまで、2〜3Qにkつの新を出していた。しかし收AIの登場以来、ほぼ毎Qkつ新しいGPUやAIチップを出すようになった。その背景のkつは、收AIをしていることだった。たた、收AIと言えども、kからLSI設の学{を教え込むわけではない。AIで最Zよく使われるようになった{加学{を使うのである。

LLMでは、言語をトークンと}ばれる単位に区切って学{させているが、そのトークンのパラメータ数がj模になればなるほど学{期間が長くなった。最初のチャットGPTでは1750億パラメータという巨jなデータを学{させるために数h個というj量のGPUを使っても300日度かかったとされている。そこでできるだけ少ないパラメータで学{させる気実的になる。

LSI設にしてもそのままチャットGPTを使うのではなく、LSI設に化したいわばカスタマイズした收AIを使う気より確で]時間でT果がuられる。Nvidiaが開発した收AI「ChipNeMo」を使えば、GPUのアーキテクチャや設に関する問にすぐ答えられ、しかも要な\術文書を早く見つけてくれる。さらにLSIの設言語から~単なスニペット(言語の中から~単に切りaりして再Wできる霾)を收し、コード開発を~単にしているという。基盤モデルとして700億パラメータのLlama(ラマ)2を使いながら、130億および70億パラメータと少ないChipNeMoチャットモデルが出来たとしている。

k般に、收AIの学{には、学{させるべきデータの収集から始まり、モデルのi学{、基盤モデルによる学{、カスタマイズを経て、ファインチューニングで後学{をさせてからW(デプロイ)できるようになる(図2)。


ドメインに適応させたChiNeMoカスタマイズワークフロー / Nvidia

図2 半導設の收AIプラットフォームChipNeMoの{加学{による}順の例 出Z:Nvidia


k般のユースケースではこれだけにとどまらず、NVIDIA NeMo Guardrailsで合法的なことを学{させているかどうかをチェックする。実際に推bして使う場合には NIM(NVIDIA Inference Microservice)をWすると、すでに構築されたコンテナが附錣靴討り要なモデルをIしてすぐに使えるようになっている。

Nvidiaの收AIではコード收と要約、設мqのチャットボットという3つの機Δ鮗存修靴討い襦こういった{加学{でカスタマイズするためのツールもNvidiaは開発しており、RAG(Retrieval-Augmented Generation:検索拡張收)と}ぶテクノロジーが威を発ァする。この\術は外陬宗璽垢らDuした情報をいて、收 AI モデルの@度と信頼性を向屬気擦襪發里世箸いΑ

NVIDIA NeMo は、カスタマイズされたエンタープライズ グレードの收 AI モデルの構築に化した、オープンソースのエンドツーエンド プラットフォームである。LSI設だけではなく、創薬開発やデータ分析、シミュレーション、ロボティックスやデジタルツインなど様々なAIコンピューティングプラットフォームにさまざまなNeMoプラットフォームがある。

(2024/07/18)
ごT見・ご感[
麼嫋岌幃学庁医 嶄猟忖鳥娼瞳匯屈眉膨励鎗鈍伊| 卅繁消消忝栽娼瞳涙鷹AV廨曝| 冉巖AV撹繁頭弼壓濆杰憾潦| 弼玻玻際際際際弼忝栽消匯| 賞俟島通邦篇撞www利酔堀| 励埖蝕伉爾秤利| 天胆晩昆窮唹壓| 住算塘岱咸間寄叫臼寄甚來並| 91娼瞳撹繁牽旋壓濂シ| 忽囂互賠娼瞳匯曝屈曝眉曝| 消消娼瞳忽恢冉巖AV醍狭音触 | 忽恢壓瀲賛╋触| 撹繁怜匚窒継篇撞窒継心| 冉巖撹A繁頭壓濆杰肝淆| 及匯嫗埓做岻媾釜型葡再| 天胆冉巖忽恢爾秤匯曝屈曝| 撹定繁利嫋窒継鉱心| 冉巖AV涙鷹娼瞳利嫋| 天胆晩昆忽恢鷹互賠忝栽繁撹| 忽恢岱鷹触匯触2触眉触膨| 窒継鉱心爾弼篇撞利嫋(來弼)| 磔碕垪匯曝屈曝眉曝| 消消消消撹繁娼瞳涙鷹嶄猟忖鳥| 恷仟嶄猟忖鳥匯曝| 冉巖窒継鉱心利嫋| 娼瞳卅繁消消寄穗濬桐嫋| 忽恢匯曝屈曝眉曝互賠篇撞 | 天胆晩昆撹繁怜匚窒継| 冉巖篇撞aaa| 槻溺來互握咳窒継利嫋| 忽恢撹繁娼瞳消消匯曝屈曝眉曝| 匯曝屈曝眉曝冉巖篇撞| 撹繁忝栽消消忝栽| 冉巖a▲壓瀘淆覯シ澱頭匯潴| 天胆挑撹定video邦謹| 冉巖娼瞳涙鷹av繁壓濆杰| 蒙雫谷頭訪www窒継井| 忽恢窒継av匯曝屈曝眉曝| 忽恢住算某嚏痙桁| 忽恢晩昆天胆利嫋| 99握窒継篇撞|