ChatGPTの染瞥攣緩度へのインパクト、1它改のGPUがコア禱窖に
使けばなんでも批えてくれるChatGPTが廟謄されているが、このAI∈ディ〖プラ〖ニング∷は、これまでのAI∈怠常池漿∷とは絡(luò)きく般う。これまでは潑年脫龐の漓脫AIだったのに灤して、ChatGPTに蝗われる絡(luò)憚滔咐胳モデル∈LLM∷は繞脫AIにつながる禱窖だからである。この悸附のためには峰般いの驢くの姥下遍換染瞥攣チップ∈GPU∷が澀妥である。ここに糠たな染瞥攣見妥が欄まれることになる。
絡(luò)憚滔咐胳モデル∈LLM∷を池漿モデルとして蝗うためには、驕丸なら池漿に眶カ奉もかかるため、驢くのAIソフトウエア倡券莢はLLMの倡券をあきらめていた。しかし、畝事誤でGPUなど事誤姥下遍換チップを絡(luò)翁に蝗って池漿すれば圭妄弄な箕粗で貉むようになる。その馮蔡欄まれたのがChatGPTという欄喇AIだ。Microsoftが叫獲する甫墊倡券措度OpenAI家が倡券、いま廟謄を礁めている。
哭1 OpenAIが倡券したテキストを掐蝸するだけで瓦しい茶嚨が評られるAIのDALL帴E∈茶踩のダリと券不∷ 叫諾¨OpenAI
ハ〖ドウエア婁からChatGPTを悸附するためには、池漿させるうえでGPU∈グラフィックスプロセッサ∷が絡(luò)翁に澀妥となることは推白に鱗嚨できる。呵奪リリ〖スし、廈瑪になっているChatGPT-3には1750帛パラメ〖タで池漿させたモデルが寥み哈まれているものの、ChatGPTを蝗ってみた屯」なレポ〖トを斧ると、澀ずしも賴澄ではないという。このため、2023鉗面ごろにリリ〖スされる肌坤洛惹のChatGPT-4ではさらに驢くのパラメ〖タで池漿されていることが徒鱗される。附哼のChatGPT-3を池漿させるためにNvidiaのGPUが1它改も蝗われているとみられている。ということは、海稿のChatGPTの倡券にはさらに驢くのGPUが澀妥となることを績憾している。
Nvidiaは、デ〖タセンタ〖羹けGPUの見妥は髓鉗23.5%のペ〖スで喇墓しており、2022鉗媽3煌染袋には漣鉗票袋孺30%喇墓した。
燙球い悸賦として、勢柜のエレクトロニクスメディアのFierce ElectronicsはChatGPTにどのようなコンピュ〖タを蝗っているのかを使いてみたという∈徊雇獲瘟1∷。手ってきた批えはまず怠常池漿の棱湯から幌まった〃
ˇChatGPTは、事誤借妄脫に絡(luò)翁のGPUを?yàn)ⅳà渴瑲gコンピュ〖ティング懼で瘤る怠常池漿モデルˇChatGPTに蝗われるハ〖ドウエアは潑檢なものだが、NvidiaのGPUがよく蝗われており、票家のソフトウエアCUDAがサポ〖トしている。
ˇChatGPTのような絡(luò)憚滔ディ〖プラ〖ニングを池漿するためのインフラとして辦忍弄なクラウド茨董であるAWSやGCP、Azureなどがある。
ˇ夸俠は、怠常池漿されたモデルを蝗って、糠しいデ〖タを徒盧すること。ChatGPTでは、掐蝸デ〖タに灤して、客粗のようなテキストを欄喇するために蝗われる。
そのあとさらに惡攣弄にNvidia笆嘲のGPUも蝗っているのかを懇ねたところ、肌のような手禍をしたという〃
ˇ經(jīng)丸はほかのベンダ〖のGPUでChatGPTなどの池漿をできるだろうが、附哼はNvidiaのGPUが弓く蝗われている。CUDAサポ〖トがあるからだ。CUDAはNvidiaのGPUを跟唯よく蝗うために澀妥な事誤借妄プラットフォ〖ムでありプログラミングモデルである。ˇChatGPTを倡券したOpenAI家は、糠しいAI禱窖やモデルを倡券面で、モデルを猖紊するために撅に糠しいハ〖ドウエア∈染瞥攣チップ∷やソフトウエアを活している。
ˇChatGPTを毋えば1它改のNvidiaのGPUのような絡(luò)翁のGPUを蝗って池漿させることができる。ただし、惡攣弄なインプリ數(shù)恕や掐緘できるリソ〖スによって賴澄なGPUの眶は恃わり、池漿させるデ〖タ翁や池漿モデルによっても恃わる。
NvidiaのようなGPUではなく、AI池漿を謄弄としたAIチップ∈絡(luò)翁に事誤借妄できる姥下遍換達(dá)と、遍換馮蔡や腳みデ〖タを淡峽するメモリを礁姥したIC∷があれば染瞥攣メ〖カ〖は絡(luò)憚滔咐胳モデルの欄喇AI羹けの糠輝眷に末里できる。そしてCUDAのようなプログラミングしやすい茨董のプラットフォ〖ムも欄み叫す?jié)驻ⅳ搿hatGPTは、泣塑も海から寵迢材墻な茨董ができることを績している。
徊雇獲瘟
1. Matt Hamblen, "Update: ChatGPT Runs 10K Nvidia Training GPUs with Potential for Thousands More", Fierce Electronics (2023/02/11)
