1: お断り ★ 2024/06/22(土) 01:04:39.42 ID:ZSwxAzFJ9
加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実
世界中の企業や政府が狂ったようにNVIDIAのGPUを買い漁る流れはそろそろ潮時かもしれない。
いくつかの興味深い事象が起きているからだ。
昨日発表されたKarakuri社のLLM、「KARAKURI LM 8x7B Instruct v0.1」は、非常に高性能な日本語LLMだ。Karakuri社は今年の一月にも非常に高性能な70Bモデルを引っ提げて業界に旋風を巻き起こした。

国産LLM初、AIエージェントとして使える「KARAKURI LM 8x7B Instruct v0.1」を一般公開
2024.6.20 ニュースプレスリリース大規模言語モデル(LLM)
https://karakuri.ai/seminar/news/karakuri-lm-8x7b-instruct-v0-1/

特筆すべきことは、Karakuriの日本語最高性能を誇るLLMの開発にかかった計算費が、たったの75万円だと公表されていることである。750万円の間違いかもしれない(実際、1月に発表した70Bモデルは1000万程度という話だった)が、それにしても圧倒的な低コストだ。NVIDIAのGPU、H100は今500万円以上する。

ではどうしてKarakuriはこんな低予算で日本語最高性能のエージェントLLMを作ることができたのか。それはNVIDIAのGPUを使っていないからだ。

いまLLMを作れという命令が世界中の企業で発令されているだろうが、それには大量のNVIDIAのGPUが絶対に必要であるというのが常識だった。
NVIDIAは独占企業であり、ついに時価総額世界一になった。しかし今この瞬間が彼らの栄華の頂点かもしれない。

すでに公開されているオープンLLMを8つ組み合わせて使うだけで、GPT-4o単体の性能を上回るベンチマーク結果となったと主張している。
そのソースコードが公開され、筆者は大概のことで驚かなくなったものの、やはり驚いてしまった。
詳細はソース 2024/6/21
https://wirelesswire.jp/2024/06/86709/

引用元: ・日本国産LLM「KARAKURI」が登場、NVIDIAのGPU要らず、ChatGPT-4o越えの性能、低予算で日本語最高性能AIエージェント [お断り★]

3: 名無しどんぶらこ 2024/06/22(土) 01:08:56.23 ID:+Pqj6WnP0
そもそもモデル作る側の数なんて多寡が知れてるから、NVIDIA製品への需要なんかたいしたことなくて、
その株価はただのバブル
6: 名無しどんぶらこ 2024/06/22(土) 01:12:56.79 ID:73VXRnSe0
消費電力は?お高いの?
9: 名無しどんぶらこ 2024/06/22(土) 01:14:54.96 ID:jxYolEMy0
NVIDIAって、GPUAIでそんな儲けてるの?
GPU売れてるから?
33: 名無しどんぶらこ 2024/06/22(土) 01:38:48.81 ID:QAsuHm3q0
>>9
ビッグテックがGPUを買いまくってるから
このLLMにしても、元にしてるオープンLLMの開発にはnvidiaのGPUが使われているし
13: Ikhtiandr ◆Moraler.M3wv 警備員[Lv.13][芽] 2024/06/22(土) 01:18:13.25 ID:SgC05O7P0
これも初めて聞く名前
14: 警備員[Lv.30] 2024/06/22(土) 01:20:26.41 ID:BzB8AVxF0
実績ないと売れない
17: 名無しどんぶらこ 2024/06/22(土) 01:21:37.50 ID:Ix2DHwgv0
>NVIDIAは独占企業であり、
NVIDIAってなんで独禁法に引っかからないの?
34: 名無しどんぶらこ 2024/06/22(土) 01:39:58.18 ID:FkYnDUpL0
>>17
逆だ
NVIDIAを使ったやり方が生成AIの主流になってしまっただけ
NVIDIAは棚からぼたもち
そして生成AIは一昨年からの急激な注目
そこに参入するなら生成AIに使ってもらうようなものを作り出すしかない
だれも邪魔したわけではなく
たまたまNVIDIAが生成AI作成に好都合なものだったというだけ
NVIDIAが邪魔したわけじゃない
18: 名無しどんぶらこ 2024/06/22(土) 01:22:34.58 ID:OkOinI6K0
見たか?これが日本のモノづくりや
21: 名無しどんぶらこ 2024/06/22(土) 01:25:48.06 ID:q1JnxgLj0
これは怪しいな
実績を見せてくれないと何も信用出来ない
28: ちょんまげ 2024/06/22(土) 01:32:36.96 ID:+PLlSpA50
日本の法人はこれに注目してるだろうね
46: 名無しどんぶらこ 2024/06/22(土) 01:54:51.84 ID:bcwNLQPL0
エコシステム的にどうなの?
49: 名無しどんぶらこ 2024/06/22(土) 02:08:25.93 ID:FmyCQH8L0
国内メーカーでグラボ作って勝負になる所なし
税金で有機ELパネル作らせたらコストで勝負にならなかったのはワロタ