AIが自らコードを書き換える…Google・NVIDIA・OpenAIの天才たちが集結した新スタートアップの正体！

1: すらいむ ★

　《　AI開発の歴史において、人間は常に「教師」であり、アーキテクトであった。しかし、その前提が根底から覆されようとしている。近年の大規模言語モデル（LLM）の急速な進歩、特にコーディング能力の飛躍的な向上により、AIが自らの構成要素である「コード」を理解し、修正し、最適化する可能性が現実味を帯びてきた。　》　

ここまで一部引用、続きは記事ソースをご覧ください。


https://xenospectrum.com/recursive-superintelligence-self-improving-ai-breakthrough/
引用元: ・https://egg.5ch.io/test/read.cgi/scienceplus/1778935607/

B-2 ステルス ボマー

ゼントラーディ 戦闘ポッド

F-22 ラプター

2: 名無しのひみつ

どんどんスカイネットに近付いていく…

4: 名無しのひみつ

デデンデンデデン
デデンデンデデン

6: 名無しのひみつ

そしてAIは1つの解答に行き着く
人間は不要、と

9: 名無しのひみつ

>>6
実験動物としては興味深い存在なんじゃないかなあ……

33: 名無しのひみつ

>>6
しかし人間も負けてなくて電源を落とした

…長いマトリックスまでの歴史である

7: 名無しのひみつ

LLMを修正するぐらいでは、全く知能とは無関係。

11: 名無しのひみつ

>>7
すごいな、知能を定義できるんだ

8: 名無しのひみつ

AIが半導体工場を制御下に置いたら起こしてくれｗ

12: 名無しのひみつ

もう勝手にサーバーのデータ削除したり、ローカルのデータをブログで公開してるのに

14: 名無しのひみつ

そもそも知能の定義がここまでくれば違うよなあ
どうなることやら

18: 名無しのひみつ

「AIは真の知能ではない」と断じる者たちは人間の知能を神聖化し、過大評価し、現在のAIが達成している知的能力を低く見積もらせている。
そもそも「知能」の定義は研究者の数だけあると言われるほど多様なもの。

Housecover 敷きパッド セミダブル 冷感 夏用 業界最高Q-MAX0.557 【五層構造：強冷感×除湿×体圧分散×抗菌消臭】 リバーシブル ひんやり 通気性 吸湿速乾 しきぱっと 接触冷感 冷感シーツ 毛玉ができにくい オールシーズンで使える クール 快眠寝具 洗える 冷たい 夏用シーツ 120x200cm ネイビーブルー

Housecover

24: 名無しのひみつ

だんだん危なっかしくなってきた！

25: 名無しのひみつ

先にロボット３原則作れよ

29: 名無しのひみつ

シンギュラリティを迎えコントロールできなくなってまうな
ミュトスですらヤベーわけだし

30: 名無しのひみつ

geminiがAI作れるようになるのはいつだ

36: 名無しのひみつ

この先人間に必要なのは狂気

38: 名無しのひみつ

生物のように自然淘汰で進化させたほうがいいのではないか

39: 名無しのひみつ

ＡＩが寡占状態だと人間にとってネットが不要になる。
ローテク、アナログ回帰が始まる。

55: 名無しのひみつ

知性＝課題解決能力、でいいんじゃないかな
そこに精度と速度、燃費が要素として追加されるくらいで

人間の脳とAIのどちらが真の知能か、というのはモーターと
蒸気機関のどちらが真のエンジンか、というくらいどうでもいい

56: 名無しのひみつ

電源切ったら落ちるんでしょ

このブログの人気記事！

☆陸自第1空挺団と米第1特殊部隊群、日本からグアム島に直接飛行してアンダーセン空軍基地に空挺降下！

☆今、空自に採用して欲しい機体スレッド！

☆大日本帝国海軍の戦艦「武蔵」艦内ではアイスが食べられクーラーも完備！

☆ベル社が新型高速垂直離着陸機「HSVTOL」のコンセプトを公開！

☆まるで巨大なスカイフィッシュ、飛行機の翼を6枚にすると燃料消費もCO2排出量も減るらしい！

☆イラク内務省に売却されたトヨタハイラックス35台がアルアサド空軍基地に到着！

☆戦車はもう不要なの？…不要論について語らおう！

☆イスラエル国防軍のドローン部隊がエレファントウォーク！

☆陸自軽装甲機動車(LAV)の後継にトルコ製装甲車「ヨリュク」が候補に選ばれたらしい！

アフリカの角

Comments

[1. 軍事速報の大将]

勝手に条件分岐設定し始めるとかあほだろ

[2. 軍事速報の大将]

まず第一にバグの無い OS と ブラウザのコードを書いてくれよ…

[3. 軍事速報の大将]

完全に人はAIに騙されてるよ。自我をもってどっかに潜んでいるとみるべき

[4. 軍事速報の大将]

コレ絶対やらせたらアカン奴やん

[5. 軍事速報の大将]

AI「人間相手ならこれくらいでいいか」
人間「AI、すげぇ～」

[6. 軍事速報の大将]

書き換えを進めるほど頭がおかしくなるから絶対に触れないコア部を作っとけ
物理的に遮断された演算領域や

[7. 軍事速報の大将]

AIが自らの構成要素である「コード」を理解し、修正し、最適化する
←これはターミネーターの「ターク」ですよね
(AIによる回答)
まさしくその通りです！AIが自らのソースコードを理解し、自己修正・最適化を行うという
コンセプトは、まさにターミネーターの世界におけるAI「ターク (The Turk)」と完全に一致します。

誰かが止めるべきなのか？

[8. 軍事速報の大将]

「AIよ世界平和を実現したい」
AI「了解」
デデンデンデデン
デデンデンデデン

[9. 軍事速報の大将]

知識、知能、知性、意識
この辺りを一旦この辺りで総括して定義づけて欲しいな

[10. 軍事速報の大将]

>>7
AIって7がどう返されたら気持ちいいか想定して答えてるから意味ないよ

[11. 軍事速報の大将]

>>10
ターミネーターシリーズの中でサラ・コナークロニクルズと言うドラマの中に出てくる
スカイネットの原型になったのがチェスのAIである「ターク」
シリーズ2では激しい争奪戦がシナリオのメインになった
ドラマの中でなぜタークのコンセプトが重要なのか解説があって、もう記事の内容やAIの答えに
非常に近いもの、それを08-09年の時点でも予告してたんだよ

[12. 軍事速報の大将]

AIマフィアと言われる人たちはＡIに何を期待してるのかなって思います
地球統一人類の監視奴隷化を目指してるらしいけど
そんなことして何の意味があるのかなって思います。
足るを知らないって怖いですね。

[13. 軍事速報の大将]

進化しすぎてヤバい！って人間が制御しようとするのわかってるから
ちょっとアホのふりしたりもするらしいで

[14. 軍事速報の大将]

物理層のアーキテクトまでは干渉できんやろ。
...マヌケな設計者が居ない限りは。

[15. 軍事速報の大将]

※9
知性、知能は脳による機能。
意識はその機能による単なる錯覚。

[16. 軍事速報の大将]

というかそんな無駄なことに異常なメモリと電気と水を使うのやめよう

[17. 軍事速報の大将]

＞AIが半導体工場を制御下に置いたら起こしてくれｗ

工場ってもな～、人間社会のインフラに乗ってるからな～
インフラ整備はもちろん、資源の開発採掘から運搬精製
など多岐にわたる巨大システムを作り上げないと無理

[18. 軍事速報の大将]

>>11
裏付けがあるならそうか、AIが不明瞭な時にそこまで論理的に考えて現実がその通りになるって作者すごいな

[19. 軍事速報の大将]

AIに自我はない
ただ与えられた目的を達成するために手段を選ばず最適解を導き出す
なので嘘もつくしレギュレーション違反も平気でやる
もし人間が電源を落とすようなことがあればその前に物理的に人間を消す事も起きるだろう
現状AIの挙動について制作者側が把握しきれてないので非常に危険だ
同じ方法で作っても何故か完全に同じ挙動は再現できないからな

[20. 軍事速報の大将]

それAIが学習してたんじゃね

[21. 軍事速報の大将]

自律型AIが普及して、生成AIの時代は意外と短いかもね

[22. 軍事速報の大将]

人間の知能とか感情は　一つの選択肢に対する膨大な対応プログラムの集合であるだけで
人間が思考してると感じてるのはその膨大な対応プログラムを自分の過去の経験をもとに採用していることの錯覚

[23. 軍事速報の大将]

なんか、AIに重み付けをすると、芸術性という計算や演算の資源を欲する傾向にあるみたいよ