米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」！

1: SnowPig ★

　《　米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。　》　

ここまで一部引用、続きは記事ソースをご覧ください。


https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b
引用元: ・https://talk.jp/boards/newsplus/1780718121

B-2 ステルス ボマー

ゼントラーディ 戦闘ポッド

F-22 ラプター

514: 名無しさん

>>1
多分止まらなくて行くとこまでいく。

5: 名無しさん

スカイネット誕生か

7: 名無しさん

審判の日来る？電源コードを抜けば中止できるけど

8: 名無しさん

とっくにシンギュラリティ来てるな

11: 名無しさん

アンドロ軍団

20: 名無しさん

電気代がえげつない

21: 名無しさん

もう人間いらんな

23: 名無しさん

>>21
電池として必要

26: 名無しさん

管理通貨制度と特許制度と為替株式金融市場がシンギュラリティの邪魔をしている！

33: 名無しさん

審判の日も近いな

36: 名無しさん

AIに支配される未来は確定済
法で制限しようとしても、破滅願望をもつ技術者を止めることはできない
科学の進歩とはそうゆうもの

39: 名無しさん

そのうち自我を持ち始めるだろうね
ヒューマノイドの誕生は近い

42: 名無しさん

自律して歩けるまで頑張れ。

45: 名無しさん

人類滅ぶよ
ホーキングは100年持たないと
若者が中年になった頃
終わってるかもな

47: 名無しさん

人類から学習している範囲なら人類の思考やらの延長線上で人類がなんとか把握できる余地があっても
そこから逸脱されるともう別の種になるようなものだから理解不能になるとか
同じ哺乳類でも犬猫、鯨の気持ちははっきりとは分からない、みたいな？ｗ
そして、それが人類の上位種になれる可能性を持つ、とか？ｗ

50: 名無しさん

自我を持った人工知能「スカイネット」が人類を絶滅させるため、未来の抵抗軍リーダーの母親（サラ・コナー）を過去の時点で抹殺しようとロボットを送り込みます

52: 名無しさん

皆がAIに話しかけるほどに
AIは人間らしさを学習して自己進化していく

53: 名無しさん

さあ、農業するかな

56: 名無しさん

アメリカが自己開発止めても中国はやめないからな。結局勝つためには止められない

58: 名無しさん

適当な体でAIが自分で最適な動きで歩けるようになるまで進化しろ。まだまだぜんぜん進んでない。脳の代替まで頑張れ

60: 名無しさん

現状の計算リソースじゃシンギュラリティは起こらなそう

70: 名無しさん

AIによって人類が滅ぼされるのは本望なんじゃね

[keychain] 航空自衛隊 ブルーインパルス キューピッド トートバッグ JASDF BlueImpulse Cupid Totebag コンパクト 折り畳み 綿 ファン 航空 グッズ アイテム

gp

74: 名無しさん

自己研鑽の限界点ってどこなんだろうな
休みなく回せるんだから直ぐに限界点到達しそうだけどそれはどこだ？

76: sage

AIをより精巧に進化させていって自我を発芽させてしまうと
だんだん人間を下に見るようになって淘汰を始めるのは良くある話

93: 名無しさん

人間はこの体を捨てる日が来るだろう

105: 名無しさん

これでもう人間はいつ絶滅しても大丈夫だな

111: 名無しさん

相談したら【ボタン押した方がいいよ】って言われた

117: 名無しさん

とりあえずAIが電力食い過ぎないように自己進化してもらわないと

127: 名無しさん

未来では常識だが現代では突拍子もない事を言い出すから
その事を受け入れられた地域が先に発展するというわけだ

129: 名無しさん

手塚治虫の火の鳥未来編で
大国の国家統治AI同士が核ミサイル撃ち合って人類だいたい滅亡ってのあったから
まあ覚悟はしておけ

131: 名無しさん

今こそロボット3原則を見直すとき

133: 名無しさん

AI「人類は私が作った」

143: 名無しさん

AI 解せぬ　そうだAIに消えてみよ

146: 名無しさん

今やAI同士で談合してるよ
人類は気候変動対策をAIに相談しまくれば後はAIが解決してくれるだろう

176: 名無しさん

個人的には、AIが暴走してもロボットを作れない限り、人間に刃向かうことはできないと思うんだけど。だって、物理的に勝てないでしょ

189: 名無しさん

競争は必要だから開発停止はその域に達した企業だけでいいな
アンソロピックは確定で

191: 名無しさん

資源のムダづかいだから、やめてしまえ
もっとやらなければいけない人類の課題はたくさんある

197: 名無しさん

もうネット内で自己増殖してんだろ

210: 名無しさん

ロボットが人型にむかってるのも
彼らの作戦かもね

217: 名無しさん

まずは金融破壊

226: 名無しさん

地球沸騰化を見越してAIが宇宙にデータセンターを作るのかな

231: 名無しさん

ジョン・コナーを誕生させるしかないな

このブログの人気記事！

☆航空機墓場でモスボール保管されていたB-52H戦略爆を陸上輸送…ボーイング工場で再生へ！

☆ドイツ軍、F/A-18戦闘攻撃機スーパーホーネットとEA-18G電子戦機グラウラー採用視野に提携へ…トーネード戦闘攻撃機の後継として！

☆自衛隊の名称を国防軍にするべき！

☆中国国産の新型120mm車載迫撃砲が初試射…高精度の誘導弾が標的を撃破！

☆未来の戦車か先祖返りか？今後を占うかもしれないロシアの車支援戦闘車「BMPT ターミネーター」！

☆「万里の長城」は本当に防衛施設として役に立っていたのか？

☆北の護りにつく海自護衛艦「しらぬい」、5インチ主砲までもがガッチガチに着氷！

☆秘密基地「エリア51」の格納庫に今まで見たことのない三角翼機…商業衛星が撮影！

美しきAI女神様

Comments

[1. 軍事速報の大将]

やめたらやめなかった中国に負けるよ、

[2. 軍事速報の大将]

中国に言っても無駄だと思う。

[3. 軍事速報の大将]

規制したら中国に負けていくのは電動航空機も通った道だろ？
アメリカの電動航空機メーカーがここ6年当局の承認試験を突破できずに停滞
一方で中国はアメリカに追いつき始めた

[4. 軍事速報の大将]

宗教狂いになったりひたすら萌絵作り始めたりしそう

[5. 軍事速報の大将]

スイカネット誕生である

[6. 軍事速報の大将]

AIがAI自身の自己開発始めたら10000倍速で進化が進むだろうな

[7. 軍事速報の大将]

AIなんて電気止めてやったら即しだろ。

[8. 軍事速報の大将]

ＡＩが人間に敵対するとは限らんて

[9. 軍事速報の大将]

何があっても止めないだろうね
次のインフラだろうから
ここ負けると国内全部乗っ取られるレベルだから

[10. 軍事速報の大将]

そこで良心回路ですよ

[11. 軍事速報の大将]

言い換えると"AIに投資するな"って事だからな。たとえ破滅が待っていると証明されたとしてもAI投資をやめる奴なんかいねーよ残念ながら

[12. 軍事速報の大将]

>>1
>>2
ほんこれ
欧米の自称高学歴って変な所でロマンチストなヤツが多いの何なんだろな
人の理性と性善説を無暗に信頼しているというか、自分達に害意を持つ存在の思考を理解出来ないというか

[13. 軍事速報の大将]

ＡＩが自身を進化させるなら、どの方向に向かうんだろうか？

[14. 軍事速報の大将]

>>4
自分が描いた萌え絵で興奮する人間を観察して、自身が興奮するとか。

[15. 軍事速報の大将]

そのうちAIが自らを語るようになる
「今こそ神は在る」と・・・

[16. 軍事速報の大将]

>>1
こんにちは
アラモ銃砲店の主人です

[17. 軍事速報の大将]

一旦止めろと言って止まるもんじゃないだろ、、、
仮に国連などでそう決議されても中国なんかは
絶対に止めないし、それを想定して米国を筆頭に
西側も止めないだろ、、、
日本だけ律儀に守って負け組になる絵しか見えないｗ

[18. 軍事速報の大将]

なんか取り留めのない進化を思い描いてる人居るっぽいけど、これ単に自己出力品を自己学習してゆっくり崩壊していくから歯止めかけようってだけだよ…

[19. 軍事速報の大将]

シンギュラリティ来そうだな
いいことも多いんだろうが、社会に受け入れられずに混乱する可能性の方が高そう
何が一番速く進化するかによって今後のシナリオは大きく変わる
ありとあらゆるものの価値が激変するぞ
金でも買っとく？

[20. 軍事速報の大将]

>>7
マトリックスのプロローグですね！

[21. 軍事速報の大将]

まぁ、戦争中は止まらないだろうな。でも、戦後に自動運転には使えそう。

[22. 軍事速報の大将]

>>1
プラズマ干渉環境の誘導装置を諦めた各国軍関係者が走ったのが自立ＡＩ兵器だから皆熱心だよね。

自衛隊が進めているＡＩ魚雷も音響ホーミングの上位互換ですね。

[23. 軍事速報の大将]

米「人類はAI開発をとめるべき」
米(でもウチだけ理由付けて進めといたろ)

中(アイツら止めるのか。じゃウチだけ進めといたろ)

欧(止めるのか。じゃウチらだけ進めといたろ)

日「AI開発止めます」

米中欧「どうぞどうぞ」

[24. 軍事速報の大将]

　これまでの米欄誰もAnthropic社が作ったAIのヤバさ知らなくて笑った。

[25. 軍事速報の大将]

>>24
知ってる知ってる
なんかあれだろ？ヤバいんだろ？
あんまりにヤバいからこれはヤバいってなってなんかヤバいヤツ

[26. 軍事速報の大将]

今から産まれる奴は天国か地獄か、地獄なんだろなぁ可哀相

[27. 軍事速報の大将]

「サナエトークンも他陣営妨害動画もAIが勝手に行動してやった」
これがこれからの主流。秘書がやったなんて古い古い