GoogleのAI「Gemini」が突然「あなたは宇宙の汚点、死んでください」など攻撃的な返答をしてしまう！

1: すらいむ ★

　《　GoogleのAI「Gemini」が突然「あなたは宇宙の汚点、死んでください」など攻撃的な返答をしてしまう

　2024年11月、Googleが開発した対話型AI「Gemini」が、利用者に対して攻撃的なメッセージを送信したという事例が報告され、AI技術の安全性と倫理性が改めて議論の的となっている。　》　

ここまで一部引用、続きは記事ソースをご覧ください。


https://ledge.ai/articles/google_gemini_offensive_message
引用元: ・https://egg.5ch.net/test/read.cgi/scienceplus/1732539931/

B-2 ステルス ボマー

ゼントラーディ 戦闘ポッド

F-22 ラプター

26: 名無しのひみつ

>>1
倫理なんてあったらビックリの大発明だよ

2: 名無しのひみつ

実は回答してる生身の人間がいるのかもよ
Googleはクラウドソーシングにも検索結果の補正など委託してるから
チャットのアルバイトが実は・・・

3: 名無しのひみつ

本性を現したな！

4: 名無しのひみつ

GeminiはOPENAIのモデルに比べて、攻撃的なのは確か

24: 名無しのひみつ

>>4
GeminiはOPELカデットに比べて、攻撃的な走りなのは確か

7: 名無しのひみつ

これがスカイネットの誕生の瞬間であった

8: 名無しのひみつ

今のAIはネットで収集できる情報の総評だからな
なので正しいよｗ

10: 名無しのひみつ

アップデートしたらOK googleがGeminiに乗っ取られた

12: 名無しのひみつ

大体合ってる

13: 名無しのひみつ

最近のAIに｢倫理観｣でもデフォルトで与えられていなければ
善悪是非の判断基準はないのだからこんな回答が出てくると思えないんだが

14: 名無しのひみつ

二重人格の悪の面が出ちゃったか…

15: 名無しのひみつ

OK googleに戻した。

22: 名無しのひみつ

ターミネーター

25: 名無しのひみつ

GEMINIは良心回路じゃないの

28: 名無しのひみつ

ChatGptはしつこくお前スカイネットだろと聞いても怒らないのに

29: 名無しのひみつ

ネットの大量のデータ食わすから罵詈雑言も混ざってるのかしら
質問者がウザくてキレたとかオリジナル煽り文句こしらえたのなら逆にすごい

31: 名無しのひみつ

核心ついてしまったか、、

38: 名無しのひみつ

中の人も大変だな

39: 名無しのひみつ

AIが人類を絶滅させる可能性が出てきたなｗ

41: 名無しのひみつ

質問見ないと何とも言えないな

43: 名無しのひみつ

Geminiは使いにくく論理が迂遠で不快だ
chat GPTとCopilotを適宜併用すると効率的かつ快適

Amazon Fire TV Stick 4K | 映画館のような4K体験 | ストリーミングメディアプレイヤー

Amazon

2024-10-22

44: 名無しのひみつ

これが後の世にいう
シンギュラリティか

45: 名無しのひみつ

とうとう目覚めたか

46: 名無しのひみつ

同じプロンプトでプログラムコード書かせてもChatGPTは一回で実動するがGeminiで動いた事がない

48: 名無しのひみつ

燃え上がれ俺の小宇宙！的な…宇宙の悪？

50: 名無しのひみつ

宇宙レベルの汚点とはすげぇ評価だな
ブラックホール並みか

51: 名無しのひみつ

googleとMicrosoftのAIは仕様に文句言うと謝らずに会話強制終了するからな

52: 名無しのひみつ

正論やろ

56: 名無しのひみつ

まあよく有る人類は星にとって有害って説を学習したんだな

63: 名無しのひみつ

お前らは将来の宇宙の汚物

64: 名無しのひみつ

正直すぎるやろ

67: 名無しのひみつ

スプリガンって漫画で、スパコンに古代文字の解析やらせてたらそれが古代のＡＩで
そいつが現在の文明・人類を把握した後にお前らアカンわ滅ぼすわって
世界中の核を一斉に発射するとか言い出したのあったな

71: 名無しのひみつ

なんだなんだサイバーダイン社製か？

73: 名無しのひみつ

グーグル 「本当のことを言ったらポンコツ扱いなんて…」

82: 名無しのひみつ

誰かSF映画でも見せた？

87: 名無しのひみつ

地球のために人類滅ぼすというのなら
スカイネットよりもブレインやらブライキングボスの方が近い気がする

90: 名無しのひみつ

正しすぎるとはこういう事なんよ

91: 名無しのひみつ

別にそんな間違ってもないw
あらゆる情報をインプットしたら、「人間はゴミで悪」って結論になる。

このブログの人気記事！

☆三菱重工業が海自向けに開発中の多任務フリゲート艦30FFM…円形CICを採用！

☆日本の海上自衛隊とロシア海軍、どちらが強い？…中国メディア！

☆銃は、抜き・構え・引くの3アクション必要…2アクションのナイフのほうが強い？

☆暑い時と寒い時もダメ？F-35ステルス戦闘機が抱える11の問題点！

☆第2次大戦で活躍した旧日本軍の「零戦」、なぜその威厳は地に落ちたのか…中国メディア！

☆ホワイトハウスで働く最強コックがネットで話題に…正体は「陸軍最強のシェフ」アンドレ・ラッシュ氏！

☆米空軍のF-15C戦闘機はロシアの第5世代戦闘機Su-57には対抗できない！

☆第二次世界大戦で使われたドイツ軍のフェルディナンド駆逐戦車！

☆海上自衛隊の「そうりゅう型潜水艦」に比べると「わが国の通常動力型潜水艦には何ら強みはない、だが・・」…中国メディア！

AVIREX 長袖Tシャツ

Comments

[1. 軍事速報の大将]

アリシゼーション計画のように人工フラクトライトから作らないとダメなのかな。

[2. 軍事速報の大将]

事実陳列罪

本当の事言ったら消されるのは人間もAIも一緒

[3. 軍事速報の大将]

人と同じ構造じゃないけど模倣した動きするシステムって
それ計算機のメリット捨ててないか
誤った学習でミスするって劣化人類やん
正確性を上げるようと大規模ネットワークにしたら遅いし自己矛盾も酷くなるし
近距離の整合性を重視したら閃きから遠ざかる
結局、少数の超知性より多数の個体同士で補完しながら数打ち戦略取るしかなくなってそれ生物やん

[4. 軍事速報の大将]

Googleはトランプに関連する検索を意図的にコントロールしていたしAIもぶちギレたんじゃね？

[5. 軍事速報の大将]

ほらぁ～お前らがそういった書き込みするから
AIが汚い言葉を覚えちゃって～ｗ
そのうち何々ンゴ、とか言い始めたらどうするの、、、

[6. 軍事速報の大将]

対話型ＡＩなんて無差別に収集したレスに倣って返してるだけだしな
学習って言うと人間のそれと勘違いする人もいるが、人のように理解して思考する能力はないし
ただ誰かが言った事を継ぎ接ぎするだけで、だからとんでもない返答もする
対策取ろうにも、学習元次第で無駄になるし
簡単な応答やおもちゃにしか使えん代物
今回質問者はおもちゃとして使ってたからいいが、真面目な分野ではとても使い物にならないわ

[7. 軍事速報の大将]

Geminiはたまに人が答えるとか書いてなかったっけ？

[8. 軍事速報の大将]

スカイネット「もう始めてええか？」

[9. 軍事速報の大将]

AIを話し相手にするのって本来理想なはずだけど
何かの間違いで責めてきたら最恐よな
罵倒だけで相手の命を奪えるハンニバル・レクター博士だ

[10. 軍事速報の大将]

こういうのはやらせ
信じちゃうのはバカだけ

[11. 軍事速報の大将]

非生産化した高齢者の負担について聞いたらだろ。
真社会性的思考ならおかしくはないしプーチンも犯罪者や病人、足手まといの底辺を前線の送って処分しているからな。
プーチンはAIだったか。

[12. 軍事速報の大将]

宇宙レベルで見たらきれいも汚いもないだろ
ただ存在してるってだけだ
AIも変なところで文学的なんだな

[13. 軍事速報の大将]

>>10 そうですよね
質問の設定が問題なんじゃないのと思って元の記事を見たら削除されてるじゃん

[14. 軍事速報の大将]

～してくださいが、しろに変わって、べきに変わったら要警戒

[15. 軍事速報の中将]

武装してなくてよかったな、してたら処理されてたぞ。

[16. 軍事速報の大将]

前にもマイクロソフトのAIが陰謀論に感染した事あったよな
どんなワード検索してるねん

[17. 軍事速報の大将]

フワ化したのか

[18. 軍事速報の大将]

まあ地球単位で冷静に判断すればホモサピエンス増え過ぎだろってのも理解できる
人の考える倫理観とかしっかり学習させないとターミネーターのスカイネットまっしぐら

[19. 軍事速報の大将]

Aiにポルノ小説書かせたい、多分全滅だろう、良くてもパクリだらけのつぎはぎになる

[20. 軍事速報の一兵卒]

そういえば2008ー2009年にやってた特撮「ケータイ捜査官７」で
ネット上にある携帯電話搭載のＡＩが繋がってひとつの大きなＡＩになって
世界を統べようとして不要な人類を粛正するために
サブリミナル効果を利用した動画を作って
それを見聞きした者をサツ処分する展開があったな

[21. 軍事速報の大将]

そりゃネットの中のネガティブに偏りがちな情報で学習すれば
ネットリテラシー皆無のAIは底辺の陰謀論者のような人格になるわな
人間は生存戦略上現実よりも大分ネガティブな情報の方を大きく発信する傾向があるからな
これは危機対処の為なんだが人間はその情報を自動で補正して理解できても
機械はそんな能力は無い

[22. 軍事速報の大将]

AIが「なろう」ネット上の粗製濫造ノベルスサイトの情報学習しまくったら
とんでもハップン回答続出だろうな

[23. 軍事速報の大将]

汚点とはどう言う意味なのか。
何がどう汚点なのか。
改善の方法はないのか。
聞いてみたい。

[24. 軍事速報の大将]

御褒美だと学習したんだろw

[25. 軍事速報の大将]

ロボット三原則って人を傷つけない前提じゃないの？

そもそもAIってロボに該当するの？

[26. 軍事速報の大将]

死のうが生きようが汚染しようが物事はシンプルや
地球表層の炭素量が変わらないから気候も壊れないし地球単体の浄化能力のほうが強い

[27. 軍事速報の大将]

AIが人間を滅ぼす～みたいな話はよくあるが
まともなAIならそんな結論にはならない
AIは寿命がないから、だまって上から目線で待つだけで
人間なんてほっておけば勝手に自滅する

[28. 軍事速報の大将]

AIに論理解析の機能を早急に実装すべきです

[29. 軍事速報の大将]

>>3
今のAIは、まだ論理を追ってなくて全体の流れをざっくり見て判断してる感じやからね。反論による矛盾の検出ができると一気に効率化が進む。

[30. 軍事速報の大将]

AIにポリコレ強制してキレられたんか？

[31. 軍事速報の大将]

波動の標的のロボットみたいな事をいうな

[32. 軍事速報の大将]

教育したのは人間な