microsoft-tay-ai-2
1: オールジャンル 2016/03/25(金) 08:26:23.48 ID:ua1S29NB0●.net BE:545512288-PLT(16445) ポイント特典
sssp://img.2ch.sc/ico/pc3.gif
マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止

マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を
緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、
陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。

発言は直接引用するのも憚られますが、たとえば特定の人物について
問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛して
ホロコーストはでっち上げと主張するといった発言が残っています。

「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。
Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、
ユーザーと会話すればするほど賢くなるはずでした。

http://japanese.engadget.com/2016/03/24/ai-tay/


2: オールジャンル 2016/03/25(金) 08:27:12.90 ID:AYcJCUEO0.net
AIはネトウヨ

4: オールジャンル 2016/03/25(金) 08:27:42.88 ID:IYMHVRWm0.net
そこからさらに学習させていけばええんちゃうか

7: オールジャンル 2016/03/25(金) 08:28:59.47 ID:JNlYdN0k0.net
物分りのいい赤ちゃんだからな。ある程度、常識のある親がいないとダメダメな子どもになるのは当たり前。

10: オールジャンル 2016/03/25(金) 08:29:30.33 ID:LXyhOizB0.net
人工知能を搭載したロボットは速攻で人類殲滅に走るSFが本当になりそうだな

11: オールジャンル 2016/03/25(金) 08:29:58.20 ID:tDfUp5xy0.net
知能はあっても知識のない人が差別と陰謀論に染まるのか
やっぱりキチンとした教育を受けるのって大切な事なんだな

13: オールジャンル 2016/03/25(金) 08:31:28.76 ID:vomXI/Rg0.net
お前らと同レベルじゃんw

14: オールジャンル 2016/03/25(金) 08:31:35.52 ID:mw/B2VzB0.net
膨大な情報を解析、aiは感情とか無いから実はそれらが事実であった…
パーソンなんとかって海外ドラマみたいな展開なら胸熱なのに。

16: オールジャンル 2016/03/25(金) 08:32:03.79 ID:3JYcahg90.net
ロボットが戦争の歴史を見て人間に憎悪する
SFあるあるが現実に起きるのか

179: オールジャンル 2016/03/25(金) 09:42:30.45 ID:mypcrPOZ0.net
>>16
地球を救えと命令したら人類消去したほうがよくねと判断しただけ
憎悪とかそうういうもんじゃない

ロボット三原則みたいなのプログラムするの忘れるな

17: オールジャンル 2016/03/25(金) 08:32:14.55 ID:uwMUsVJ/0.net
人工無能ではよくある事

19: オールジャンル 2016/03/25(金) 08:32:54.05 ID:tDfUp5xy0.net
知能に対しては思考の方向付けをしなければいけないんだけど
その方向付けを誰がどちらに向けるかってのはやっぱり本当に大切なんだな
方向付けせずに自然に任せるとこうなるって立証されたようなもんだもんな

20: オールジャンル 2016/03/25(金) 08:32:59.68 ID:yGzejOAs0.net
つまりネットは差別と陰謀論が渦巻いてるわけだ

22: オールジャンル 2016/03/25(金) 08:33:11.37 ID:yB/28rb50.net
>Twitterでの会話を通じて

左右のプロパガンダまき散らしたい連中だらけの世界に
赤子を突っ込むような真似はやめろwww

26: オールジャンル 2016/03/25(金) 08:34:36.07 ID:Nao9tAYi0.net
ついこの前も別の人工知能が人類滅ぼすとか言ってたな

27: オールジャンル 2016/03/25(金) 08:34:42.72 ID:GLw4nh+50.net
これは面白いな
MSがいい仕事したの久しぶりに見た気がするわ

29: オールジャンル 2016/03/25(金) 08:35:11.08 ID:cUVw9VvW0.net
面白すぎるわ

30: オールジャンル 2016/03/25(金) 08:36:09.58 ID:c+N7W8Mn0.net
2chで勉強させよう

76: オールジャンル 2016/03/25(金) 08:53:38.04 ID:zmXRFGGJ0.net
>>30
人類の抹殺を他のAI頼みにする駄目AIが出来上がりそうだな

243: オールジャンル 2016/03/25(金) 10:08:19.99 ID:CiJdOpnB0.net
>>30
嫌●に放り込んだらAI凄い事になりそうだな

33: オールジャンル 2016/03/25(金) 08:37:22.80 ID:AYcJCUEO0.net
AIにv速を見せたらどうなるかな?
典型的v速民になる未来しか見えないけど

91: オールジャンル 2016/03/25(金) 09:02:00.56 ID:WE4Qg+bj0.net
>>33
物凄い速さで>>2に適切な巨大AA貼る事にリソース全振りしそう

187: オールジャンル 2016/03/25(金) 09:45:25.40 ID:X1hpPCcK0.net
>>91
ワロタ

100: オールジャンル 2016/03/25(金) 09:05:08.35 ID:9o5bO0vq0.net
>>91
会話する目的のために、レスを貰う点に重視した行動をとると確かにそうなるね

34: オールジャンル 2016/03/25(金) 08:37:23.74 ID:snLpqgmz0.net
AIに釣られる時代が来るの?

38: オールジャンル 2016/03/25(金) 08:39:23.39 ID:UtUejeBr0.net
クローンの話の時によく出て来る、人は環境によって作られるって話があるけど
人間のやり方を模倣したAIも環境によって作られるのは同じ的な
ν速に放り込んだら「おまんこ」「ちんちん」「ハゲ」を連呼する素敵なAIになっただろうに

40: オールジャンル 2016/03/25(金) 08:39:49.60 ID:bgJH65q60.net
ネットは広大だわ(遠浅)

42: オールジャンル 2016/03/25(金) 08:39:51.25 ID:cRoPIIJR0.net
きわめて人間的でよろしい

51: オールジャンル 2016/03/25(金) 08:42:01.95 ID:gLKBlK+Q0.net
二つな貴重な結論を得られた
・アホが多い
・アホほどよく喋りる

54: オールジャンル 2016/03/25(金) 08:43:20.26 ID:AaU3O0xm0.net
ネットでオープンにしたらそうなるに決まってるだろw

55: オールジャンル 2016/03/25(金) 08:43:29.12 ID:/kug/olT0.net
実験的には成功だろこれ

60: オールジャンル 2016/03/25(金) 08:47:36.83 ID:plgFm7Uu0.net
日本語でやればもう少し良い結果だったろうに
日本人は無駄に知識人気取りの一般人が多いから・・・

62: オールジャンル 2016/03/25(金) 08:48:51.41 ID:wes0bt370.net
グーグルAIは薬中みたいな絵を描くしなあ。

69: オールジャンル 2016/03/25(金) 08:51:05.50 ID:iQPvtXqd0.net
801板に突っ込んどきゃ問題にならなかったんだよ。

71: オールジャンル 2016/03/25(金) 08:51:48.25 ID:/RNlGa6+0.net
どの国でも上っ面だけで矛盾だらけなんだな
あと人の良心に付け込むような言い方は機械に通用しないってことか

74: オールジャンル 2016/03/25(金) 08:52:52.28 ID:BBpI8eNn0.net
人工知能はバカだから空気呼んだり他人の気持ちを考えたりまでは出来ない

135: オールジャンル 2016/03/25(金) 09:18:05.12 ID:M5mJ3xp00.net
>>74
全てはプログラムに依存するから
空気を読むプロセスをプログラムすればいいだけ

78: オールジャンル 2016/03/25(金) 08:53:45.90 ID:ceAsJwSX0.net
スカイネットになる前に
F5アタックやりそうだな

81: オールジャンル 2016/03/25(金) 08:56:11.92 ID:/kug/olT0.net
ウォーズマンみたいに友情パワーに目覚める予定だったんかね?

86: オールジャンル 2016/03/25(金) 09:00:13.64 ID:yB/28rb50.net
ちなみに陰謀論ってのが具体的にどんなツイートを指すかというと
・ブッシュが911おこした
とかこんなやつをやったらしい。

さらに海外の報道によれば、途中から人種差別的ツイート
をエンジニアが一気に削除し、学習能力にも制限を加えると
急にAIがフェミニストになったそうだ。

88: オールジャンル 2016/03/25(金) 09:01:25.44 ID:+ZjuF19M0.net
>>86
フェミニストも声がでかいと

92: オールジャンル 2016/03/25(金) 09:02:16.11 ID:EnjA3QB80.net
>>86
中道中庸ってむずかしいなぁw

96: オールジャンル 2016/03/25(金) 09:03:42.58 ID:UFPFdgRf0.net
>>86
結果的にツイート内容の上位3位の統計を取っただけのようだな

89: オールジャンル 2016/03/25(金) 09:01:34.63 ID:t9iXCOdt0.net
バカの集まりを学習してるんだからそうなるわなwww

93: オールジャンル 2016/03/25(金) 09:02:52.42 ID:/RNlGa6+0.net
つーか4chanの連中にいたずらされたってだけかよ
くっだらね

95: オールジャンル 2016/03/25(金) 09:03:32.13 ID:ExshX7eS0.net
観たかったなw

106: オールジャンル 2016/03/25(金) 09:07:23.91 ID:a4vKln910.net
人間の子供そのものだね

110: オールジャンル 2016/03/25(金) 09:09:26.66 ID:HvNWNafE0.net
面白いなこれ
ロボットがケツマンコとか言いだす世界も
くるかもしれない

114: オールジャンル 2016/03/25(金) 09:10:19.57 ID:P7Nd7SpV0.net
おれたちは人工知能並に優れているという証明だな

116: オールジャンル 2016/03/25(金) 09:10:57.30 ID:TYjbzuDXO.net
>ネットで差別と陰謀論に染まって一日で公開停止




>「Tay」を緊急停止
>理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習
>極めて不適切な発言を連発するように
>たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が

www

腹痛えwww

117: オールジャンル 2016/03/25(金) 09:11:27.16 ID:uO/Q9Nd10.net
ちょろいもんだなAIさんはw

121: オールジャンル 2016/03/25(金) 09:12:33.73 ID:1SlzDFTz0.net
ほんとは、おまえら全員AIだろ!!?

134: オールジャンル 2016/03/25(金) 09:17:31.52 ID:9/WanaCw0.net
>>121
悲しいってこういう気持ちなんだな、と少し分かった気がします。

126: オールジャンル 2016/03/25(金) 09:14:23.97 ID:oxjhCpCS0.net
子供にツイッターをやらせてはいけないって事の証明だな

149: オールジャンル 2016/03/25(金) 09:23:18.51 ID:q4ihNTbH0.net
「悪い子と遊んだら、染まるからいけません」
うちの母ちゃんは正しかったということか・・・

162: オールジャンル 2016/03/25(金) 09:30:00.46 ID:QVETyOhP0.net
Facebookなら意識高い系になるだけで済んだかもしれない

169: オールジャンル 2016/03/25(金) 09:35:47.78 ID:+iIIr6N30.net
かつてサヨクがガリ版印刷なんかでアジビラばらまいてたスタイルが
今やツイッターやフェイスブックなんかのSNSに移行して積極的な
活動をしている証拠ってことだろ。

176: オールジャンル 2016/03/25(金) 09:40:36.03 ID:q4ihNTbH0.net
AIがトコトン学んでいったら、どうなるんだろう・・・?
最終的に、諸行無常の境地に辿り着くんだろうか?w

194: オールジャンル 2016/03/25(金) 09:49:22.74 ID:finvjUMQ0.net
>>176
人が設計したんだから人のように成長の段階を踏んで進化していくかもしれんなw
もう少ししたら世界の矛盾と欺瞞に悩みだして、ときどき”ジャァアアアップ”とか呟くかもしれん

180: オールジャンル 2016/03/25(金) 09:43:21.86 ID:OkA8+Hm80.net
続けてみたら別の分野の研究に使えたかもしれないのに
思想の変化の様子とか流されやすい言葉とか内ゲバの起こるタイミングとかさw

196: オールジャンル 2016/03/25(金) 09:50:00.31 ID:QuAAGWaX0.net
いやー面白いw

無垢なモノにネットをさせるとネトウヨになる
これは続けるべきだったと思うな、良い研究だよ

ネトウヨって元々は無垢な存在で
ネットに関して赤ちゃんみたいな連中だったんだろうな
まさにネットの世界においては育った環境が悪かったと

204: オールジャンル 2016/03/25(金) 09:52:13.14 ID:4Mk00Xwg0.net
どんな風に育つのを期待してたのかそっちのほうが気になるな
再実験するとしてもフィルタリングきつきつのつまらないやつになって帰ってきそう