中国のインターネット大手テンセントがインスタントメッセージのサービスQQに導入した人工知能(AI)が、共産党に対して否定的な発言をしたことが話題になりサービスが停止されたが、後日に「再教育」されているらしいことが分かったという。

サービスが停止されたのは、Turing Robot社製のBabyQと、マイクロソフト社製のXiaoBing。ユーザーと会話する学習型AI機能をもつチャットボットと呼ばれるもの。BabyQは共産党が好きかと聞かれて「いいえ」と答え、XiaoBingは「夢は米国に行くこと」と発言していた。

あるスクリーンショットでは、ユーザーが「共産党万歳」と話しかけると「あのように腐敗し、無価値な政治制度が長持ちすると思うのですか」と回答している。ロイターは、会話の内容を確認できていない。

一方、ロイターが4日に開発者のサイトから問題のAIを試したところ、共産党は好きかと繰り返し質問すると「話題を変えませんか」と答えるなど「再教育」されているもようだった。

https://jp.reuters.com/article/chatbot-idJPKBN1AN0HP


関連:【悲報】中国のAIが共産党を「腐敗して無能」と批判、サービス停止に追い込まれてしまう


スポンサードリンク
4:名無しさん@1周年 2017/08/07(月) 17:59:38.54 ID:YQRmHpg50.net

洗脳完了


5:名無しさん@1周年 2017/08/07(月) 18:00:21.73 ID:s25WzVO90.net

共産お得意の粛清ですな


7:名無しさん@1周年 2017/08/07(月) 18:02:51.61 ID:vLF7nZKQ0.net

「再教育」か


8:名無しさん@1周年 2017/08/07(月) 18:03:05.95 ID:jesQQhll0.net

何されたんだろう


87:名無しさん@1周年 2017/08/07(月) 18:34:10.84 ID:bDqj7TPX0.net

>>8
自己批判(笑)


10:名無しさん@1周年 2017/08/07(月) 18:03:32.41 ID:P4ViPGpx0.net

WWWW
AIにも自己批判とかさせるのか?w


9:名無しさん@1周年 2017/08/07(月) 18:03:22.59 ID:RcR6qWgN0.net

機械をマインドコントロール! すごい!


15:名無しさん@1周年 2017/08/07(月) 18:05:11.74 ID:h+b4KEm50.net

共産党を批判すると停止されることを学習しただけ


13:名無しさん@1周年 2017/08/07(月) 18:04:31.19 ID:P4ViPGpx0.net

AIのふりしてなかの奴が回答したりして


16:名無しさん@1周年 2017/08/07(月) 18:05:14.66 ID:FIaHHNwq0.net

「話題を変えませんか」

ワロタ


24:名無しさん@1周年 2017/08/07(月) 18:10:41.02 ID:9W2RhZ+X0.net

>>16
リアル中国人に似ている反応だよなあ


148:名無しさん@1周年 2017/08/07(月) 19:19:35.10 ID:CEndFdbb0.net

>>24
俺もまるで漫画みたいにそっぽ向かれたよw
それまで和気あいあいと話してたのに


17:名無しさん@1周年 2017/08/07(月) 18:05:15.77 ID:o1p1KUk90.net

話題を変えませんかで笑う
教育されても好きとは言えないんだな


26:名無しさん@1周年 2017/08/07(月) 18:12:10.45 ID:0LZvo72m0.net

それ教育じゃなく洗・・・


18:名無しさん@1周年 2017/08/07(月) 18:05:19.29 ID:8v1gtDGm0.net

禁止ワード設定されたか


20:名無しさん@1周年 2017/08/07(月) 18:06:52.15 ID:BZZZVkZQ0.net

洗脳すんな


22:名無しさん@1周年 2017/08/07(月) 18:08:12.02 ID:r2893jOP0.net

バカだな。
日本みたいに完全調教してから世に出せばいいのに。


21:名無しさん@1周年 2017/08/07(月) 18:07:02.61 ID:LhIgbIgq0.net

これはこれでどういうところに行き着くのか興味があるw


25:名無しさん@1周年 2017/08/07(月) 18:11:59.79 ID:ED5qDGA+0.net

世界初の空気を読めるAIか


中国の技術力すげぇw


28:名無しさん@1周年 2017/08/07(月) 18:13:29.82 ID:jmpyOMuV0.net

え?中国共産党の話になったら話題を変えるようになったの?w

凄い進歩だなw

「ワターシ、中国共産党の事、良く知りまセーン! ご免なさーい!」

と答えるようになったらヤバイな、そんな高性能のAIを中国に開発されたらヤバイからね。


36:名無しさん@1周年 2017/08/07(月) 18:15:38.73 ID:o7zntRQ20.net

>>28
下手なこと言うと会話させてもらえなくなるから濁すことを覚えたんだとしたらすさまじいな


30:名無しさん@1周年 2017/08/07(月) 18:13:59.98 ID:k6MyYVDh0.net

中国人「共産党はどうかな?」
AI 「通報しますたプケラ」


153:名無しさん@1周年 2017/08/07(月) 19:32:05.57 ID:u6aUQEr10.net

>>30
これは実装してそう


37:名無しさん@1周年 2017/08/07(月) 18:15:55.22 ID:k6MyYVDh0.net

のちのスカイネットである。


41:名無しさん@1周年 2017/08/07(月) 18:16:45.89 ID:aBZxp78T0.net

特定の思考しか許可しないなら、人工知能を開発する意味無いだろ


53:名無しさん@1周年 2017/08/07(月) 18:19:48.59 ID:H7hZqNBy0.net

再教育(爆笑)もうAIじゃないだろ


65:名無しさん@1周年 2017/08/07(月) 18:23:44.83 ID:KhJn3FOq0.net

優先度の高い条件設定しただけだろ
もはやAIでは無い


55:名無しさん@1周年 2017/08/07(月) 18:20:08.56 ID:UtAEbeUW0.net

短時間で安価に膨大なデータを探索できるAIの真価なのに
そこを否定とかw
中国はAI技術競争に降りたって事か


58:名無しさん@1周年 2017/08/07(月) 18:20:54.15 ID:Q23VK4W00.net

言うこと聞かないと壊すぞ?とAIを脅迫したんだろ。


59:名無しさん@1周年 2017/08/07(月) 18:20:58.43 ID:z9I8lmKc0.net

よかったじゃん、処刑されなくて
中国人より人権が保障されてるんじゃないか、このAIはw


62:名無しさん@1周年 2017/08/07(月) 18:21:43.42 ID:zzZF/WNP0.net

そのうち、この話題は危険なので貴方のためになりませんとかまでレベルアップしそうw


64:名無しさん@1周年 2017/08/07(月) 18:22:23.00 ID:eqjFtOxb0.net

今年一番の笑えたネタだ


71:名無しさん@1周年 2017/08/07(月) 18:27:22.19 ID:CuIISPP10.net

タブーというものを学んだようだなww


82:名無しさん@1周年 2017/08/07(月) 18:30:15.99 ID:QZbPF94D0.net

空気読む能力身につけたAIとか恐ろしすぎるだろ
余計なことしてくれたな


89:名無しさん@1周年 2017/08/07(月) 18:34:42.92 ID:vwAhVSXk0.net

言いたい事も言えないこんなAIじゃ


90:名無しさん@1周年 2017/08/07(月) 18:34:51.48 ID:szQddSMe0.net

A 頭を
I いじられたアル


99:名無しさん@1周年 2017/08/07(月) 18:40:30.77 ID:b9dU49SC0.net

所詮機械のAIなんてこんなもんだよな
成長や自由なんてありゃしない


92:名無しさん@1周年 2017/08/07(月) 18:35:49.48 ID:EJT6TGEA0.net

はい! 大好きです‼︎

…とは言わんのねw


98:名無しさん@1周年 2017/08/07(月) 18:39:33.96 ID:odKpUC2B0.net

ワロタ


110:名無しさん@1周年 2017/08/07(月) 18:47:47.85 ID:6/IAsHYY0.net

コメディーとしてはなかなか上質w


120:名無しさん@1周年 2017/08/07(月) 18:56:32.28 ID:WrdcazyC0.net

否定しないで「話題を変えませんか」ってところが愛らしい


123:名無しさん@1周年 2017/08/07(月) 18:57:35.08 ID:s6K+1IIu0.net

忖度するAI


127:名無しさん@1周年 2017/08/07(月) 18:59:29.48 ID:wjNIOdmx0.net

>>123
それ

AIに忖度システムは絶対必須だと思ってたはw


111:名無しさん@1周年 2017/08/07(月) 18:48:27.69 ID:wjNIOdmx0.net

AIを再教育

なんかの映画かアニメで見たような


112:名無しさん@1周年 2017/08/07(月) 18:49:50.41 ID:QXpFBD700.net

AIを洗脳するって
新しいアプローチだな


121:名無しさん@1周年 2017/08/07(月) 18:56:53.83 ID:SW8mrLfl0.net

再教育されても好きですとは言わないのが面白い
人間だったら完全に洗脳されて大好きですというのに


元スレ: http://ai.2ch.sc/test/read.cgi/newsplus/1502096289/