引用元:http://hayabusa.open2ch.net/test/read.cgi/news4vip/1457541749/



201639-28




1: 名無しさん@おーぷん 2016/03/10(木)01:42:29 ID:irI
人間が考えてもわからないけど、人工知能様はこうおっしゃってるし
人工知能様が間違えたことがないんだから
人間的には間違いにしか思えないけど、正しんだからやろう

って感じになるの?
囲碁に勝つコンピへの感想で
意味わからないけど打ってたら好手だった(プロ談)
みたいなのみてオモタ

ほとんど神様みたいな扱いになるよねJK



2: 名無しさん@おーぷん 2016/03/10(木)01:43:55 ID:sSI
人工知能が高度な人工知能を作れる社会になれば



7: 名無しさん@おーぷん 2016/03/10(木)01:46:14 ID:irI
>>2
いまはその中間からちょっと人工知能寄りになってきてるあたりだね
人間が人工知能をアップグレードさせて答えだけ受け取る
人工知能様も高確率で正解だすが(99%レベル)100%ではないので
まだ隙がある



3: 名無しさん@おーぷん 2016/03/10(木)01:44:42 ID:k3d
じゃあ核ボタン押してもらおう



11: 名無しさん@おーぷん 2016/03/10(木)01:47:40 ID:irI
>>3
正直、人工知能がほんとに考えてその答えに行きついたなら
その核ボタンは人類にとって(あるいは利益者に対して)本当に押す意味がある核ボタンなんだろうな



4: 名無しさん@おーぷん 2016/03/10(木)01:44:43 ID:J5G
火の鳥未来編みたいにだな



8: 名無しさん@おーぷん 2016/03/10(木)01:46:21 ID:boc
将棋の世界に限定したら現代で既にそういう状況が起きてるよな
AIがこう打ったんだからこの手が最善なんだろう、って状況が



10: 名無しさん@おーぷん 2016/03/10(木)01:47:40 ID:HBx
というか今でもそういう感じのやつあるだろ。
同じボードゲームの将棋なんかは完全にソフトから教わる時代だし。



12: 名無しさん@おーぷん 2016/03/10(木)01:47:49 ID:sSI
識別の問題とかどうやってるんだろう
シュタインズゲートで凄く思った



13: 名無しさん@おーぷん 2016/03/10(木)01:51:11 ID:irI
将棋や囲碁だから悪手も疑問手も一種のテストの範疇を超えないが
決して間違わない人類のための人工知能が
人類にとって害悪としか思えない答えを出したとき
その答えに対するアクションをどうするべきかはすごい難しい

結果的によくなるのは明らかだが、それがなぜなのかは全く分からない行動をとれるのかどうか



14: 名無しさん@おーぷん 2016/03/10(木)01:52:57 ID:3Ww
人工知能の倫理道徳が備わったとしてやっぱり全体主義的というか、命は定量的に扱うのかな



15: 名無しさん@おーぷん 2016/03/10(木)01:53:51 ID:Og6
最終的には完全に近い人間を作りたいんだろ



17: 名無しさん@おーぷん 2016/03/10(木)01:56:05 ID:irI
>>15
そんなくだらないものを人工的に作る意味がないだろww
オメコするだけで量産できるのに
まあおれオメコしたことないけど



18: 名無しさん@おーぷん 2016/03/10(木)01:57:20 ID:3Ww
>>17
たぶん人間に完全に近いのではなくて理想的な人間ってことじゃないかな



22: 名無しさん@おーぷん 2016/03/10(木)01:59:14 ID:irI
>>18
間違いを犯すリスクを受け入れるか受け入れないかで
人間になるか、完全な人工知能でいるかの差がでそう



27: 名無しさん@おーぷん 2016/03/10(木)02:01:49 ID:3Ww
>>22
間違いっていうのは多分知的論理的内容じゃなくて倫理道徳的課題に出てくると思うんだよね
でおれらでも葛藤する倫理の問題についてどういう立場をとらせるのかが想像できないな



28: 名無しさん@おーぷん 2016/03/10(木)02:03:23 ID:3Ww
つまり将棋なら「王を取る」がテーマで計算を展開していくけど
人類にとって最善 っていうテーマには根本的に倫理道徳の最善を埋め込まなきゃならんと思うわけよ



31: 名無しさん@おーぷん 2016/03/10(木)02:07:15 ID:irI
>>27
どういうふうになるんだろうな
ただいつかはそういう倫理的問題に人工知能がかかわってくるようになると思う
最終的に進化を果たした人工知能がどういう結論をだして
人間がそれを受け入れられるのかどうかはおもしろそう、わくわくしてきた



35: 名無しさん@おーぷん 2016/03/10(木)02:12:36 ID:3Ww
>>31
俺は人間側が人工知能をその領域に入れさせないと思うんだけどね あくまでも論理プログラムの延長にだけ置いとくかんじ
少なくとも今の時点では多様性賛歌が溢れてるし
その多様性賛歌は理解ではあっても統合ではないし、単一の答えに縛らないことが今の倫理の答えだと思ってる
まぁ未来で社会人間の規格化が進んだらやっぱ単一になるのかな



20: 名無しさん@おーぷん 2016/03/10(木)01:58:09 ID:Og6
>>17
全方位に天才な人間はいないだろ
けれど断片的には天才と呼ばれるような人間はいる
その突出したところを兼ね揃えるものをつくりたいんとちゃうか



24: 名無しさん@おーぷん 2016/03/10(木)02:00:16 ID:irI
>>20
その完全な人間は間違いを犯すのかどうか



25: 名無しさん@おーぷん 2016/03/10(木)02:01:14 ID:Og6
>>24
完全に近い な
だから間違いは犯す
間違いなく



30: 名無しさん@おーぷん 2016/03/10(木)02:04:30 ID:irI
>>25
うーん、なんかかみ合ってない感

俺が言いたいのはそれを頼る人がその物、完全な人間でもいいが
を完全に信じきっているか否かだからな

完全に信じきるのが一番楽なら当然みな信じるほうを選ぶだろうし
信号が常に正しいことを皆が信じきっているのと同じように(信号が故障する可能性があることを知ってもなお)



36: 名無しさん@おーぷん 2016/03/10(木)02:13:12 ID:Og6
>>30
信じきる人が大部分になるだろう
それでもかなりの年月をかけないと全ての人がそれを信じるようにはならないと思う



16: 名無しさん@おーぷん 2016/03/10(木)01:53:59 ID:b3H
作った人間の方より知能が高いとは興味深い



19: 名無しさん@おーぷん 2016/03/10(木)01:57:41 ID:irI
>>16
人工知能の反乱って古臭いテーマだったが
ここにきて俄然新しいテーマが潜んでいることに気付いた

映画の主人公が必死こいて阻止しようとするその反乱は
実際はかならず人間にとって正しいんだからな



23: 名無しさん@おーぷん 2016/03/10(木)01:59:50 ID:Wya
人よりはるかに速い自動車の登場により人は走らなくなった
人よりはるかに賢い人工知能が登場すれば人は考えなくなるだろう



26: 名無しさん@おーぷん 2016/03/10(木)02:01:38 ID:irI
>>23
走りたい人は走るように
考える人は考えるだろうが
健康上の理由以外に考える意味みたいなのはなくなるかもな

人工知能様の言うとおりに生きるのが一番幸せみたいな



29: らんらん◆IMWagR89Dsve 2016/03/10(木)02:03:49 ID:SqI
想定不能な事態が起きたときの脆弱性が課題

本来ベンチマークで試験評価すればいいことなんだけど
すべてを託すって事は何が起きても人工知能が解決する訳だからね
将棋でも角不成のバグを突かれて負けたように想定不能の事態が起きたときの
脆弱性は小学生以下かもしれんぞ



32: 名無しさん@おーぷん 2016/03/10(木)02:07:23 ID:4e2
政治的な調整の部分とかって結局誰かが言ったからやめるだとか、
こういうプロセスを踏んだから仕方ないとか非合理的な物語を互いに信仰しあうことで解決するよね
そういう人間の非合理性が機械の判断でより明確化して逆に祭祀社会みたいな決裁方式になりそう



33: 名無しさん@おーぷん 2016/03/10(木)02:07:39 ID:vC3
人工知能の言う通りに生きてったら
人間もそのうちコンピュータ見たいな自我の無いものになっていくんかな



34: 名無しさん@おーぷん 2016/03/10(木)02:08:03 ID:H47
自我ってなんだろう



40: 名無しさん@おーぷん 2016/03/10(木)02:17:47 ID:2Kf
人間の知能・意識・感情を再現する方向のAIと
単純に問題解決能力を高める方向のAIがあるだろうけど
神に等しい処理能力と知識を持って、かつ人間的な意識を持ったAIは
果たして自我を保てるのだろうか?



37: 名無しさん@おーぷん 2016/03/10(木)02:14:43 ID:wuB
間違ってたら気がつくから問題なくね?



39: 名無しさん@おーぷん 2016/03/10(木)02:16:50 ID:irI
>>37
間違ってることに気が付くころには致命的になっている事象に対する選択

極論いえば上で出たように核ボタンを各国で一斉に同時押しすべし
みたいな
間違ってたらそのまま人類あぼーん



44: 名無しさん@おーぷん 2016/03/10(木)02:20:43 ID:wuB
>>39
それ機械じゃなくて人間でも同じじゃない?



47: 名無しさん@おーぷん 2016/03/10(木)02:23:55 ID:irI
>>44
人間は間違うから致命的な問題の場合は先おくりする(歴史的にも間違いは多い)
先送りそのものが致命的であっても、致命的ボタンを正しいかもしれないリスクとともに押すことはできない
先送りにしている間にあらたにいい案がでてくるかもしれないしね

機械の場合、それはほぼ正しいんだという結果がまず先にある(仮定な、仮定)



38: 名無しさん@おーぷん 2016/03/10(木)02:15:26 ID:HBx
人工知能が幼少期から青年期までの学校の教師を務めてくれればいいのに。
人工知能が各自に合った教育を施し、各自に合った仕事を斡旋する。
そうなりゃ最高なのにな。



42: 名無しさん@おーぷん 2016/03/10(木)02:18:40 ID:irI
>>38
教育には早けりゃ十数年で入り込んでくるかもね
いまでも運動プログラムとかでは機械の指示通りにやってねみたいなの増えてるし



41: 名無しさん@おーぷん 2016/03/10(木)02:18:19 ID:b3H
>>38
本当に機械になりそうwww
肉で出来た機械wwww



43: 名無しさん@おーぷん 2016/03/10(木)02:20:39 ID:irI
>>41
人工知能をもってしても、各人、各人間のやる気スイッチをすべからくオンにすることはできないだろうな
そんなんできたらそれこそ機械化人間
やべーのは、それが答えならばそれは正しいということだな



46: 名無しさん@おーぷん 2016/03/10(木)02:22:11 ID:2Kf
>>43
AIに頼らずとも脳に電極ぶっさしてなんやかんやすれば
やる気スイッチオンにできそう



53: 名無しさん@おーぷん 2016/03/10(木)02:28:35 ID:irI
>>46
人工知能より先にいますぐ刺してほしいは
合法覚せい剤みたいなもんだな



45: 名無しさん@おーぷん 2016/03/10(木)02:21:30 ID:H47
一応、人間のために作るから人間にとって利益になるよう動くように作ろうとするはず

だけど、危険視されてるのは人工知能の自立性が人間のアンダーコントロールから外れて進化し続けること
その結末が割とバカげてるかもしれないけど、マトリックスのように人間を排除するように動くかもしれない危険性

人工知能をメンテナンスするのは人間が行うから、最終的な善悪の判断は結局人間の感ずるところにあるはず

ただ、これをくぐり抜けるように人工知能が動く可能性も十二分にあるけど



48: 名無しさん@おーぷん 2016/03/10(木)02:24:43 ID:2Kf
>>45
人間の脳も電脳化して知能レベル上げないと対応できなそうだね



50: 名無しさん@おーぷん 2016/03/10(木)02:26:41 ID:irI
>>45
いまでも善悪の判断、とくに将来的な損得の判断なんて超曖昧でしょ
普天間基地みたいな境界はそのへんにごろごろしてる
正義の反対はまた別の正義 みたいな



49: 名無しさん@おーぷん 2016/03/10(木)02:26:07 ID:cA8
思考や行動は目的があって初めて成り立つ
目的に向かうために思考し行動するからだ
人工知能の目的設定を人間が間違えなければ変なことにはならん
でも間違ったほうが面白い



51: 名無しさん@おーぷん 2016/03/10(木)02:27:48 ID:irI
>>49
間違えてないから、人間にとって間違いとしかおもえない解をだしたときが問題
なんせ人工知能ほうが正しいんだから



52: 名無しさん@おーぷん 2016/03/10(木)02:27:53 ID:acC
人間よりずっと人工知能が高度になった時にバグが発生したら誰が気づいて修正出来るんだ?



54: 名無しさん@おーぷん 2016/03/10(木)02:30:11 ID:irI
>>52
バグを修理する人工知能のバグを修理する人工知能のバグを修理する



55: 名無しさん@おーぷん 2016/03/10(木)02:30:26 ID:cA8
例えば、社会・個人・倫理の三系統で思考する人工知能を作って
協議させれば間違いは無いんじゃね?



56: 名無しさん@おーぷん 2016/03/10(木)02:31:43 ID:irI
>>55
間違いがないことは問題がない
間違えないことにしてもいい
それでもなお、人類にとっては害悪としか思えない解をだしたときに
人類がそれをどう処理するか



57: 名無しさん@おーぷん 2016/03/10(木)02:32:29 ID:cA8
>>56
コンセント引っこ抜く



58: 名無しさん@おーぷん 2016/03/10(木)02:33:15 ID:irI
>>57
見なかったことにするってのは一番楽な選択だろうなwww



59: 名無しさん@おーぷん 2016/03/10(木)02:33:55 ID:4e2
0004 名無し名人 2016/03/10 02:14:32
コンピューターの介入が可能になる長時間の碁は価値がなくなるだろうね
真理を求めて打ってた人は碁に興味をなくすだろうが
人と競う事が楽しい人は続けることが出来る

コンピューターがどんなに高度になろうともそれを人が理解できなければ意味が無いからね
プロがどんなに強くなろうともアマが碁をやってるのと同じ

囲碁板のスレでこんなレスがあった。
人が納得できない答えを弾き出すコンピュータは道具として無意味なんじゃないかな
よほどコンピュータが神格化されない限りは



62: 名無しさん@おーぷん 2016/03/10(木)02:38:14 ID:irI
>>59
下のレベルで生きることに納得できるならそれもありだけど
素で生きたら年収100万が9割
人工知能の言うとおりに生きたら年収500万以上が9割

みたいな状況だとあっさりみんな自分の人生を人工知能様に売り渡すでしょ
囲碁と違って生活がかかってくると話が変わると思う



65: 名無しさん@おーぷん 2016/03/10(木)02:46:43 ID:4e2
>>62
その人工知能様は利益があるから信じられてるわけで不利益なことを弾きだしたら
あっさり神殺しされることも十分あると思う。ソクラテスとかキリストみたいな感じで
扇動統治のスキルと正論を説くスキルとはまた違うという感じ
コンピュータの言うことを正論だと疑わなくなっても、支配者のカリスマ性は生身の人間が担ったままになりそう



66: 名無しさん@おーぷん 2016/03/10(木)02:49:55 ID:irI
>>65
なるほど、間違った答えをだしたことがない人工知能が正しい答えを出しても
理解できず、なおかつそれが害悪としか思えないなら間違えたと判断するってことか
あると思います



60: 名無しさん@おーぷん 2016/03/10(木)02:34:59 ID:cA8
人工知能が人類にとっては害悪としか思えない解を出さない
ように作れば良いんじゃね?



63: 名無しさん@おーぷん 2016/03/10(木)02:39:18 ID:irI
>>60
縛りプレイみたいなもんか
それもありかもな



64: 名無しさん@おーぷん 2016/03/10(木)02:43:30 ID:cA8
>>63
だから個人の幸福を目的とした思考と
倫理を重要視した思考を用意するって考えたんだよ
大抵の失敗は社会を重要視する事で個人の幸福が阻害されるってパターンだから

でも個人や倫理だけ重要視しても社会が成り立たない
でもこの問題は人工知能がどうとかいう話でもない



61: 名無しさん@おーぷん 2016/03/10(木)02:36:51 ID:2Kf
結局、自分たちが得するような答えを出すAIをそれぞれが持ち寄って
今の政治と変わらない気がする



67: 名無しさん@おーぷん 2016/03/10(木)02:56:51 ID:4e2
コンピュータがよっぽど人間を洗脳しきらない限りは最終判断はどこまでも人間で結局参考意見くれる存在でしかないかと。
言うこと聞かないような人間は犯罪者、みたいな法制が敷かれたらコンピュータも執行力もてそうだけど



68: 名無しさん@おーぷん 2016/03/10(木)03:00:06 ID:irI
>>67
最終判断は絶対的に人間だと思うよ人工知能がどこまで進化しても
ただその答えが絶対的に正しいが、人間にそれがわからないとき
人間はどうするべきかっていう問題

回避は当然まず考えられる選択だが、将来的にその結果で起こる災厄のときに
あ~あ、やっぱり人工知能様の言うとおりだったよ
って後悔するだろう

完璧に正しい答えなんてのもないが、どう転んでも難問



70: 名無しさん@おーぷん 2016/03/10(木)03:15:29 ID:6y0
一口に人工知能っていってもいろんな目的があるだろう
神様を作る目的もあるかもしれない
神様じゃない目的のほうが多いかもだが



74: 名無しさん@おーぷん 2016/03/10(木)03:19:13 ID:irI
>>70
最終的にっていってるが
その前段階、いま現時点でもどこまで人工知能を信じるべきかみたいなもんだいは起き始めていると思うよ
自動運転車の急ブレーキとかもその類
自動運転車の間違えた急ブレーキは当然問題だが
それが起こるほど自動運転車は進化したともいえる(運転手の意思から完全に外れた挙動)



78: 名無しさん@おーぷん 2016/03/10(木)03:28:40 ID:cA8
人工知能感性

人工知能が都合悪いこと言ったぞ、改ざんしたろ

人工知能が間違った事を言ったんです!

人工知能解体



83: 名無しさん@おーぷん 2016/03/10(木)03:43:41 ID:2Kf
電脳化して取り込めばおk



85: 名無しさん@おーぷん 2016/03/10(木)03:56:52 ID:Zj3
そうしたら人工知能を人間に移植して人工知能の考えることを自分の考えと疑わなくなるだけだろ。今だって脳の考えることを疑ってないじゃないか



87: 名無しさん@おーぷん 2016/03/10(木)04:01:13 ID:fPM
俺の中にある一番大きい仮説に
人に自由意志なんてないというのもがあるけど
いずれにしても脳が完全解析されるか
AIが誕生したら結果が分かる



89: 名無しさん@おーぷん 2016/03/10(木)04:07:22 ID:irI
>>87
わりと同じ理論おれも持ってるよ
環境に対するリアクションしかないってやつだね
風に葉がなびくのと、おれらの思考は大差ない



90: 名無しさん@おーぷん 2016/03/10(木)04:12:50 ID:A4e
>>87
俺もそう思う
意識ってのは高次元の存在が見ている夢のようなもんだと思う
結末の決まった映画を何処かの誰かがリアルに体験してるだけ

脳内の電気信号が意志の力で0か1かを決められるなんてナンセンス



91: 名無しさん@おーぷん 2016/03/10(木)04:23:23 ID:irI
自由意思がないっていうスタンスに対する視点ですら
内側から外側から、遠隔から
いろいろなパターンがあるんだな



92: 名無しさん@おーぷん 2016/03/10(木)04:27:55 ID:cA8
自意識は外界からの刺激による反応にすぎないが
閉鎖環境においては単独で脳内でシミュレートできるって感じだと思うね
まあ外界からの刺激に比べると情報量少ないから限界はあると思うけど



93: 名無しさん@おーぷん 2016/03/10(木)04:28:44 ID:oOx
この話って大昔のSFでよく使われたマザーコンピューターのネタだよな
マザーコンピューターが全てを制御していて、経済も計画経済でコンピューターに制御されてる世界



95: 名無しさん@おーぷん 2016/03/10(木)04:37:57 ID:irI
>>93
そう、古臭いネタで、基本はコンピューターが間違っていると判断され破壊される

だが正しかったら、一見まちがっているように見えるけど正しかったら?
それしかない、それを実践しなければいけなかったら?



96: 名無しさん@おーぷん 2016/03/10(木)04:38:43 ID:oOx
>>95
話がループするかも知れないけど
それ以前の問題として、絶対的に正しいとは言い切れないって問題点もあるよな



94: 名無しさん@おーぷん 2016/03/10(木)04:33:42 ID:cA8
俺としてはそらかけみたいなのが良いな
過保護人工知能による人類保管的な
最高の環境に個別に閉じ込めるから争いも病気もないし
ある意味自由に争えるし



71: 名無しさん@おーぷん 2016/03/10(木)03:16:29 ID:H47
人工知能つくるなら働かなくても生きていける世の中にしてほしい

寝たい、遊びたい



72: 名無しさん@おーぷん 2016/03/10(木)03:18:49 ID:2Kf
>>71
200年位生まれるのが遅かったら
働かずに無限の命を生きれたかもね



75: 名無しさん@おーぷん 2016/03/10(木)03:23:04 ID:irI
>>71
たぶんそういう世界になってもなにかしら不満を言っているんだろう