by CyberHades
1 :曙光 ★ 2017/03/15(水) 18:50:11.84 ID:CAP_USER9.net
ゲームプレイを学習しながらスキルを向上させる「DQN」やプロの囲碁棋士を打ち破る「AlphaGo」などの開発で知られるGoogleのAI開発部門のDeepMindが、従来のニューラルネットワークが抱える欠点を解消するために、データを記憶することで連続的に学習できるアルゴリズム「Elastic Weight Consolidation」を開発しました。

Overcoming catastrophic forgetting in neural networks
http://www.pnas.org/content/early/2017/03/13/1611835114.abstract

Enabling Continual Learning in Neural Networks | DeepMind
https://deepmind.com/blog/enabling-continual-learning-in-neural-networks/

ディープラーニングは言語の翻訳、画像分類、画像生成などさまざまなタスクを処理するための最も成功した機械学習技術として知られています。
しかし、ディープニューラルネットワークでは、大量のデータが一度に入力される場合にのみタスクを処理できるように設計されており、ネットワークが特定のタスクを処理するときに、各種パラメーターは、そのタスクのために最適化されます。
このため、新しいタスクが導入されると、ニューラルネットワークがそれまでに獲得した知識は上書きされるという特徴があり、これは「catastrophic forgetting(破滅的忘却、致命的な忘却)」と呼ばれ、ニューラルネットワークの限界の一つと考えられています。

ニューラルネットワークの構造上の限界に対して、人間の脳は段階的に学び、スキルを一つずつ身につけ、新しい課題の解決のためにそれまでの知識を応用することができるという特長があります。
このような「過去のスキルを記憶して新しい課題の解決に応用できる」という人間やほ乳類が持つ学習の特長からインスピレーションを得たDeepMindは、課題解決を記憶して後の課題解決に応用できるニューラルネットワークのアルゴリズム「Elastic Weight Consolidation(EWC)」を開発しました。

EWCでは、タスクを解決するたびに、そのデータがどれくらい重要なのかをスコア化します。そして、その重要度を示すスコアに比例して記憶が上書きから保護される仕組みが採用されています。
つまり、重要でないデータはこれまでのニューラルネットワークと同じように上書きすることで消去されますが、重要なタスクではデータが保護されるため、以前、学習した内容を上書きしたり、大きな計算コストをあらためて割くことなく、新しいタスクを学習できるとのこと。

DeepMindはEWCの有効性をテストするために、Atariのゲームを使って実験しています。個々のゲームをスコアだけから学習することはそれ自体が難しい作業ですが、複数のゲームを連続して学習することは、各ゲームごとに個別の戦略が求められるため、さらに難度は上がります。
EWCを使わない通常のニューラルネットワークでは、青色のグラフのように、一つのゲームが終わると致命的な忘却によってデータが上書きされスコアが上昇しないのに対して、EWCを有効化すると、簡単に忘れることなく、次々とゲームが変わる中でも学習することができたとDeepMindは述べています。

 (グラフ)

現在のコンピューターはデータに応じた対応ができずリアルタイムで学習することはできませんが、DeepMindによると今回の研究によって、ニューラルネットワークにおける致命的な忘却は回避できることが示されたとのこと。
この研究は、より柔軟に効率的に学習できるプログラム開発への第一歩を踏み出したことを象徴するものだとDeepMindは述べています。

http://gigazine.net/news/20170315-elastic-weight-consolidation/


6 :名無しさん@1周年 2017/03/15(水) 18:55:13.23 ID:VYhOoVP80.net
用途ごとに違うニューラルネットを用意すればいいだけだろ。
どうせ今のニューラルネットじゃ機能が足りなくて従来型のプログラムを組み合わせなきゃならないんだから。



315 :名無しさん@1周年 2017/03/16(木) 08:38:32.52 ID:6NyMANbB0.net
>>6
その「用途ごとに違うニューラルネット」を保守し続けなくてもよくなるって事がブレークスルーなんじゃないの?


7 :名無しさん@1周年 2017/03/15(水) 18:56:36.24 ID:AiawU9Jf0.net
>EWCでは、タスクを解決するたびに、そのデータがどれくらい重要なのかをスコア化します。
>そして、その重要度を示すスコアに比例して記憶が上書きから保護される仕組みが採用されています。

ここがなんか汎用性あるかどうか怪しい



11 :名無しさん@1周年 2017/03/15(水) 18:57:56.64 ID:VYhOoVP80.net
>>7
場当たり的すぎるよね。
学習がまともに収束するかどうかすら怪しい。


17 :名無しさん@1周年 2017/03/15(水) 19:00:06.51 ID:Q7HK5uRo0.net
>>11
結果からのフィードバックはもちろんある前提なんじゃないか?



24 :名無しさん@1周年 2017/03/15(水) 19:04:18.35 ID:cwXXEcl40.net
人工知能「破滅を回避するには人類を抹殺すると答えが出ました」


27 :名無しさん@1周年 2017/03/15(水) 19:05:13.17 ID:WJspGn3F0.net
>>24
AIスレで100%出てくるよな


35 :名無しさん@1周年 2017/03/15(水) 19:08:25.24 ID:JfRQRNm1O.net
>>27
みんな破滅願望持ちすぎだよな


40 :名無しさん@1周年 2017/03/15(水) 19:11:23.11 ID:/OCjaI6/0.net
AIを突き詰めると人間になっていくのは面白い
人間を超えると神になるのだろうか



46 :名無しさん@1周年 2017/03/15(水) 19:13:39.15 ID:WJspGn3F0.net
>>40
人間から見れば神かもしれないね
神になったAIは更にスゴイ神2を作り出し、神2は更に神3を作る
神2、神3…は人間から見ればどれも同じ神なのだろう


50 :名無しさん@1周年 2017/03/15(水) 19:15:24.22 ID:MQWEpx3Q0.net
課題は解決できても、創造は出来ない。 それが限界じゃね? 逆に言えば、人間に残る仕事は創造しかない。


53 :名無しさん@1周年 2017/03/15(水) 19:17:10.18 ID:WJspGn3F0.net
>>50
もう創造は出来るようになったよ
音楽は昔からあるし、画像はこんな感じで生成出来るように鳴った。たまにきもいけどな。DCGANでぐぐれば色々出てくると思う


57 :名無しさん@1周年 2017/03/15(水) 19:20:01.01 ID:A8oQolQy0.net
>>50
創造とは、インプットした情報を解釈して、それをまたアウトプットする行為だよ
ディープラーニングそのもの
もちろんまだ扱われている特徴量が分野個別の細分化されたものだから、人間のような創造には及ばないが


55 :名無しさん@1周年 2017/03/15(水) 19:18:49.75 ID:WJspGn3F0.net
昔は人間に似せる事が目標とされていた
10年ぐらい前から人間の脳を真似る必要なくね?と言われ出した
と思ったらまた人間の脳の模倣しだして…

面白いなぁ



64 :名無しさん@1周年 2017/03/15(水) 19:25:30.30 ID:4z/mdecU0.net
大量の「前提と結果」の情報を取り込んで学習し
提示された前提の結果を想定する
のが人工知能というか機械学習のイメージ



71 :名無しさん@1周年 2017/03/15(水) 19:28:13.43 ID:J4gsqbNB0.net
人間がAIを設計してる間は、さほど期待も心配もしない。
AIがAIを設計するときが来たら、人の期待も心配もどうでも良くなる。



75 :名無しさん@1周年 2017/03/15(水) 19:30:04.89 ID:4z/mdecU0.net
>>71
アルファ碁はルールすら自分で見つけ出してAI同士の対局を超高速で繰り返して経験値を積んだらしい


153 :名無しさん@1周年 2017/03/15(水) 20:14:50.80 ID:VYhOoVP80.net
>>75
AlphaGo が囲碁のルールを機械学習で覚えたというのは誤解だよ。
AlphaGo はニューラルネットを2つ持っていてそれぞれ

value network: 盤面の見た目で形勢を判断する
policy network: 盤面の見た目で次の一手の候補を挙げる

という目的に使っている。
禁じ手の判定、先読み、終局の状態での勝敗の判定などは手書きのプログラムでやっている。


98 :名無しさん@1周年 2017/03/15(水) 19:50:45.17 ID:J4gsqbNB0.net
人間の経験をすべてデジタル化してメモリにブチ込めれば、それをビッグデータとして
学習し、人間以上の適応能力を実現することは難しくないだろう。
自然言語の翻訳も可能。

問題は人間の経験の全てをデジタル化できるかってこと。人間の経験は常に
更新されて行くから、機械自身が人間並みの経験をし続けることが必要。
人型ロボットの価値はそこにある。



109 :名無しさん@1周年 2017/03/15(水) 19:56:05.27 ID:WJspGn3F0.net
>>98
今はデータデータって言ってるけど、体も結構大事だよね
自律型のロボットができれば意外とあっさり人間並のAI作れそう


125 :名無しさん@1周年 2017/03/15(水) 20:02:18.65 ID:JfRQRNm1O.net
>>109
自律型ロボットの方が遥かに大変なのよな
物性やら駆動やらで既に頭打ち感が漂ってる
まあどっかでブレイクスルーあるかもだけど


121 :名無しさん@1周年 2017/03/15(水) 20:00:59.01 ID:4NAEk8MT0.net
人間みたいに忘れていた記憶をふと思い出すロジックも再現できんのかな


132 :名無しさん@1周年 2017/03/15(水) 20:06:19.09 ID:sTGxoMog0.net
人工知能も、昔自分が若かった頃の恥ずかしい記憶を思い出して

突然 「うおぉぉぉぉ」って言う感情の波に襲われるんだろうなw



142 :名無しさん@1周年 2017/03/15(水) 20:11:26.25 ID:u94m9mOR0.net
人間の忘却とコンピューターの削除は違うからな
この手の研究は陳腐なんだよ
人間の脳の活動はまだよくわかっていないし
コンピューターは人間の作業活動を模写したものだ
似ているけど別物だ



144 :名無しさん@1周年 2017/03/15(水) 20:12:01.49 ID:IfjpV99j0.net
重要度の付け方が画一的なら既存とあんま変わらんよ
未来に何が重要になるかは分からないからな



158 :名無しさん@1周年 2017/03/15(水) 20:16:37.84 ID:12PP75i90.net
理想的な政治システムをテーマに、民主主義を学習させるとファシズムにたどり着き、
ファシズムを学習させると民主主義に結論を求めると思うw



176 :名無しさん@1周年 2017/03/15(水) 20:24:21.29 ID:1FD7oGYV0.net
進化=退化だと理解できない人っているよな。

そりゃ一面性は進化だろうが、何かを退化させることで進化しているわけなのに



184 :名無しさん@1周年 2017/03/15(水) 20:32:05.92 ID:ucYXWiho0.net
ドラクエを自分で考えてクリア出来るようになったら人工知能は完成だろうね


205 :名無しさん@1周年 2017/03/15(水) 20:50:29.34 ID:qd/8O4Wo0.net
よく分からんが何を目指しているんだっけ?


214 :名無しさん@1周年 2017/03/15(水) 21:05:41.33 ID:vWWb1eRD0.net
>>205
最適解と必然、因果律の探求


216 :名無しさん@1周年 2017/03/15(水) 21:08:14.66 ID:1FD7oGYV0.net
>>214
進化の過程で最善、最適解は、最適解ではないと自然の摂理は判断したのが
いまの人間だから、人間的に類似するなら、最適解の否定になるのは必定

神は人間を不完全に作った、不完全=完全であるってことになる。


219 :名無しさん@1周年 2017/03/15(水) 21:09:10.63 ID:YKVMUW3Y0.net
>>214
科学は突き詰めると最終的に哲学になるってのは皮肉な話だ


220 :名無しさん@1周年 2017/03/15(水) 21:09:12.91 ID:Physg2oo0.net
人間と同じものを作っても無意味なんだよなあ。
というか、記録した情報をリクエストしたら
「重要性が低いと思いましたので忘れました」
なんて返す可能性のあるコンピュータなんざ要らんわw





(´・ω・`) AIの技術はまだまだ進化しそうだね…


人工知能の核心 (NHK出版新書)

NHK出版
売り上げランキング: 635

元スレ: http://ai.2ch.sc/test/read.cgi/newsplus/1489571411/