2017年11月18日

「倫理観と人工知能 ― 人間からの卒業」

<地球セミナ114-1山本一成著「人工知能はどのようにして「名人」を超えたのか?」第4章><燦風子>


 人工知能ポナンザは将棋の名人に勝った。「将棋で勝利する」という枠内では人間を超えたのだ。しかしポナンザは「そもそも、何をすべきか?」という目的を設計する能力=知性は、まだ持ち合わせていない。そうした目的は、人間が設計しなければならない。ポナンザは「将棋で勝利する」という目的を達成するための知能を持っているだけだ。


 ポナンザは、1秒間に何百万もの局面を探索・評価することが出来る。複数のコンピュータを結合させたクラスタコンピュータにより、それは億の単位に届くほどになる。人間も同様に探索・評価を繰り返すが、1秒間に意識にのぼる局面は、多く見積もっても平均して1局面以下になるだろう。

 

図-1 知性と知能の関係〔1〕
知性 



 上の数字の比較でみると、どうやって人間はコンピュータと戦っているのかと不思議に思う。その秘密は、コンピュータにはない人間だけの武器にある。人間は「中間の目的」を設計できることだ。人間は何事においても、上級者であるほど正しい目的設計ができる。中間の目的を設計しても、うまくいかない時は、PDCAのサイクルを回して修正、改善する。


図-2 PDCAサイクルの図〔1〕
PDCA 

 コンピュータは原則、目的を設計することが出来ないので、PDCAサイクルのうちの知能である、探索(Do)と評価(Check)だけで将棋を指している。人間から見ると不思議なくらい非効率になる。知性があれば効率的に探索・評価が行える。知能と知性の違いについてはいろいろな説明があると思うが、本書では次のように定義している。

知能=与えられた目的に向かう道を探す能力

知性=目的を設計できる能力

 

人間から卒業するためには、自ら目的を設計して効率的にする「知性」を持たなければならない。コンピュータは将来「知性」を持ち、人間から卒業できるのだろうか?

 

将来的にコンピュータはどのように「知性」を獲得するのかはまだ何一つ道筋が開けているわけではない。しかしもし獲得することがあるとすれば、それは「複数のディープラーニングをつなげたディープラーニング」を作って達成されるのではないだろうか。

図-3 つながりあったディープラーニング〔1〕
つながりあったディープラーニング


   各ディープラーニングがそれぞれの目的に最適化され、さらにそれらのディープラーニングが相互に影響し合うモデルだ。それぞれのディープラーニングが、次にどのディープラーニングを呼び出すのかを含めて相互に学習するというイメージだ。

 

つながり合ったディープラーニングでは、別々の目的で作られたディープラーニングが相互に連携して他の目的に「転移」させることで、さまざまな知的活動が可能になる。そして将来的には「転移」を重ねたディープラーニングをつなぎ合わせ、巨大なディープラーニングが完成される。これはまさに、途方もなく巨大な神経回路である人間の脳を模したものだ。そうした構造を持つ人工知能であれば、知性の獲得は決して不可能ではないだろう。ディープラーニング、コンピュータの性能向上、脳科学の発達が人間以上の知性を持った人工知能の誕生となる。

 

こうした人工知能の爆発的・加速度的な成長をとげることで、これまでの世界と不連続とも思える新たな世界に変化する。そうした不可逆の動きが起きる歴史上のポイントが、シンギュラリティと呼ばれている。

 

シンギュラリティの提唱者のレイ・カーツワイツはその時が来るのは2045年と予想している。その後2029年までに早めたようだが、その頃には一つのコンピュータの知性が、人類「すべて」の知性の総量を上回ると言っている。


図-4 レイ・カーツワイル〔6〕
カーツワイル

ディープラーニング+強化学習、コンピュータの処理速度の発達と脳科学の進歩により、汎用AIが開発される機運が高まっている。汎用AIは人間と同じように会話し、読書もできる。汎用AIは、汎用知能たる人間の頭脳と同じように、さまざまな状況に応じて考えることが出来る。汎用AIこそ人工知能と呼ぶに値するものであり、現在の特化型AIは人工知能に値しないという研究者もいる。

 

2015年頃から汎用AIの世界的な開発競争が始まっている。アルファ碁を開発したグーグル配下のディープマインド社などがアプローチしている。

 

シンギュラリティの意味するところは

      AIが人間の知性を超え、AIが自らAIを生み出すことによって知能爆発が起きる

      AIが人間に代わって世界の覇権を握る

      人間がAIと融合することによってポストヒューマンになる

であり、レイ・カールワイツなどの肯定派は,鉢を選び、悲観論者は△鯀んでいる。いずれにしても識者は,魘δ未靴徳んでいる。このまま技術革新が進めば、超知能が誕生し、シンギュラリティは将来必然的に起きるのだろう。その時人工知能「超知能」は自分自身を改良し、賢くさせ、人類には到底理解が及ばない知的な領域に入ることになる。勿論人類が人工知能をコントロールすることは不可能となる。

 

強い人工知能「超知能」が実現した時、人類のあり得る未来は大きく分けて二つの道が考えられる。

  すごい能力を持った機械の人工知能がある時できて、それが人類を滅ぼしたり支配したりする。

  人間が人工知能と一体となって、人間の知能を強化する(知能増強)

 

今世紀中には人工知能が人間を卒業し、「超知能」が誕生することは確定的であるという。その時人類にとっての脅威を起こさせないようにするためには、人類が人工知能を失望させないことが大事なポイントとなる。人間の結果を模倣して学習するプログラムは人間の間違いも学習してしまう。人類の知性を上回るようなコンピュータが将来生まれても、必ずそのコンピュータは人間から学習した名残をとどめているはずだ。

 

その意味で「人工知能はとても危険だ」という意見にも同意せざるを得ない。しかし本当に人工知能が危険な存在になるかどうかは、意外なことに「人類自身の問題」になる。人工知能は人類から良いことも悪いことも、様々なことを学習していく。倫理観もその一つで、そうなると試されるのは人類自身ということになる。

 

我々は、インターネット上を含むすべての世界で、できる限り「いい人」でいることが必要だ。おそらく人類が「いい人」であれば、人工知能はシンギュラリティを迎えたあとも敬意を持って私たちを扱ってくれるだろう。尊敬と愛情を感じられる親であれば、年老いて弱くなったあとも子供が寄り添ってくれるように。

 

未来の人工知能と人類がそのような関係になることを心から祈っている。

 

出典

〔1〕「人工知能はどのようにして「名人」を超えたのか?」山本一成 (ダイヤモンド社、2017

〔2〕「人工知能 人類最悪にして最後の発明」 ジェイムズ・バラット著 水谷 淳訳 2015/6

〔3〕人工知能と経済の未来 2030年雇用大崩壊 井上智洋著 2016/7  文春新書

〔4〕参考WEB:2045年問題http://eco-notes.com/794

〔5〕参考WEB:ホーキング博士「人工知能は人類の脅威になりうる」と警告

 https://newsphere.jp/worldreport/20141204-4/

〔6〕参考WEB:レイ・カーツワイルhttps://bizzine.jp/article/detail/1858



sam20110254 at 00:00│Comments(0)観察と学習 

コメントする

名前
URL
 
  絵文字