排除剥奪の観点からのSuperintelligence

われわれは何故独居老人に AI ロボットを与えようとするのだろう。何故AI による自動運転を開発しようとするのだろう。
何故人間の仕事を AI に取って代わらせようとするのだろう。社会的弱者を切り捨てるためではないか、よく考えてみる必要がある。

人工知能「技術」の先鋭化がもたらす結果には
人間性からの乖離と人間への同一化という、相反する憂慮が潜んでいるのです。




人工知能・科学・人間のトリロジーの将来
植原亮　関西大学
関西大学総合情報学部紀要 56, 2022

...
プトレマイオスの体系は，理論としては実際には正しくなかったけれども，まさしく目に見える現象――地上から見た惑星の運動――を救うには十分だったわけだ．
...
AI は予測や検出などの能力がきわめて高いという意味で，なるほど非常によく現象を救ってはくれるのだけれども，理論として見ると世界を正しく捉えていない可能性がある．
...
プトレマイオスの体系はやがてその誤りが判明したが，それに対しAI は，そのブラックボックス的側面のせいで，そもそも理論としての正誤を人間に見きわめることは不可能だ．予測に関していえば，正しいからこそ精度が高いのか，それともプトレマイオスの体系のように高精度ではあるものの誤っているのかを明らかすることができないのである．

そしてこの点こそが，AI が従来にない決定的な変容を科学に生じさせる可能性と密接に関わっている．その可能性とは，呉羽真と久木田水生により提出され，また命名された論点である「異質な科学（alien science）」と科学からの人間の「疎外（alienation）」のふたつにほかならない．

　即ち、人間の理解からの著しい逸脱が生じるかもしれない。
　しかし、プトレマイオスの天動説のように、正しくない事が示せれば良いのでは？
　それを示す事自体が困難になるかもしれないから？

オッカムの剃刀とは，科学理論を作るときに不必要に多くの要素を増やしてはならない，という原則のことである．
理論は単純であればあるほど，とりわけ基本法則と前提の数が少なければ少ないほど優れている――こうした単純性や倹約性の理論的な長所について述べたのがオッカムの剃刀という原則であるともいえる．

その背景にあるのは，おそらくひとつには，単純な理論は人間の頭での理解のしやすさにも貢献するという点だと考えられる．


法則や前提，そこに含まれるパラメータなどの要素の数が増えていくと，それに伴って理論の複雑さも増大するため，人間の知的能力を圧倒して容易な理解を許さなくなるのは目に見えている．
しかし，オッカムの剃刀は，AI を活用した科学的探究では必ずしも適当な方法論的原則ではないのかもしれない．

................

しかし，オッカムの剃刀は，AI を活用した科学的探究では必ずしも適当な方法論的原則ではないのかもしれない．
AI を使った科学では，複雑さを縮減することなくそのまま受け入れられると見込まれるのである．

そうなれば，単純性や倹約性と密接に関わる説明上の還元主義も，瀧（瀧雅人「騙される AI」『日経サイエンス』2020年1月号）にいわせれば，その反対の「ホーリズム（holism）」つまり「全体論」に取って代わられる可能性が出てくる．

少数の基本法則に帰着させることなく全体を全体のまま捉えようとするホーリズムが――還元主義のようには人間の頭向きではないけれども――AI を使った科学の趨勢になるのかもしれない，というわけである．
だがそれがもたらすのは，人間がこれまで自分たちの頭向けに築き上げてきた科学理論とは大きく異なる世界認識のあり方なのではないだろうか．
そうした新たな世界認識が人間にも共有できる保証はないし，ましてAI のブラックボックス性を考えれば，そこでの理論がそもそもいかなる構造を備えているのかさえも窺い知ることができないかもしれない．

こうして，呉羽と久木田が論じるように，AI の導入が人間の理解を超えた異質な科学を生み出してしまうのではないか，との懸念が生じるのである（呉羽真・久木田水生「AI と科学的探究」，稲葉振一郎他編『人工知能と人間・社会』，勁草書房，2020年）

................

AI がもたらす科学の技術的応用に関しては，予測と制御という目的はうまく達成されるのだから，ブラックボックス性のせいで理解はできなくとも，とにかく「鵜呑みにしなさい」「結果だけ信じなさい」という態度を人間に植え付けてしまいかねない．
そのとき科学は，呉羽らが述べるように，「よく当たる『お告げoracle』」を下すだけのものになってしまい，それは人間との隔絶にほかならないのではないか，といった疑問が湧いてきても不思議ではない．

人工知能と人間・社会
日経サイエンス2020年1月号(特集:AI 人工知能から人工知性へ/深海生物)