2022年12月31日
人工知能社会実装の場における満足化原理
![]() | Tweet |
![]() |
様々な概念、用語を検討したが、「満足化原理」がおそらく一番適切なのでは...?
探索を中止してしまう。
そういう満足化(妥協、思考停止)をしてしまっている様な人が多そうに見えるので...
現時点でそのように見えるのは例えばChatGPTである。もちろん、ChatGPTが、ではなく、それに触れる人々が、である。
...もっともそれは、ELIZA効果とAI効果のギャップなのかもしれないが、
それは結局、CMCにおいて人は他者を、人間をどのように認知しているのか? に帰結するだけである。
しかし、その満足水準自体が低下してしまっているのでは...? 人間の情報処理能力が低下してしまっているのでは?
あのようなシステムで人間を騙し切る事が可能だろうか?
多分完全には出来ない。
何故か? 肉体を持っていないから。
だから完全に人間である様に振る舞う事は出来ない。
人間があれを道具として使うなら? それはケンタウロス型であり、前提が変わってしまう。
...................
やはりチューリングテストなんかではなく
最低でもウォズニアックテストを突破出来なければいけなのでは?
目標水準を達成する一案を発見した時点で、それ以外の案の探索を中止してそれに満足してしまう。
探索を中止してしまう。
そういう満足化(妥協、思考停止)をしてしまっている様な人が多そうに見えるので...
現時点でそのように見えるのは例えばChatGPTである。もちろん、ChatGPTが、ではなく、それに触れる人々が、である。
...もっともそれは、ELIZA効果とAI効果のギャップなのかもしれないが、
それは結局、CMCにおいて人は他者を、人間をどのように認知しているのか? に帰結するだけである。
しかし、その満足水準自体が低下してしまっているのでは...? 人間の情報処理能力が低下してしまっているのでは?
あのようなシステムで人間を騙し切る事が可能だろうか?
多分完全には出来ない。
何故か? 肉体を持っていないから。
だから完全に人間である様に振る舞う事は出来ない。
人間があれを道具として使うなら? それはケンタウロス型であり、前提が変わってしまう。
...................
やはりチューリングテストなんかではなく
最低でもウォズニアックテストを突破出来なければいけなのでは?
現時点では弱いAIとしてはそれなりに高い性能を出している様に見える。
ではあれがより強いAIに成り得るのか?
AlphaGoは囲碁について思考しているのか? と聞かれれば、おそらく「思考している」とは言えるはず。しかし、それ以外の事が一切出来ないが...
ではChatGPTは人間的な言語処理について十分に理解し、思考しているのか?
おそらく出来ていない。
何故か?
まず第一に、内部的に記憶を持っていないから。
あれは、自身と人間の発話について一切記憶していない。
直前の対話でさえフィードバックしてない
...人間(動物でさえも)直前の記憶ぐらい保持して対応を変えると言うのに、その程度の事さえしていない。
記憶を持っている様な対応は、おそらく、今の仕様のままでも原理的には可能である。
seq2seqの頃から、過去の会話履歴を入力すると言う単純な方法が用いられている。そして、ChatGPTでもその様になっている。
しかし、限界はある。
こんな嘘を強弁して来る物が使い物になると???
...結局、社会実装の場においては
真に価値を提供する事よりも、価値が提供されたと勘違いさせる事こそが必要なのでは...?


ではあれがより強いAIに成り得るのか?
AlphaGoは囲碁について思考しているのか? と聞かれれば、おそらく「思考している」とは言えるはず。しかし、それ以外の事が一切出来ないが...
ではChatGPTは人間的な言語処理について十分に理解し、思考しているのか?
おそらく出来ていない。
何故か?
まず第一に、内部的に記憶を持っていないから。
あれは、自身と人間の発話について一切記憶していない。
直前の対話でさえフィードバックしてない
![]() |
...人間(動物でさえも)直前の記憶ぐらい保持して対応を変えると言うのに、その程度の事さえしていない。
記憶を持っている様な対応は、おそらく、今の仕様のままでも原理的には可能である。
seq2seqの頃から、過去の会話履歴を入力すると言う単純な方法が用いられている。そして、ChatGPTでもその様になっている。
しかし、限界はある。
こんな嘘を強弁して来る物が使い物になると???
![]() |
...結局、社会実装の場においては
真に価値を提供する事よりも、価値が提供されたと勘違いさせる事こそが必要なのでは...?