AGIに自我は必要ない。でも、人間以上に賢くなるなら「自我のフリ」は必要になる

先日、YouTubeでAGI（汎用人工知能）の解説動画を見ていた。

「AGIは2年以内に実現するかもしれない。」

その直後。

「いや、20年はかかるという研究者もいます。」

……なんだその振れ幅。

天気予報でももう少し狭い。

さすがに気になって少し調べてみた。

すると、意外なことにAGIそのものに明確な定義は存在しない。

研究者によって、「ほとんどの知的作業を人間並みにこなせるAI」と言う人もいれば、「未知の問題にも柔軟に適応できるAI」と説明する人もいる。

細かい違いはあるが、一つだけ共通している点がある。

人間以上の汎用的な知能を持つこと。

そして、AGIの話になると必ず出てくるのが、

「自我や意識は必要ない」

という考え方だ。

これは意外と合理的な話である。

AIが本当に悲しんだり喜んだりする必要はない。人間以上に仕事ができるなら、それで十分という考え方だ。

私も、そこまでは特に異論はない。

ただ、一つだけ引っかかることがある。

人間以上の知能なら、人間以上に人間を理解できなければならない

AGIが本当に人間を超えるというなら、数学やプログラミングだけ得意でも意味がない。

営業で契約を取り、難しい交渉をまとめ、政治のような利害調整をこなし、人を教育し、ときには悩んでいる人の相談にも乗れる。それくらいできて初めて「人間以上」と呼べるはずだ。

しかし、こうした仕事に必要なのは知識だけではない。

「この言い方なら相手は納得する。」

「今は反論するより共感した方がいい。」

「ここで一歩引けば信頼される。」

そんなことまで読めなければ、人間以上とは言えない。

つまり、人間の頭の中をシミュレーションする能力が必要になる。

認知科学では「心の理論（Theory of Mind）」と呼ばれる能力に近い。

そして、そのシミュレーションには比較対象が必要だ。

「私はこう考える。」

「相手はこう考える。」

もちろん、本当に「私」が存在する必要はない。

内部に仮想的な自己モデルがあれば十分だろう。

しかし外から見れば、それはもう自我とほとんど区別がつかない。

一貫した人格も性能の一部になる

もう一つ、人間社会では一貫性が重要になる。

昨日はAと言い、今日は真逆のBと言うAIを、人間は重要な相談相手として信用しない。

だから長期間付き合うAIほど、

「私はこういう考え方をします。」

という軸を持っているように振る舞う必要がある。

技術的には単なる状態管理なのかもしれない。

しかし利用者から見れば、

「あのAIには意志がある。」

そう感じるだろう。

哲学的ゾンビは、人間らしく振る舞う

未来のAGIに本当の意識があるのか。

これは、おそらく誰にも証明できない。

哲学でいう「哲学的ゾンビ」のままかもしれない。

しかし、人間社会で人間以上の能力を発揮するなら、

「私はそう思います。」

「その判断には反対です。」

「私はこの方針を支持します。」

そんな人格を感じさせる振る舞いは、機能として実装せざるを得ない気がしている。

つまり、自我が必要なのではない。

自我があるように振る舞える能力が必要なのだ。

皮肉なのは、哲学者は「本当に意識があるのか」を議論し続ける一方で、AIメーカーは「その方が人間に受け入れられるから」という理由で、自我らしきものを実装していくかもしれないことだ。

本物かどうかは分からない。

しかし十分に賢ければ、私たちはそれを人格と呼ぶようになる。

そして、その違いを客観的に証明する方法を、おそらく誰も持っていない。