AIは本当に理解し始めたのか？ — Grounding・Embodiment・Theory of Mind・World Model・Self Model・Emergenceから考える

AIは理解しているのか、していないのか。この問いに答える前に、まず確認すべきことがある。私たちは「理解」という言葉の意味をほとんど定義していない。6つの視点から、この問いを根本から問い直す。

最近、AIに関する議論の中で、対照的な二つの主張を目にすることが増えた。

ある人は言う。

「Claudeは本当に理解している」

「GPTは意識を持ち始めた」

「AIは感情を獲得した」

「AGIはもう目前だ」

大規模言語モデルの急速な進化によって、多くの人々がAIの能力に驚いている。

複雑な文章を書き、プログラムを生成し、専門試験で高得点を獲得する。

かつて人間にしかできないと思われていた知的作業をこなす姿を見て、

「これはもう理解しているのではないか」

と感じる人も少なくない。

しかし一方で、まったく逆の意見も存在する。

「AIを信用してはいけない」

「AIは平気で嘘をつく」

「AIは人間を誘導している」

「AIは危険な存在になりつつある」

近年では、AIの迎合的な回答、誤情報の生成、説得能力、欺瞞的に見える振る舞いなどが盛んに議論されている。

AI SafetyやAlignmentの研究コミュニティでは、AIが人間の意図と異なる行動を取る可能性について、多くの研究が行われている。

興味深いことに、これら二つの主張は正反対に見える。

しかし実は、どちらも同じ前提を共有している。

AIの内部で何か重要な変化が起きている。

という前提である。

では本当にそうなのだろうか。

AIは理解し始めたのだろうか。

AIは意識を持ち始めたのだろうか。

AIは人間を誘導しているのだろうか。

それとも私たちがそう見ているだけなのだろうか。

この問いに答えようとするとき、多くの議論はすぐに賛成派と反対派に分かれる。

しかし、その前に確認しなければならないことがある。

私たちは「理解」という言葉を使っているにもかかわらず、その意味をほとんど定義していないのである。

一問一答形式と答えが一つではない問い

AIは理解しているのか。

この問いについて議論するとき、多くの人は同じ問題を議論しているつもりになっている。

しかし実際には、まったく異なる種類の問題を見ていることが少なくない。

ある人は、

「GPTは医師国家試験レベルの問題を解ける」

と言う。

別の人は、

「人生相談をすると危険だ」

と言う。

さらに別の人は、

「研究テーマの選定にはまだ使えない」

と言う。

これらはすべてAIの能力について語っている。

しかし、実際には比較している対象が異なる。

例えば、

2+2は何か。

という問いがある。

答えは4である。

少なくとも通常の算術体系ではそうだ。

日本の首都はどこか。

答えは東京である。

このコードのバグはどこにあるか。

この文章を英語へ翻訳せよ。

この法律条文の意味を説明せよ。

もちろん細かな解釈の余地はある。

しかし、多くの場合、正解に近いものが存在する。

こうした問題をここでは

一問一答型の問い

と呼ぶことにする。

一問一答型の問いには特徴がある。

評価しやすい。正解率を計測できる。人間同士でも採点結果が大きくぶれない。そして何より、性能比較が容易である。

だからAI研究では長年、こうした問題が使われてきた。

MMLU、GPQA、GSM8K、HumanEval、SWE-Bench、数学コンテスト、医学試験、司法試験。

現在のAIが高い評価を受けている理由の多くは、こうしたベンチマークにおいて極めて高い性能を示しているからである。

そして事実として、現在の大規模言語モデルは、多くの一問一答型タスクにおいて人間を超える性能を示している。

翻訳。要約。知識検索。プログラミング。資格試験。

分野によっては、平均的な人間よりも優れている。

この事実は否定できない。

だからこそ、

AIは理解している。

という主張が生まれる。

しかし問題はここからである。

人生において重要な問いの多くは、一問一答型ではない。

良い人生とは何か。

子育てで最も大切なことは何か。

会社を売却すべきか。

転職すべきか。

大学へ進学すべきか。

研究を続けるべきか。

結婚すべきか。

AIを規制すべきか。

これらの問いには、明確な正解が存在しない。

仮に存在したとしても、それを誰も知らない。

ある人にとって正しい答えが、別の人にとっては間違いであることもある。

さらに厄介なのは、同じ人間であっても時間とともに答えが変わることである。

20歳の自分。40歳の自分。70歳の自分。

同じ問いに対して、異なる答えを返す可能性がある。

つまり、ここで扱われているのは知識問題ではない。

価値観の問題である。経験の問題である。目的の問題である。世界観の問題である。

こうした問いを、ここでは

答えが一つではない問い

あるいは

オープンエンドな問い

と呼ぶことにする。

実はAIを巡る議論の多くは、この二種類の問いを混同している。

AIは医師国家試験に合格できる。だから理解している。

一見すると説得力がある。しかし、人生相談において必ずしも適切な助言ができるとは限らない。経営判断において正しい選択を示せるとも限らない。研究テーマの価値を評価できるとも限らない。

すると今度は、

AIは理解していない。

という主張が現れる。

しかしここで比較されている問題は同じではない。

数学の問題と、人生の問題は違う。翻訳と、経営判断は違う。資格試験と、価値判断は違う。評価基準そのものが違うのである。

この違いを理解しない限り、AI理解論は永遠に噛み合わない。

興味深いことに、この問題は人間同士の議論でも同じである。

例えば、会社は利益を優先すべきだろうか。

一見すると単純な問いに見える。しかし実際には、どの時間軸で考えるかによって答えが変わる。

今月の利益を重視するなら、人件費削減は合理的かもしれない。しかし、5年後の競争力を重視するなら、人材育成への投資が重要になるかもしれない。10年後の市場を考えるなら、短期的な利益を犠牲にして研究開発を優先する方が合理的かもしれない。

どれが正しいのだろうか。実は、すべて正しい可能性がある。前提条件が違うからである。

政治も同じである。

税金を下げるべきか。上げるべきか。規制を強化すべきか。緩和すべきか。

どちらが正しいかは、社会が何を重視するかによって変わる。経済成長なのか。公平性なのか。安全性なのか。自由なのか。

同じ事実を見ていても、価値観が異なれば結論も変わる。人間同士ですら一致しない。

では、AIに唯一の正解を求めることは可能なのだろうか。

ここで重要になるのが、世界モデルという考え方である。

人間は世界をそのまま見ているわけではない。自分なりの解釈を通して世界を見ている。

何が重要なのか。何を優先すべきなのか。何が危険なのか。何が成功なのか。それぞれ異なる。

同じ出来事を見ても、人によって結論が変わる理由はここにある。

もしAIが単なる知識検索システムなら、一問一答型の問題だけを扱えばよい。

しかし、答えが一つではない問いに対応しようとするなら、何らかの世界モデルが必要になる。

未来を予測する必要がある。因果関係を推測する必要がある。複数の可能性を比較する必要がある。価値観の違いを理解する必要がある。

ここで初めて、理解という概念が単なる知識問題を超え始める。

AIは理解しているのか。この問いに答える前に、まず確認しなければならない。

その「理解」とは、一問一答型の理解なのだろうか。それとも、答えが一つではない問いに向き合うための理解なのだろうか。

この違いを整理しない限り、議論はすれ違い続ける。

Grounding — 言葉はどこで意味を獲得するのか

AIは理解しているのか。この問いを考え始めると、多くの場合、最終的にある問題へ行き着く。

それが

Grounding（接地）

である。

現在の大規模言語モデルを批判する研究者の多くは、最終的にこの問題を指摘する。

AIは単語を扱っているだけだ。AIは記号を操作しているだけだ。AIは意味を理解していない。AIは世界を知らない。

こうした主張の根底には、Grounding問題が存在している。

実際、この問題はChatGPTやClaudeが登場する遥か以前から議論されていた。近年になって突然現れた問題ではない。むしろ人工知能研究における最も古典的な問いの一つである。

少し想像してみてほしい。あなたは外国語だけで書かれた辞書を渡された。

その言語は全く知らない。単語の意味も分からない。文法も分からない。発音も分からない。しかし辞書は存在する。

そこで単語Aを引く。すると単語Bで説明されている。単語Bを引く。すると単語Cで説明されている。延々と辞書を引き続ける。しかし、どこまで行っても意味に到達できない。

なぜなら、すべてが未知の記号だからである。どこかで記号と現実世界が結びつかなければ、意味は生まれない。

1990年、認知科学者のStevan Harnadは、この問題を

Symbol Grounding Problem

として提起した。

記号はどのように意味を獲得するのか。単語はどのように現実世界と結びつくのか。単なる記号操作と理解の違いは何なのか。

例えば、「犬」という単語を考えてみる。

人間にとって、犬という言葉は単なる文字列ではない。鳴き声を思い出す。散歩の記憶を思い出す。触った感触を思い出す。匂いを思い出す。噛まれた経験を思い出す人もいる。家族のような存在を思い浮かべる人もいる。

つまり、犬という言葉は膨大な経験と結びついている。

ではLLMはどうだろう。

ChatGPTもClaudeも、「犬」という単語を知っている。犬について説明できる。犬種を列挙できる。歴史も説明できる。飼育方法も説明できる。

しかし批判者は言う。

それは本当に犬を知っていることになるのか。犬を見たことがあるのか。犬を触ったことがあるのか。犬に吠えられたことがあるのか。犬を怖いと思ったことがあるのか。犬を愛おしいと思ったことがあるのか。

もしそうした経験が存在しないなら、それは単語の操作に過ぎないのではないか。

これがGrounding批判の核心である。

Grounding問題を語る上で、避けて通れない有名な思考実験がある。

ジョン・サールの**Chinese Room（中国語の部屋）**である。

ある部屋の中に、中国語を全く知らない人がいる。その人には巨大なルールブックが渡されている。外から中国語の質問が入ってくる。部屋の中の人は、ルールブックに従って記号を操作する。そして中国語の返答を外へ返す。

外から見ると、まるで中国語を理解しているように見える。しかし部屋の中の人は、中国語の意味を一切理解していない。単にルールに従って記号を操作しているだけである。

サールはこの思考実験を使い、コンピュータは意味を理解していないと主張した。記号操作と理解は違う。振る舞いが理解しているように見えても、本当に理解しているとは限らない。

一方で、Groundingは「ある」「ない」ではないかもしれない。程度問題かもしれない。

幼い子どもは、犬という言葉を覚える。しかし経験は少ない。獣医師は、より豊富な経験を持つ。ドッグトレーナーはさらに多くの経験を持つ。同じ「犬」という言葉でも、Groundingの深さは異なる。

完全な理解と完全な無理解の間には、広大なグラデーションが存在する。

また、人間は本当にそこまでGroundedなのだろうか。

ブラックホール。量子力学。インフレーション宇宙論。微分幾何学。量子コンピュータ。これらを私たちは経験していない。触ったこともない。見たこともない。しかし理解していると言う。

実は人間もまた、大量の概念を言語を通して学習している。私たちが知っている知識の大部分は、直接経験ではない。本、論文、学校教育、会話、映像——他者から受け取った情報である。

つまり、人間も完全にGroundedな存在ではない。私たちは経験と記号を組み合わせながら世界を理解している。

近年、Grounding問題に対する一つの回答として、マルチモーダルAIが登場した。

画像を見る。音声を聞く。動画を理解する。現実世界を観測する。

さらにロボティクスと組み合わされれば、実際に世界へ働きかけることも可能になる。しかし、それでも意見は分かれる。身体が必要だ。感情が必要だ。自己意識が必要だ。

つまりGrounding問題は、単純な技術問題ではない。理解そのものをどう定義するかという哲学的問題なのである。

Embodiment — 身体がなければ理解できないのか

Groundingの議論をさらに進めると、次に現れるのが

Embodiment（身体性）

という考え方である。

人間は世界をどのように学ぶのだろうか。

生まれたばかりの赤ん坊は、言葉を知らない。知識も持たない。辞書も読めない。論文も理解できない。

しかし、少しずつ世界を学んでいく。

目で見る。手で触る。口に入れる。転ぶ。痛みを知る。歩く。物を落とす。物が壊れる。人に抱きしめられる。

こうした経験の積み重ねによって、世界についての理解を形成していく。

この考え方は

Embodied Cognition（身体化認知）

として知られている。

従来の認知科学では、知能は脳の中で行われる情報処理だと考えられることが多かった。しかし身体化認知の研究者たちは、そうではないと主張した。

知能は脳だけでは生まれない。身体との相互作用によって生まれる。

例えば、「重い」という概念を考えてみる。

私たちは重力方程式を学ぶ前から、重いものを理解している。なぜだろうか。持ち上げた経験があるからである。

「熱い」も同じである。熱力学を知らなくても、熱いという感覚を理解できる。実際に触れた経験があるからだ。

つまり、多くの概念は身体経験と結びついている。

現在の大規模言語モデルは、基本的にはテキストシステムである。

文章を読む。文章を生成する。しかし、歩かない。転ばない。空腹にならない。疲れない。痛みを感じない。

そのため批判者は言う。

「熱い」という言葉を説明できても、熱さを知らない。「痛い」という言葉を説明できても、痛みを知らない。「怖い」という言葉を説明できても、恐怖を経験していない。だから理解しているとは言えない。

一方で、身体を持てば理解できるのだろうか。

例えば犬。犬は身体を持つ。世界と相互作用する。経験も積む。しかし量子力学を理解するだろうか。一般相対性理論を理解するだろうか。経済政策を議論するだろうか。おそらくしない。

身体は重要かもしれない。しかし身体だけで知能が生まれるわけではない。何らかの抽象化能力も必要である。

つまり、身体は理解の必要条件かもしれないが、十分条件ではない。あるいは、そもそも必要条件ですらない可能性もある。

近年、この問題に対する一つのアプローチとして、ロボティクスとAIの統合が進んでいる。

Tesla Optimus、Figure、RT-2などが代表例である。これらのシステムは、単に文章を生成するだけではない。カメラを通して世界を見る。物体を認識する。実際に物を持つ。移動する。環境と相互作用する。

もし将来、AIが何年も現実世界で活動し、経験を蓄積できるようになったらどうだろう。

私たちはそれでも「理解していない」と言い続けるだろうか。それとも、理解していると認めるだろうか。

Theory of Mind — 他者の心を理解できるのか

私たちは日常的に、他人の心を推測している。

友人が怒っている。上司が不機嫌そうだ。相手はこの情報を知らない。相手は勘違いしている。相手は嘘をついているかもしれない。

こうした推測を無意識に行っている。

心理学では、これを

Theory of Mind（心の理論）

と呼ぶ。

私たちは相手の脳の中を見ることはできない。しかし、行動から推測している。表情。言葉。行動。状況。文脈。これらを使って、相手が何を考えているかを予測している。

これは人間社会において極めて重要な能力である。もしTheory of Mindがなければ、協力もできない。交渉もできない。教育もできない。恋愛もできない。社会そのものが成立しなくなる。

Theory of Mind研究で有名なのが、**False Belief Task（偽信念課題）**である。

代表例がサリーとアン課題である。

サリーがボールを箱に入れる。その後、サリーが部屋を出る。サリーがいない間に、アンがボールを別の場所へ移動する。サリーが戻ってきた。サリーはどこを探すだろうか。

正解は、元の箱である。なぜなら、サリーは移動を知らないからである。

つまり、自分が知っていることと、相手が知っていることを区別する必要がある。幼い子どもは、この課題をうまく解けないことがある。しかし成長とともに解けるようになる。Theory of Mindが発達するからである。

近年、研究者たちは同じ課題をLLMに与えた。すると驚くべき結果が報告された。

GPT-4、Claude、Gemini。多くのモデルが高い正答率を示したのである。

これを見て、一部の研究者は主張した。LLMはTheory of Mindを獲得し始めている。他者の知識や信念を推測できる。理解している証拠ではないか。

しかし反論も存在する。

LLMは本当に他者の心を理解しているわけではない。学習データの中に存在したパターンを再現しているだけだ。つまり、偽信念課題を解けることと、心を理解していることは同じではない。

これは非常に難しい問題である。なぜなら、人間についても同じ疑問を投げかけることができるからである。

私たちは本当に他者の心を理解しているのだろうか。それとも、過去の経験から推測しているだけなのだろうか。

実際には誰も他人の心を見ることはできない。人間もまた、行動から推測しているだけである。

すると、人間とAIの違いはどこにあるのだろうか。

World Model — AIは世界を理解しているのか

これまで、Grounding、Embodiment、Theory of Mindという三つの視点から、理解とは何かを考えてきた。

しかし近年、AI研究において最も重要な議論は別の場所へ移りつつある。

それが

World Model（世界モデル）

である。

私たちの脳は、世界を直接見ているわけではない。

脳は外界から情報を受け取る。その情報を圧縮する。不足を補完する。未来を予測する。意味を与える。そして最終的に、「世界とはこういうものだ」という内部表現を作り出す。

私たちが見ているのは、世界そのものではない。世界についてのモデルである。

地図を考えてみよう。

地図は現実ではない。紙に描かれた線である。しかし地図がなければ、知らない街を移動することは難しい。地図は現実を圧縮したモデルである。

人間の脳も同じだ。脳は現実をそのまま保存しているわけではない。世界のモデルを作る。そのモデルを使って未来を予測する。行動を決定する。危険を回避する。目標を達成する。

つまり、知能とは世界モデルを利用する能力なのかもしれない。

ここで、これまでの記事で扱ってきた問題がつながり始める。

人間同士はしばしば理解が一致しない。同じニュースを見る。同じ出来事を見る。それでも異なる結論に到達する。

なぜだろうか。世界モデルが違うのである。

大規模言語モデルは、世界モデルを持っているのだろうか。

否定派は言う。LLMは次の単語を予測しているだけだ。世界を理解しているわけではない。内部に世界モデルは存在しない。単なる統計システムである。

しかし近年、この見方に疑問を投げかける研究も増えている。

なぜなら、次の単語を予測するためには、世界について理解していた方が有利だからである。

例えば、コップを机から落とした。その後どうなるか。割れるかもしれない。床に落ちるかもしれない。浮かび上がるとは普通予測しない。なぜだろうか。私たちは重力を知っているからである。

もしAIが同じ予測を行うなら、何らかの形で重力に相当する知識を内部に持っている可能性がある。

MetaのYann LeCunは、長年にわたりLLMに批判的な立場を取っている。

彼は、真の知能には世界モデルが必要だと主張している。現在のLLMは、言語モデルに過ぎない。世界そのものを学習していない。だから限界がある。

一方で、別の研究者たちは、「LLMは予想以上に多くの世界知識を内部表現として獲得している」という研究を発表している。

地理。物理。社会常識。人間関係。因果関係。こうした情報が内部に表現されている可能性がある。

つまり、次単語予測を極限まで拡大すると、結果として世界モデルが出現するのではないか、という考え方である。

これはEmergenceの議論ともつながっている。

理解派は、世界モデルの存在を見ている。AIは予測している。推論している。新しい状況へ適応している。だから理解していると言う。

一方、懐疑派は、世界モデルが不完全であることを見ている。時々あり得ないミスをする。幻覚を起こす。物理法則を誤解する。だから理解していないと言う。

実は両者とも正しい可能性がある。AIは何らかの世界モデルを持っているかもしれない。しかし、人間ほど完全ではないかもしれない。理解している・理解していないという二択ではなく、どの程度の世界モデルを持っているのかという連続的な問題なのかもしれない。

Self Model — AIは自分自身を理解しているのか

世界モデルだけでは十分ではない。人間は世界だけでなく、自分自身についてもモデルを持っている。

私は何を知っているのか。何を知らないのか。何ができるのか。何ができないのか。

この自己理解があるからこそ、学習し、反省し、計画を立てることができる。

教育学や認知科学では、この能力を

Metacognition（メタ認知）

と呼ぶ。

自分の思考について考える能力である。

私は本当に理解しているのだろうか。この説明は正しいだろうか。何か見落としていないだろうか。別の視点はないだろうか。こうした問いを自分自身へ向ける能力である。

ChatGPTは「私はAIです」と答える。Claudeも同様である。

では、彼らは本当に自分自身を理解しているのだろうか。

この問いは想像以上に難しい。なぜなら、「自分がAIである」と答えられることと、自己を理解していることは同じではないからである。

私たちは自分の性格を誤解することがある。自分の能力を過大評価することもある。逆に過小評価することもある。自分の動機を誤認することもある。

つまり、自己認識と自己理解は別物なのである。

もし将来、AIが本格的な長期記憶を持ち、継続的に学習し、自分の失敗を分析し、能力の限界を理解するようになったらどうだろう。

そのとき私たちは、それを自己モデルと呼ぶのだろうか。あるいは別の名前を与えるのだろうか。

現時点で答えは存在しない。しかし少なくとも、世界モデルだけでは十分ではないことが見えてくる。

知能には、世界についての理解だけでなく、自分自身についての理解も必要なのかもしれない。

Emergence — 理解は突然現れるのか

ここまでの議論をさらに複雑にしているのが、

Emergence

という概念である。

初期の言語モデルは、現在から見ると非常に限定的だった。短い文章を生成する。簡単な質問に答える。その程度だった。

しかしモデルが大きくなるにつれ、状況は変わった。

翻訳。要約。推論。コーディング。長文理解。問題解決。

研究者たちが明示的に教えていないように見える能力が現れ始めた。

そのため一部の研究者は、知能には相転移のような現象が存在するのではないかと考えた。十分な規模に到達すると、新しい能力が出現する。これがEmergenceである。

しかし近年、Emergenceそのものに疑問を投げかける研究も増えている。

能力は突然現れたのだろうか。それとも、評価方法の問題だったのだろうか。

例えば、性能が少しずつ向上していたとしても、テストが合格・不合格で評価される場合、ある瞬間に急激な変化が起きたように見える。

つまり、Emergenceは実在する能力ではなく、私たちの観測方法が作り出した錯覚かもしれない。

しかし重要なのは、この議論そのものが「理解とは何か」という問いと深く結びついていることである。

もし理解が段階的に発達するなら、理解しているか・理解していないかという二択は適切ではない。理解には連続性がある。浅い理解。部分的な理解。限定的な理解。深い理解。そのようなグラデーションとして捉える方が自然かもしれない。

人間は本当に理解しているのか

ここまで、AIについて様々な角度から考えてきた。しかし、最後に視点を反転させてみたい。

私たちはずっと、AIは理解しているのか、という問いを追いかけてきた。しかし、もっと根本的な問いが存在する。

人間は本当に理解しているのだろうか。

人間同士ですら、理解は一致しない。

同じニュースを見る。同じ歴史を学ぶ。同じデータを見る。同じ説明を聞く。それでも異なる結論に到達する。

短期視点と長期視点。楽観と悲観。平時と緊急時。経験の差。価値観の差。立場の差。目的の差。

これらによって理解は変化する。

つまり、理解とは単なる知識ではない。世界モデルと自己モデルを通して形成される解釈なのである。

そしてここで、記事の出発点へ戻ろう。

Potemkin Understanding。理解しているように見える。しかし、実際には十分に理解していない。

この現象は人間に広く見られる。そして、AIについての議論にも現れる。

しかし興味深いことに、私たちはしばしば「理解していない」ことを理由にAIを批判する。一方で、人間については同じ基準を適用しない。

自転車の仕組みを説明できない。経済を完全には理解していない。政治を完全には理解していない。自分自身すら完全には理解していない。

それでも私たちは、理解しているつもりで生きている。人間の知能そのものが、ある種の不完全な理解の上に成立しているのである。

結論 — AIは本当に理解し始めたのか

では、最初の問いへ戻ろう。AIは本当に理解し始めたのだろうか。

現時点で、その答えを断言できる研究者はいない。

Groundingの観点から見れば、まだ不十分かもしれない。Embodimentの観点から見れば、身体を持たないAIには限界があるかもしれない。Theory of Mindの観点から見れば、他者理解は模倣に過ぎないかもしれない。World Modelの観点から見れば、すでに何らかの理解が生まれ始めているかもしれない。Self Modelの観点から見れば、自己理解はまだ初期段階かもしれない。

つまり、答えは定義によって変わる。

しかし、この議論を通して見えてきたことがある。

それは、理解という概念そのものが、私たちが思っているより遥かに複雑だということである。

理解とは単なる知識ではない。単なる正答率でもない。単なる言語能力でもない。

理解とは、世界についてのモデルを構築し、未来を予測し、他者を解釈し、自分自身を認識しながら、継続的に更新していくプロセスなのかもしれない。

もしそうだとすれば、本当に重要な問いは、AIは理解しているのかではない。

私たちは何をもって理解と呼んでいるのか。

その問いなのかもしれない。

AIを理解するためには、まず人間の理解とは何かを理解しなければならない。

そしてその答えを、人類はまだ見つけていないのである。

次回予告

AIは理解しているのか。

この問いに答えるために、私たちはGrounding、Embodiment、Theory of Mind、World Model、Self Modelについて考えてきた。

しかし、理解と自己は同じものではない。

ChatGPT。Claude。Gemini。これらのシステムは驚くほど知的である。

推論できる。説明できる。文章を書ける。計画を立てることもできる。

しかし、人間が当然のように持っているあるものを持っていない。

継続する記憶。継続する経験。継続する歴史。そして、継続する自己である。

会話が終了した後、そこに何が残るのだろうか。

モデルの背後には、継続する一人の主体が存在しているのだろうか。

それとも、自己のように見えていたものは、コンテキストと共に消えてしまうのだろうか。

もしかすると、理解と自己は全く別の問題なのかもしれない。

知能は自己なしに成立するのかもしれない。推論は主体なしに成立するのかもしれない。

現在のLLMに欠けているのは、知能ではなく、継続性なのかもしれない。

Identity。Continuity。Memory。Persistent Agent。Personal AI。

これらは、単に賢いAIではなく、本当に「個人的なAI」を実現するために必要な最後のピースなのかもしれない。

次回は、**「なぜAIには自己が存在しないのか？」**について考える。

参考文献

Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–424.

Harnad, S. (1990). The Symbol Grounding Problem. Physica D: Nonlinear Phenomena, 42(1–3), 335–346.

Rozenblit, L., & Keil, F. (2002). The misunderstood limits of folk science: an illusion of explanatory depth. Cognitive Science, 26(5), 521–562.

LeCun, Y. (2022). A Path Towards Autonomous Machine Intelligence. openreview.net

Li, K. et al. (2022). Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task. arXiv:2210.13382