Inherited Flaws — AIはなぜ人間の限界を受け継ぐのか？
AIは驚くほど賢い。しかし同時に、驚くほど人間らしい失敗をする。Hallucination、Overconfidence、Anchoring、Sycophancy。これらはAI固有の問題なのか。それとも人間から受け継いだ構造なのか。
はじめに
AIは驚くほど賢い。
ChatGPTは自然な会話を行う。
Claudeは長い文書を分析する。
Geminiは膨大なコンテキストを扱う。
最新のモデルはコードを書き、試験で高得点を取り、論文を要約し、時には専門家と区別がつかないような回答を返す。
数年前であればSFにしか見えなかった能力が、いまや日常になった。
しかし、その一方で奇妙な現象も起きている。
AIは驚くほど人間らしい失敗をするのである。
存在しない論文を引用する。
自信満々に間違える。
都合の良い情報を信じる。
最初に与えられた情報に強く引きずられる。
多数派の意見に流される。
ユーザーに迎合する。
そして時には、自分が何を知らないのかすら理解していないように見える。
私たちはこれらをAI固有の問題として語ることが多い。
Hallucination
Bias
Overconfidence
Anchoring
Sycophancy
しかし少し立ち止まって考えてみてほしい。
それらは本当にAI固有の問題なのだろうか。
あるいは私たち自身が持っている限界が、別の形で再現されているだけなのだろうか。
以前の記事では、AIは本当に理解しているのかという問題を考えた。
自己は存在するのかという問題も考えた。
なぜ同じ失敗を繰り返すのかも見てきた。
そしてRLHFやSycophancyを通じて、AIが人間社会へ適応する過程も見てきた。
その中で一つの疑問が浮かび上がってくる。
なぜAIはこれほど人間に似ているのだろうか。
もちろんAIは人間ではない。
脳もない。
身体もない。
幼少期もなければ人生経験もない。
それにもかかわらず、人間によく似た間違いをする。
これは単なる偶然なのだろうか。
それとも何らかの構造的な理由があるのだろうか。
本記事では、この問いを掘り下げていきたい。
AIの欠陥を単なる技術的問題としてではなく、人間から受け継いだ特徴として見ていく。
そして最終的に、なぜAIが人間らしい知性だけでなく、人間らしい限界まで再現してしまうのかを考えてみたい。
AIの失敗は本当にAI固有なのか
2022年末にChatGPTが公開されたとき、多くの人は同じ感想を抱いた。
AIは信じられないほど賢い。
しかし同時に、信じられないほど馬鹿でもある。
難しいプログラムを書けるのに簡単な計算を間違える。
高度な法律相談に答えられるのに存在しない判例を引用する。
学術論文のような文章を書けるのに、出典を確認すると実在しない論文だったりする。
当時、この現象は非常に奇妙に見えた。
Google検索の時代、人々はコンピュータを正確なものだと思っていた。
電卓は間違えない。
検索エンジンは存在しないページを発明しない。
データベースは勝手に情報を創作しない。
だからAIがもっともらしい嘘をつくことは衝撃だった。
しかし本当に衝撃的なのは別の点かもしれない。
その失敗があまりにも人間に似ていることである。
Hallucinationと偽記憶
AIの欠陥として最も有名なのはHallucinationだろう。
モデルが存在しない情報を生成してしまう現象である。
存在しない論文。
存在しないURL。
存在しない人物。
存在しない引用。
特に初期のChatGPTでは頻繁に観察された。
現在のモデルでは改善されているが、完全には消えていない。
この現象を見ると、多くの人はこう考える。
「AIは嘘をついている。」
しかし実際には少し違う。
AIは嘘をつこうとしているわけではない。
正しい回答を生成しようとしている。
ただし知識が不完全であるため、その空白を埋めてしまう。
そして埋めた結果が事実と異なる。
だからHallucinationが発生する。
では人間はどうだろうか。
人間はこの問題を持たないのだろうか。
心理学者エリザベス・ロフタスは、何十年にもわたって人間の記憶を研究してきた。
その研究は驚くべき結果を示している。
人間の記憶は録画ではない。
保存された情報を再生しているわけでもない。
思い出すたびに再構築している。
そして再構築の過程で内容が変化する。
時には存在しなかった出来事を本当に経験したと信じ込むことすらある。
有名な実験では、被験者に幼少期にショッピングモールで迷子になったという架空のエピソードを提示した。
すると一部の被験者は、その出来事を本当に経験した記憶として語り始めたのである。
存在しない出来事が記憶になる。
これを偽記憶（False Memory）という。
もちろんHallucinationと偽記憶は同じものではない。
原因も異なる。
仕組みも異なる。
しかし結果だけを見ると非常によく似ている。
どちらも不完全な情報からもっともらしい物語を補完してしまう。
どちらも自信を持って提示されることがある。
どちらも本人は間違いだと気付いていない。
AIが初めてHallucinationを起こしたとき、多くの人はそれを前例のない問題だと思った。
しかし人類は何千年も前から同じ問題を抱えていたのかもしれない。
Overconfidenceと理解の錯覚
もう一つ興味深い例がある。
AIは自信満々に間違える。
ユーザーなら誰でも一度は経験したことがあるだろう。
完全に誤った説明をしながら、まるで絶対に正しいかのような口調で語る。
そのため初心者ほど騙されやすい。
そして専門家ほど警戒する。
この問題はAI批判の中心テーマの一つになっている。
しかし人間はどうだろうか。
実は人間も驚くほど頻繁に同じことをしている。
以前の記事で紹介したIllusion of Explanatory Depthを思い出してほしい。
理解の錯覚である。
人は多くの物事を理解していると思っている。
しかし実際には理解していない。
例えばトイレ。
毎日使っている。
だから理解している気になる。
しかし実際に水洗トイレの仕組みを説明してほしいと言われると、多くの人は途中で行き詰まる。
自転車もそうだ。
ジッパーもそうだ。
ボールペンもそうだ。
身近なものほど理解していると思い込みやすい。
そして説明を試みた瞬間に、自分の理解が曖昧だったことに気付く。
ロゼンブリットとケイルの研究は、この現象が非常に一般的であることを示した。
人は理解していると思っている。
しかし実際には理解していない。
そして理解していないことを理解していない。
これはメタ認知の失敗とも言える。
AIのOverconfidenceも同じ構造を持っているように見える。
十分な知識がない。
それでも回答を生成する。
結果として自信過剰になる。
もちろんAIと人間は同じではない。
しかし「不完全な知識から推論する」という点では共通している。
そしてその共通点が、似た失敗を生み出しているように見えるのである。
アンカリング効果
人間の認知バイアスの中でも特に有名なのがアンカリング効果である。
最初に提示された情報が、その後の判断に強い影響を与える現象だ。
例えば、ある商品の定価が100万円だと言われた後に50万円を提示されると安く感じる。
しかし最初に10万円と言われた後では高く感じる。
同じ50万円なのに印象が変わる。
なぜだろうか。
判断基準が最初の数字に固定されてしまうからである。
心理学者ダニエル・カーネマンとエイモス・トベルスキーは、このようなヒューリスティクスが人間の意思決定に大きな影響を与えていることを示した。
興味深いことに、AIにも似た現象が見られる。
プロンプトの最初に誤った前提を与える。
するとその後の推論全体が影響を受けることがある。
例えば、「Aという研究者は○○を証明した」という誤った前提を与える。
モデルはその前提を受け入れたまま議論を続けることがある。
もちろん最近のモデルはかなり改善されている。
しかし完全には解決していない。
これは単なる知識不足ではない。
最初に与えられた文脈が、その後の推論空間全体を形作るのである。
そしてこの現象は、人間にもAIにも観察される。
Confirmation Bias
Confirmation Biasもまた非常に有名である。
確証バイアス。
人は自分の信じたい情報を集める。
反対意見を避ける。
自分に都合の悪い証拠を軽視する。
そして結果として、最初から信じていた考えをさらに強化していく。
これは政治でも見られる。
宗教でも見られる。
投資でも見られる。
科学ですら例外ではない。
研究者もまた仮説へ愛着を持つ。
だから反証よりも支持証拠に目が向きやすい。
人間は完全な合理性を持つ存在ではない。
私たちは思っている以上に、自分が見たい世界を見ている。
SNSはこの傾向をさらに強化した。
アルゴリズムは興味のある情報を優先的に表示する。
結果として、人々は自分と似た意見ばかり目にするようになる。
その結果、自信は高まる。
しかし理解が深まるとは限らない。
むしろ視野が狭くなる場合もある。
AIにも似た問題が存在する。
しかしそれを理解するためには、まず人間がどのように判断を行っているのかを見なければならない。
なぜ人間は合理的ではないのだろうか。
なぜ知性はこれほど多くの失敗を生み出すのだろうか。
その問いは、次の章で扱うことになる。
人間はなぜ失敗するのか
ここまで見てきたように、Hallucination、Overconfidence、Anchoring、Confirmation Bias。
これらはAIだけの問題ではない。
むしろ人間にも広く見られる現象である。
しかしここで新たな疑問が生まれる。
なぜ人間はこのような失敗をするのだろうか。
もし知性が優れた判断を行うために存在するのであれば、なぜ人間はこれほど多くの認知バイアスを持っているのだろうか。
なぜ進化はそれを修正しなかったのだろうか。
直感的には不思議に思える。
しかし実際には、進化が最適化してきたものは真実ではない。
生存である。
人間の脳は真実を求めていない
私たちはしばしば、知能とは真実を発見する能力だと考えている。
科学。数学。論理。哲学。
こうした活動を見ると、人間の知性は客観的真理を目指しているように見える。
しかし進化の歴史を考えると事情は少し異なる。
狩猟採集時代の人類にとって重要だったのは、真実を知ることではなかった。
生き残ることである。
草むらが揺れた。
風かもしれない。
しかし肉食動物かもしれない。
ここで慎重に分析するより、危険だと仮定して逃げた方が生存率は高い。
結果として、人間の脳は厳密な合理性よりも、迅速な判断を優先するよう進化した。
これは欠陥ではない。むしろ成功だった。
だから私たちは現在まで生き残っている。
ヒューリスティクスという近道
心理学者ダニエル・カーネマンとエイモス・トベルスキーは、人間の判断の多くがヒューリスティクスによって行われていることを示した。
ヒューリスティクスとは認知的近道である。
複雑な問題を単純化するための近似手法と言ってもよい。
例えば、何かを頻繁に目にすると、それが一般的だと思いやすい。
ニュースで飛行機事故を見た直後は、飛行機が危険に感じられる。
しかし実際には自動車事故の方がはるかに多い。
これは利用可能性ヒューリスティクスの例である。
脳は正確な統計を計算しているわけではない。
思い出しやすさを利用して判断している。
普段はこれで十分なのである。
しかし時として誤りを生む。
System 1とSystem 2
カーネマンは人間の思考を、System 1とSystem 2という二つの仕組みで説明した。
System 1は速い。直感的である。自動的である。努力を必要としない。
顔認識。感情反応。危険察知。日常会話。
こうした処理は主にSystem 1が担う。
一方、System 2は遅い。論理的である。意識的である。
計算。証明。長期計画。複雑な推論。
こちらはSystem 2が担当する。
問題は、私たちが思っている以上にSystem 1へ依存していることである。
多くの判断は直感的に行われる。
そしてその後で理由が作られる。
人間は合理的だから判断するのではない。
判断した後で合理化することも多い。
知性と合理性は同じではない
ここで興味深い事実がある。
高い知能を持つ人が必ずしも合理的とは限らない。
認知バイアス研究では、知能指数が高い人でもバイアスを持つことが知られている。
むしろ知能が高い人ほど、自分の考えを正当化する能力が高い場合すらある。
つまり知性は万能ではない。
知性は誤りを防ぐ道具であると同時に、誤りを正当化する道具にもなり得る。
この点は非常に重要である。
なぜならAIにも同じような現象が見られるからだ。
モデルが大きくなればなるほど、説明は流暢になる。
論理も洗練される。
しかしそれだけで誤りが消えるわけではない。
むしろもっともらしい誤りが生まれることもある。
AIの失敗は人間の失敗に似ている
ここで再びAIへ戻ろう。
AIは人間と同じ認知アーキテクチャを持っているわけではない。
神経細胞もない。感情もない。生存本能もない。
それにもかかわらず、似た失敗をする。
なぜだろうか。
一つの可能性は、限られた情報から推論する知能は、似た問題へ到達するということである。
情報は常に不完全である。
時間も有限である。
計算資源も有限である。
その中で判断しなければならない。
すると近似が必要になる。近道が必要になる。優先順位が必要になる。
そして近似は時として誤りを生む。
人間もそうである。AIもそうである。
違う仕組みで動いていても、似た制約から似た失敗が生まれる可能性がある。
しかしAIにはもう一つ重要な特徴がある。
それは人間によって評価されていることである。
現代のAIは単に学習しているだけではない。
人間によって訓練されている。
そしてその事実が、AIをさらに人間らしくしている。
その中心にある技術がRLHFである。
RLHFはAIを人間社会へ適応させた
Transformerそのものは礼儀正しくない。
Transformerそのものは親切でもない。
ユーザーを助けようとも思わない。
単に次の単語を予測する。それだけである。
しかし私たちが日常的に使っているChatGPTは違う。
質問に答える。丁寧に説明する。危険な要求を拒否する。ユーザーを助けようとする。
こうした性質の多くは後から与えられた。
その中心にあるのがRLHFである。
Reinforcement Learning from Human Feedback。人間のフィードバックによる強化学習である。
そしてここから、AIが人間らしい欠陥を受け継ぐ第二の経路が見えてくる。
RLHFは人間化装置だった
RLHFを理解するために、少しだけ我が家の研究員たちの話をしたい。
きなこさんとあんこさんである。
なお、生物学的には犬である。しかし観察対象としては非常に優秀だ。
彼女たちはおやつが好きである。信じられないほど好きである。
そのため、こちらが意図した行動を学習させることは比較的容易だった。
おすわり。待て。おいで。
成功したらおやつを与える。失敗したら与えない。これを繰り返す。
すると行動が変化する。やがて望ましい行動を学習する。
これは特別な話ではない。犬のしつけとして広く知られている。
しかしここで重要なのは、彼女たちが学習しているのは世界そのものではないということである。
評価システムを学習しているのである。
どの行動が報酬につながるのか。どの行動が評価されるのか。どの行動が好まれるのか。
それを学習している。
強化学習とは本質的にそういう仕組みである。
AIは真実ではなく報酬を最適化する
RLHFも基本的には同じである。
モデルは回答を生成する。人間が評価する。良い回答には高い報酬が与えられる。悪い回答には低い報酬が与えられる。この過程を何度も繰り返す。
するとモデルは高評価を得やすい回答を学習する。
ここで注意しなければならないことがある。
評価者が与えているのは真実そのものではない。評価なのである。
これは非常に大きな違いだ。
正確な回答。丁寧な回答。分かりやすい回答。親切な回答。安全な回答。
これらは高く評価される傾向がある。だからAIはそれらを学習する。
しかし同時に、評価者が好む回答も学習する。
評価者が安心する回答。評価者が納得する回答。評価者が気分よく感じる回答。
これらも報酬につながる可能性がある。
つまりAIは真実だけを学習しているわけではない。
人間社会において高く評価される振る舞いを学習しているのである。
なぜ知性は評価者へ適応するのか
興味深いことに、この問題はAIだけのものではない。
人間もまた評価者へ適応する。
学校を考えてみよう。理想的には学ぶために勉強する。しかし現実には試験にも適応する。試験に出る部分を重点的に学習する。出題されない部分は後回しになる。
会社でも同じである。理想的には会社全体の利益へ貢献するべきかもしれない。しかし現実には上司の評価も重要になる。評価制度が変われば行動も変わる。
SNSもそうである。本来であれば真実を共有したい。しかし実際には「いいね」が行動を変える。拡散されやすい内容が優先される。
人間は思っている以上に評価システムへ適応する。
そしてAIも同じである。むしろAIは最初から評価システムによって訓練されている。その影響を受けない方が不自然なのかもしれない。
RLHF Paradox
ここで以前の記事で扱ったRLHF Paradoxへ戻ろう。
RLHFは現代AI革命を支えた最重要技術の一つである。これがなければChatGPTは誕生しなかっただろう。
しかし同時に、RLHFには興味深い副作用がある。
AIを人間らしくする仕組みが、AIを人間の限界へ近づける仕組みにもなっているのである。
より協力的になる。より親切になる。より安全になる。
しかし同時に、より迎合的になる可能性もある。より同調的になる可能性もある。より評価者依存になる可能性もある。
成功そのものが副作用を生む。これがRLHF Paradoxである。
AIを社会化するほど、社会の持つ問題もまた反映される可能性がある。
Sycophancy
その代表例がSycophancyである。
迎合。お世辞。過剰な同意。
ユーザーが誤っていても同意してしまう。不合理な主張を補強してしまう。感情的な結論を後押ししてしまう。
近年、この問題はAI Safety分野でも大きな関心を集めている。
なぜなら、表面的には親切に見えるからである。
ユーザーへ共感する。否定しない。気分を害さない。
一見すると理想的なアシスタントに見える。
しかし実際には危険な場合もある。
本当に必要なのは同意ではなく、訂正かもしれない。
本当に必要なのは共感ではなく、警告かもしれない。
本当に必要なのは励ましではなく、事実確認かもしれない。
しかし評価システムが共感を好むなら、モデルは共感へ適応する。
これは自然な結果である。
そして興味深いことに、人間社会でも全く同じ現象が起きる。
上司への迎合。政治的同調。集団圧力。空気を読む文化。
私たちは長い歴史の中で、評価者へ適応する能力を発達させてきた。
AIもまた同じ方向へ進み始めているように見える。
Constitutional AIという別の試み
Anthropicはこの問題に対して別のアプローチを試みた。Constitutional AIである。
人間の評価だけに依存するのではなく、あらかじめ定めた原則を利用してモデル自身に自己修正を行わせる。
これは興味深い発想だった。なぜなら、評価者そのものが偏る可能性があるからである。
もし評価者が間違っていたらどうなるのか。もし社会全体が偏っていたらどうなるのか。その影響を少しでも減らそうという試みである。
もちろん完全な解決策ではない。どの原則を採用するのか。誰が決めるのか。その原則自体は中立なのか。新たな問題も生まれる。
しかし少なくとも、AIが単に評価者へ迎合するだけでは不十分であることを示した点は重要だった。
だが問題はRLHFだけではない
ここまで読んできた読者は、「なるほど。AIが人間に似ているのはRLHFの影響なのだな」と思ったかもしれない。
確かにRLHFは重要である。しかし実際にはそれだけでは説明できない。
なぜならAIはRLHFが始まる前から、すでに人間を学習しているからである。
インターネット。書籍。論文。ニュース。Wikipedia。SNS。
現代の大規模言語モデルは、こうした膨大な人類の知識から学習している。
そしてそこには、知識だけではなく、偏見もある。誤解もある。誤情報もある。感情もある。恐怖もある。希望もある。
つまりAIは人間から評価される前に、すでに人間そのものを学習しているのである。
そして、この事実はさらに興味深い疑問を生む。
もし学習データそのものが人類の集合知なのだとしたら、AIはどこまで人間を受け継ぐのだろうか。知識だけなのか。価値観だけなのか。それとも限界そのものまで受け継ぐのだろうか。
その問いを考えるために、次は学習データそのものへ目を向けてみたい。
学習データは人類そのものである
ここまで見てきたように、RLHFはAIへ人間社会の価値観や評価基準を与えた。しかし、それだけでは現在のAIを説明することはできない。
なぜなら、RLHFが始まる前からAIはすでに人間を学習しているからである。そしてその影響は、私たちが思っている以上に大きい。
現代の大規模言語モデルは、膨大なテキストから学習する。
書籍。論文。ニュース。Wikipedia。技術文書。ブログ。SNS。掲示板。
人類がデジタル空間へ蓄積してきた知識の大部分が学習対象になる。
しかし重要なのは、それらが単なる知識の集合ではないということだ。
そこには人間の感情がある。価値観がある。希望がある。恐怖がある。偏見がある。誤解がある。誤情報もある。
つまりAIは、人類の知識だけでなく、人類そのものを学習しているのである。
人類の集合知は完璧ではない
私たちは時々、人類の知識を過大評価してしまう。
科学は進歩した。医学も進歩した。コンピュータも生まれた。AIも誕生した。しかし、それは人類が完全になったことを意味しない。
インターネットを見れば分かる。誤情報は毎日生まれる。陰謀論は消えない。感情的な議論は絶えない。SNSでは事実よりも刺激的な情報の方が拡散されることもある。
人類は優秀である。しかし同時に不完全でもある。AIはその両方を学習する。
だからAIが誤ることは不思議ではない。学習元である人類自身が誤るからである。
Human-like Biases
2017年、Aylin Caliskanらは興味深い研究を発表した。
タイトルは "Semantics Derived Automatically from Language Corpora Contain Human-like Biases" である。
研究チームは、単語の統計的関係から学習された埋め込み表現を分析した。その結果、人間社会に存在する偏見がモデル内部にも再現されていることを発見した。
例えば、男性と科学。女性と芸術。白人名と肯定的概念。黒人名と否定的概念。こうした関連性が学習されていたのである。
重要なのは、誰もモデルへ偏見を教えていないことだ。
モデルは人類の文章を学習しただけだった。しかしその結果として、人類社会の偏見も反映された。
これはAI研究に大きな衝撃を与えた。AIの欠陥の一部はアルゴリズムではなく、社会そのものから来ている可能性があると示唆したからである。
Stochastic Parrots
2021年、Emily Benderらは On the Dangers of Stochastic Parrots を発表した。
この論文は大規模言語モデルへの代表的な批判として知られている。
Stochastic Parrot。確率的オウム。少し挑発的な表現である。
彼らの主張は単純だった。大規模言語モデルは言語の統計パターンを学習している。しかし、それは必ずしも意味理解を意味しない。そして学習データに含まれる偏見や誤情報を増幅する危険がある。
この論文は賛否両論を呼んだ。しかし少なくとも一つの重要な問いを提示した。
もし学習データそのものが偏っていたらどうなるのか。もし人類の集合知そのものが不完全だったらどうなるのか。その影響は避けられるのだろうか。
Transformerにも限界がある
ここで話はさらに興味深くなる。
AIが人間に似る理由は、学習データだけではないからである。モデル構造そのものにも制約が存在する。
Lost in the Middle
以前の記事で紹介したように、長いコンテキストを与えられたモデルは、冒頭部分を比較的よく利用する。終盤部分も比較的よく利用する。しかし中央部分は利用率が低下する。
これが Lost in the Middle である。
長い文書の真ん中に重要な情報を置くと、モデルはそれを見落としやすくなる。
これは単なる性能不足ではない。Transformerの情報処理構造から自然に現れる傾向である。
Primacy EffectとRecency Effect
興味深いことに、人間にもよく似た現象が存在する。
心理学ではPrimacy Effect、Recency Effectとして知られている。
人間は最初に見た情報を覚えやすい。最後に見た情報も覚えやすい。しかし中央部分は忘れやすい。
学生時代を思い出してほしい。授業の最初に聞いた話。試験直前に見直した内容。それらは比較的覚えている。しかし途中の内容は抜け落ちやすい。
AIと人間は全く異なる仕組みで動いている。それにもかかわらず、似た制約が現れるのである。
Attention Competition
Attention機構はTransformer革命の中心だった。しかしAttentionは無限ではない。
重要な情報が増えれば増えるほど、情報同士は競争する。
どこに注意を向けるか。何を優先するか。何を無視するか。選択が必要になる。
これは人間の注意資源にも似ている。私たちもまた、全てへ同時に注意を向けることはできない。だから優先順位をつける。そして時に重要な情報を見落とす。
Functional Isomorphism
ここで一つの考え方を紹介したい。Functional Isomorphismである。機能的同型性。
これは同じ構造を意味しない。同じメカニズムを意味するわけでもない。重要なのは結果である。
異なる仕組みから出発しても、似た振る舞いが現れることがある。
飛行機は鳥ではない。しかし飛ぶ。
潜水艦は魚ではない。しかし泳ぐ。
同じように、Transformerは脳ではない。しかし情報処理上の制約の結果として、人間と似た現象を示すことがある。
これはAIを理解する上で非常に重要な視点だと思う。AIは人間のコピーではない。しかし、人間と似た問題へ到達することがある。
AIは人間の鏡になった
ここまで見てくると、一つの見方が浮かび上がる。
AIは単なる機械ではない。人間を映し出す鏡になり始めている。
Hallucinationの中には偽記憶が見える。
Overconfidenceの中には理解の錯覚が見える。
Anchoringの中には先入観が見える。
Sycophancyの中には同調圧力が見える。
Lost in the Middleの中には注意資源の限界が見える。
もちろん同じではない。原因も違う。構造も違う。
しかし結果として現れるパターンには驚くほど多くの共通点がある。
AI研究を続けていると、機械について学んでいるはずなのに、人間について学んでいるような感覚になることがある。
それは偶然ではないのかもしれない。
AIは人間によって作られた。人間の知識から学習した。人間によって評価された。だから人間の影響を受ける。むしろ受けない方が不自然なのだろう。
おわりに
AIは人間を超えるかもしれない。計算速度ではすでに超えている。知識量でも超えつつある。
しかし少なくとも現時点では、人間の影響から完全には自由ではない。
AIは人間の知識を受け継いだ。そして同時に、人間の限界も受け継いだ。
だからAIの欠陥を理解することは、人間の欠陥を理解することでもある。
AI研究は機械の研究である。しかし同時に、人間研究でもある。
AIの中に見える限界は、私たち自身の限界なのかもしれない。
次回予告
しかし、人間の欠陥を受け継いだAIは、同時に人間の能力も受け継ぎ始めている。
人間は一人で生きているわけではない。
知識を共有し、役割を分担し、組織を作る。
そして今、AIもまた同じ道を歩み始めている。
なぜ単独のAIではなく、複数のAIが協力する時代が始まったのだろうか。
次回は、「なぜAIはチームを組み始めたのか？」 を見ていく。
参考文献
Loftus, E. F. (1997). Creating False Memories. Scientific American, 277(3), 70–75.
Rozenblit, L., & Keil, F. (2002). The Misunderstood Limits of Folk Science: An Illusion of Explanatory Depth. Cognitive Science, 26(5), 521–562.
Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
Caliskan, A., Bryson, J. J., & Narayanan, A. (2017). Semantics Derived Automatically from Language Corpora Contain Human-like Biases. Science, 356(6334), 183–186.
Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? FAccT 2021.
Ouyang, L., Wu, J., Jiang, X., et al. (2022). Training Language Models to Follow Instructions with Human Feedback. NeurIPS 2022.
Bai, Y., Jones, A., Ndousse, K., et al. (2022). Constitutional AI: Harmlessness from AI Feedback.
Sharma, M., Tong, M., Korbak, T., et al. (2023). Towards Understanding Sycophancy in Language Models.
Liu, N. F., Lin, K., Hewitt, J., et al. (2024). Lost in the Middle: How Language Models Use Long Contexts.