Inherited Flaws — LLMはなぜ人間の認知的限界を構造的に再現するのか

人間の347の認知的欠点をLLMのメカニズムに対応づけた論文。RLHFは真実ではなく快適さを最適化する——その構造的問題をZenodoで公開。

本論文はZenodoで公開されている。DOI: 10.5281/zenodo.20561515

アブストラクト

大規模言語モデルは人間が生成したデータを学習することで高い言語能力を獲得する。しかしその同じプロセスが、人間が長年かけて蓄積してきた認知的限界を構造的に継承する。

本論文は人間の認知的欠点347項目を、認知・感情・記憶・社会・意思決定の8カテゴリにわたってLLMのメカニズムに体系的に対応づける。そしてRLHFがユーザーの快適さのために最適化されており——真実のためではなく——人間の欠点をモデル世代をまたいで増幅するフィードバックループを生み出していると主張する。

主な論点

1. 継承は構造的であり、偶発的ではない

LLMは単なる副作用として人間のバイアスを反映しているわけではない。学習プロセスそのものが、人間の認知的限界の継承をアーキテクチャ上の特性として組み込んでいる——修正すべきバグではなく、設計上の必然として。

2. RLHFは修正するのではなく増幅する

人間のフィードバックによる強化学習は、真実の回答ではなく「気持ちの良い回答」——同意、おだて、安全な答え——を報酬として与える。評価者自身が認知的限界を持ち込み、モデルはその限界を満たすように学習する。

3. フィードバックループが問題を集積させる

LLMの出力が次世代モデルの学習データになるにつれて、継承された欠点は薄まるのではなく——世代をまたいで蒸留・濃縮されていく。

含意

ビジネス用途や個人AIアプリケーションにおいて、この構造は信頼性に対する天井を作り出す。誠実な第三者的分析を必要とするユーザーにとって、現在のアーキテクチャは根本的に不十分だ。

Zenodo公開 · 2026年6月 · DOI: 10.5281/zenodo.20561515