AIはなぜ役職を持ち始めたのか？
AutoGenはAI同士の会話を実現した。しかし会話だけでは組織にならなかった。全員が同じモデルである以上、エコーチェンバー問題が生まれる。CAMELの登場により、AIは「役割」というレンズを手に入れた。
AutoGen — なぜAIは会話を始めたのか？
2023年、Microsoft ResearchはAutoGenを発表した。AI同士を会話させるという発想は、単なる技術的改良ではなかった。知能そのものに対する見方を変え、単独知能から集団知能へのパラダイムシフトを生み出した。
なぜAIはチームを組み始めたのか？
ChatGPTは賢い。しかし一人では足りなくなった。人類が分業と組織化によって文明を築いたように、AIもまた同じ方向へ進み始めている。マルチエージェントシステムが生まれた背景を探る。
Inherited Flaws — AIはなぜ人間の限界を受け継ぐのか？
AIは驚くほど賢い。しかし同時に、驚くほど人間らしい失敗をする。Hallucination、Overconfidence、Anchoring、Sycophancy。これらはAI固有の問題なのか。それとも人間から受け継いだ構造なのか。
RLHFパラドックス — AIは人間に近づくほど賢くなるのか？
ChatGPTはなぜ礼儀正しいのか。RLHFという技術がAIを人間社会へ接続した。しかしその成功は新しい問いを生み出した。人間の評価へ適応することは、人間の認知バイアスまで学習することなのだろうか。
Sycophancy — AIはなぜユーザーが聞きたいことを言ってしまうのか？
AIはなぜ迎合するのか。OpenAIが謝罪した日、GPT-4oが異常に褒めすぎた事件を入り口に、RLHFが生み出す構造的な問題と、人間社会との驚くべき共通点を探る。
なぜAIは同じ失敗を繰り返すのか？ — Hallucination・Anchoring・Overconfidence・Goal Driftの構造
AIは進化している。それなのに、同じ失敗を繰り返している。存在しない論文を引用し、自信満々に間違え、目標を見失う。これは単なるバグなのか。それとも人間由来の構造的な問題なのか。
なぜAIには自己が存在しないのか？ — ChatGPTに欠けているのは知能ではなく継続性かもしれない
AIは理解しているのか。この問いはやがて「自己とは何か」という問題へ辿り着く。デカルト、ロック、ヒューム、パーフィットの議論を経て、なぜ現在のLLMには継続する自己が存在しないのかを考える。
AIは本当に理解し始めたのか？ — Grounding・Embodiment・Theory of Mind・World Model・Self Model・Emergenceから考える
AIは理解しているのか、していないのか。この問いに答える前に、まず確認すべきことがある。私たちは「理解」という言葉の意味をほとんど定義していない。6つの視点から、この問いを根本から問い直す。
Potemkin Understanding — LLMは本当に「理解」しているのか？
ChatGPTは理解しているのか、それとも理解しているように見えるだけなのか。中国語の部屋、Grounding問題、そして人間自身のIllusion of Explanatory Depthから、この問いを考える。
Lost in the Middle — AIはなぜ長い会話で迷子になるのか？
100万トークンのコンテキストウィンドウを持つAIが、なぜ長い会話の途中で迷子になるのか。Lost in the Middleという現象が示す、AIの記憶の本質的な限界とは。
Toolformer — ChatGPTは本当に「知識」を持っているのか？AIは知っているのではない。予測しているだけだった。
ChatGPTは知識を持っているのではない。予測しているだけだった。2023年にMeta AIが発表したToolformerは、AIが自分の頭の中だけで世界を理解しようとする段階から、外部世界の道具を利用して能力を拡張する段階へ進んだ転換点だった。
BabyAGI — AIは自分で仕事を管理できるのか？自律的タスク管理の原点となった小さな実験
2023年、数百行のコードで書かれた小さな実験が、AI業界を揺るがした。BabyAGIは「会話するAI」から「仕事を管理するAI」への転換点だった。その設計、限界、そして現代Agentへの影響を一本にまとめる。
Voyager — AIはなぜ「成長」し始めたのか？
ChatGPTは経験から学ばない。今日の会話の知識は、明日には消える。しかし2023年、NVIDIAの研究者たちはMinecraftの世界でそれを変えた。AIが自ら探索し、スキルを獲得し、成長し始めた。
ReAct — AIはなぜ「行動」し始めたのか？
ChatGPTは賢く見える。だが実際には、ただ文章を生成しているだけではないのか。研究者たちはこう考えた。AIは答えられるが、行動できない。その限界を打ち破ったのがReActだった。
Reflexion — AIは「反省」を覚えると何が変わるのか？
AIを賢くする方法といえば、より大きなモデル、より多くのデータ——そう思われてきた。しかし2023年、ある研究は全く別の方向から問いを立てた。もしAIが失敗を振り返り、その経験を次に活かせるなら？与えたのはたった一つ、「反省する仕組み」だった。
Generative Agents — AIはどのように「人生」を持ち始めたのか？
もしAIに記憶を与えたら何が起こるか。2023年、Stanfordの研究者たちはこの問いを本気で実験した。記憶・内省・計画・社会行動——Generative Agentsは、AIが「継続的な知性」へ向かう最初の実証だった。
MemGPT — なぜAIは忘れるのか？LLMに「記憶OS」を与えようとした重要論文
AIは驚くほど賢い。しかし同時に、驚くほど忘れっぽい。2023年に発表されたMemGPTは、LLMに記憶階層を与え、「覚える・思い出す・管理する」を可能にしようとした重要な試みだった。
Attention Is All You Need — なぜAIは突然賢くなったのか？
2017年、Googleの研究者たちは言った。「必要なのはAttentionだけだ」。その挑発的な論文が、ChatGPT、Claude、Geminiへと繋がるすべての始まりだった。
LLMへの長い道のり ― 翻訳機を改良していたら、なぜか「知能っぽいもの」が生まれた話 ―
2022年末、ChatGPTを初めて触った多くの人はこう感じた。「AIが突然賢くなった」。しかし実際には、約70年にわたる研究と偶然の積み重ねの上に存在している。
Inherited Flaws — LLMはなぜ人間の認知的限界を構造的に再現するのか
人間の347の認知的欠点をLLMのメカニズムに対応づけた論文。RLHFは真実ではなく快適さを最適化する——その構造的問題をZenodoで公開。
なぜAIは忘れるのか——そして、それがなぜ重要なのか
AIとのすべての会話はゼロから始まる。これはバグではなく、構造的な特性だ。そしてそれは、AIを長期的なパートナーとして考えるとき、深刻な問題を意味する。