BabyAGI — AIは自分で仕事を管理できるのか？自律的タスク管理の原点となった小さな実験
2023年、数百行のコードで書かれた小さな実験が、AI業界を揺るがした。BabyAGIは「会話するAI」から「仕事を管理するAI」への転換点だった。その設計、限界、そして現代Agentへの影響を一本にまとめる。
2023年。
AI業界は熱狂の中にあった。
2022年11月に公開されたChatGPTは、わずか数か月で世界中へ広がった。
OpenAIのサーバーには大量のユーザーが押し寄せた。企業は生成AI活用チームを立ち上げた。投資家はAIスタートアップへ資金を投入した。
後から振り返れば、この時期はインターネット黎明期やスマートフォン普及期に匹敵する転換点だったと言える。
しかし興味深いことに、当時の熱狂はChatGPTそのものだけに向けられていたわけではない。
むしろ、多くの人々が考えていたのはその先だった。
「自分で仕事を進められるのではないか」
という考えが自然に生まれていたのである。
これは非常に重要な転換だった。なぜなら、それまでのAIは道具として考えられていたからだ。検索エンジンは検索する。翻訳ソフトは翻訳する。画像認識システムは画像を分類する。どれも人間が指示を与え、人間が結果を利用する。
しかしChatGPTは違った。会話ができる。文章を書ける。プログラムを書ける。推論もできる。
もしAIが推論できるなら、自分で計画を立てられるのではないか。
こうして生まれたのがAgentブームだった。そしてその中心にいたプロジェクトの一つがBabyAGIである。
ChatGPTはなぜ革命だったのか
BabyAGIを理解するためには、まずChatGPTがなぜ特別だったのかを理解する必要がある。
2017年、Googleの研究者たちはTransformerを発表した。論文のタイトルは "Attention Is All You Need" だった。この論文によって、大規模言語モデルの基礎が築かれる。
2018年にはGPT-1。2019年にはGPT-2。2020年にはGPT-3。モデルは急速に巨大化していった。
しかし、それでも一般社会に大きなインパクトは与えていなかった。使いにくかったからだ。
状況を変えたのがInstructGPTだった。OpenAIはRLHF（Reinforcement Learning from Human Feedback）を導入した。人間が望む回答を学習させる。これによってモデルは劇的に使いやすくなった。そしてその成果がChatGPTとして公開された。
ChatGPTの成功は単なる性能向上ではなかった。AIが初めて一般社会へ受け入れられた瞬間だったのである。
ChatGPTが抱えていた限界
しかしChatGPTには大きな制約があった。それは受動性だった。
ChatGPTは質問へ答える。依頼された作業を行う。だが、それ以上のことはしない。
「競合分析をしてください」と依頼する。すると競合分析を行う。しかし分析結果を見て「次は顧客調査を行うべきです」とは言わない。言ったとしても実行はしない。
人間の仕事は本来そうではない。上司から目標を与えられる。その目標を達成するために必要な作業を考える。優先順位を決める。状況に応じて計画を修正する。そして仕事を進める。
ChatGPTにはその能力が存在しなかった。AIは優秀な作業者ではあった。しかし、まだ優秀なマネージャーではなかったのである。
Agentという発想
そこで生まれたのがAgentという考え方だった。
Agentとは何か。現在でも定義は完全には統一されていない。しかし2023年当時、多くの人々がイメージしていたのは「目標を与えると自律的に行動するAI」だった。
重要なのは会話ではない。目標達成である。
「日本のEV市場を分析せよ」という目標を与える。Agentは市場調査を行う。企業を調査する。競合を分析する。レポートをまとめる。必要なら追加調査を行う。つまり、人間の代わりにプロジェクトを進める存在である。
ChatGPTは応答システムである。Agentは行動システムである。
2023年、AI業界は「会話」から「行動」へ移行し始めていた。
AutoGPTが見せた夢
2023年春。Agentという言葉を一気に有名にしたプロジェクトが登場する。その名はAutoGPT。
AutoGPTは当時の人々が思い描いていた未来を、そのままデモとして見せてくれた。ユーザーは目標を一つ入力する。するとAIは自ら考え始める。情報を収集する。計画を立てる。次の行動を決める。
それまでのChatGPTは、質問されるまで待っていた。しかしAutoGPTは違った。目標が与えられると、自ら行動を開始する。
SNSでは「AI社員」「AI起業家」「AI研究者」といった言葉が飛び交った。数年以内にホワイトカラーの仕事の大半が自動化されるのではないか。そんな予測も珍しくなかった。
当時の熱狂は本物だった。ChatGPTがAIとの会話を一般化したのだとすれば、AutoGPTはAIとの協働という未来を想像させたのである。
なぜAutoGPTは期待されたほど機能しなかったのか
しかし現実は厳しかった。実際に長時間動かしてみると、AutoGPTは様々な問題を抱えていた。
同じ情報を何度も調べる。不要なタスクを繰り返す。目標から徐々に逸脱する。そして時には無限ループへ陥る。
これはAIが賢くなかったからではない。むしろ逆だった。個々の作業能力は非常に高かった。問題は、作業全体を管理する仕組みが存在しなかったことである。
人間の組織に例えるなら、優秀な社員だけが集まっている状態だった。分析できる人はいる。調査できる人もいる。しかし、誰が全体を管理するのか。誰が優先順位を決めるのか。その役割が存在しなかった。
ここに大きな空白があった。そしてその空白を埋めようとしたのがBabyAGIだった。
Yohei Nakajimaという異色の開発者
BabyAGIを開発したYohei Nakajima氏は、AI研究者として有名だったわけではない。大学教授でもなければ、巨大テック企業の研究責任者でもない。
彼はベンチャーキャピタリストだった。
研究者であれば、モデル性能の向上を考える。しかし投資家が考えるのは「この技術は実際に何ができるのか」「社会でどう使われるのか」「どのような価値を生み出すのか」である。
そのため彼の視点は「もっと賢いAIを作る」ではなかった。「AIを仕事ができる存在にする」だったのである。
BabyAGIは性能向上プロジェクトではない。仕事管理プロジェクトだった。
BabyAGIが解決しようとした問題
BabyAGIの本質を理解するためには、人間がどのように仕事を進めているかを考える必要がある。
「新しいECサービスを立ち上げる」という目標があるとする。人間はまず何をするべきかを考える。市場調査。競合分析。顧客分析。収益モデル設計。そしてそれらへ優先順位を付ける。さらに進捗に応じて計画を修正する。
つまり人間は、常にタスクを生成し、整理し、更新し続けている。プロジェクト管理とは、本質的にはこの繰り返しである。
BabyAGIは、この仕組みをAIへ与えようとした。
Goal・Task・Priority
BabyAGIの設計は驚くほどシンプルだった。その中心には三つの概念が存在する。
Goal — 達成したい目標。
Task — Goalを達成するために必要な具体的作業。
Priority — どのTaskを先に処理するべきかを決定する。
人間にとっては当たり前の考え方かもしれない。しかし当時のAgent設計では、この整理が十分ではなかった。
BabyAGIは、目標と作業を明確に分離した。そしてAI自身に優先順位を考えさせたのである。
Task Queueという発想
BabyAGIの中心にはTask Queueが存在する。これは単なるリストではない。AIが現在抱えている仕事そのものである。
最初は一つのタスクしか存在しないかもしれない。しかし実行結果に応じて増えていく。
市場調査を行う。すると競合分析という新しいタスクが生まれる。競合分析を行う。すると価格戦略分析というタスクが生まれる。こうしてタスクは増殖していく。そしてAIは、その中から最も重要なものを選び続ける。
ここで初めて、継続的なプロジェクト管理が実現された。
Objective Driven Loop
BabyAGIの真の革新は、Task Queueそのものではない。Task Queueを中心に回るループだった。
システムは次の手順を繰り返す。
- 最優先タスクを取得する
- タスクを実行する
- 結果を保存する
- 新しいタスクを生成する
- 優先順位を再計算する
- 次のタスクへ進む
非常に単純である。しかし重要なのは、このループが自律的に回り続けることだった。
従来のチャットボットは、質問と回答で終わる。BabyAGIは終わらない。目標が達成されるまで仕事を続ける。ここにAgentとしての本質があった。
なぜPineconeが必要だったのか
しかしここで問題が発生する。AIは過去を忘れる。コンテキストウィンドウの外へ出た情報は利用できない。
長期間プロジェクトを進めると、過去の分析結果を忘れてしまう。すると同じ調査を繰り返す。同じ結論へ何度も到達する。
そこで利用されたのがPineconeだった。Pineconeはベクターデータベースである。タスク実行結果をEmbedding化して保存する。必要な時に検索する。
これによってAIは、コンテキストの外にある情報を再利用できるようになった。現在ではRAGやAgent Memoryは当たり前になっている。しかし2023年当時、これは非常に先進的な考え方だった。
BabyAGIはなぜ衝撃だったのか
BabyAGIは巨大な研究プロジェクトではなかった。論文でもなかった。数百行のコードから始まった小さな実験だった。
それにもかかわらず、世界中の開発者へ強い影響を与えた。
人々が初めて、AIを作業者ではなくマネージャーとして想像できたからだ。
ChatGPTは質問へ答える。AutoGPTは行動する。BabyAGIは仕事を管理する。
この違いは非常に大きかった。もちろん完成されたシステムではない。むしろ欠点だらけだった。しかし重要なのは完成度ではなかった。方向性だった。
BabyAGIは、後にAgent Frameworkと呼ばれる巨大な流れの出発点の一つになったのである。
理想と現実のギャップ
BabyAGIは大きな注目を集めた。GitHubには多くのスターが集まり、世界中の開発者が試し始めた。
しかし実際に長時間運用した人々は、すぐに別の現実を見ることになる。
確かにAIはタスクを生成できる。優先順位も付けられる。自律的にループも回せる。だが、プロジェクトは思ったほど前に進まなかった。むしろ時間が経つにつれて、奇妙な行動が増えていくことが多かったのである。
2023年は、Agentブームの始まりであると同時に、Agent研究の難しさが明らかになった年でもあった。
Goal Drift — AIはなぜ目標を見失うのか
Agent研究において最も有名な問題の一つが、Goal Driftである。システムが徐々に本来の目標から逸脱してしまう現象だ。
「日本のEV市場を分析する」という目標を与えたとする。最初は順調である。市場規模を調査する。主要メーカーを調査する。競合比較を行う。
しかし次第に状況が変わる。競合企業を調査する → 経営陣を調査する → 創業者の経歴を調査する → 関連企業を調査する → 海外投資家を調査する。
いつの間にか、EV市場分析という本来の目的が消えている。個々のタスクには合理性がある。しかし全体として見ると、目標から大きく外れている。
人間のプロジェクトでも似た現象は起こる。だが人間には定期的に立ち止まり「今やっていることは本当に必要か」を確認する能力がある。当時のAgentにはそれがなかった。
原因の一つは局所最適化である。LLMは現在のタスクに集中する。数十ステップ先を見据えた長期計画は苦手だ。さらに長期間ループを回すと、初期目標の重要度が徐々に低下する。本来の目的が埋もれてしまう。
これは現在のAgentでも完全には解決されていない課題である。
Hallucinated Tasks — 幻覚が行動へ変わる時
チャットボットにおけるHallucinationはよく知られている。存在しない論文を引用する。架空の事実を語る。
しかしAgentでは問題がさらに深刻になる。なぜなら、幻覚が行動へ変換されるからである。
AIが誤って「追加分析が必要だ」と判断する。すると新しいタスクが作られる。さらにそのタスクから別のタスクが生まれる。一つの誤りがプロジェクト全体へ伝播してしまうのである。
これはチャットボットには存在しなかった問題だった。回答の誤りではなく、行動の誤りである。
Agentはチャットボットより難しい。なぜなら、間違った答えではなく、間違った行動を生み出すからだ。
Task Explosion — タスクはなぜ増殖するのか
BabyAGIにはもう一つ大きな問題があった。タスク爆発である。
市場分析を行う → 競合分析が必要になる → 価格分析が必要になる → 顧客分析が必要になる → さらに追加調査が必要になる。
理論上、この連鎖はどこまでも続く。人間であればある時点で「十分だ」と判断する。しかし当時のAgentには、十分という概念が存在しなかった。
Cost Explosion — お金も時間も無限ではない
2023年当時、GPT-4のAPIは現在より高価だった。Agentを長時間動かすことは、そのままコストへ直結した。
100回の推論で終わると思っていたプロジェクトが、Goal DriftやTask Explosionによって1000回、5000回と膨らむ。
Agentは技術的に動いても、経済的には成立しない場合がある。性能だけでは不十分だったのである。効率も必要だった。
Long-Horizon Failure — 長期タスクはなぜ難しいのか
Agent研究者が最終的に直面した問題は、長期タスクだった。
短期タスクなら成功する。しかし数十ステップ、数百ステップ、数日単位のプロジェクトになると失敗率が急上昇する。
理由は簡単である。誤差が蓄積するからだ。1回の判断ミスは小さい。しかし100回繰り返せば大きくなる。
BabyAGIは、長期タスク管理の難しさを業界へ突き付けたのである。
BabyAGIは失敗だったのか
「実用的な自律AIを実現したか」という基準で評価するなら、答えはNoである。
Goal Driftは解決できなかった。Hallucinated Tasksも防げなかった。長期タスクも苦手だった。
しかし、それだけで失敗と呼ぶのは正しくない。
BabyAGIの価値は完成度ではなかった。問題提起だったのである。
何が足りないのか。何を解決しなければならないのか。Agent研究はどこへ向かうべきなのか。
BabyAGIはその地図を示した。
BabyAGIが残したもの — 後続研究への影響
Agentの歴史は、ある意味ではBabyAGIが提示した課題への回答の歴史でもあった。
ReActとの関係 — ReActは行動の仕組みだった。考える → 行動する → 結果を見る → 再び考える。しかしReActは一つの問題を解決する仕組みだった。複数のタスクを管理しない。そこで登場したのがBabyAGIだった。ReActが「一つの仕事をどう進めるか」を扱ったのに対し、BabyAGIは「複数の仕事をどう管理するか」を扱った。
Reflexionとの関係 — BabyAGIが抱えていた問題の一つは、失敗から学ばないことだった。Reflexionは内省をシステムへ組み込んだ。結果を評価する。失敗理由を分析する。改善方針を作る。BabyAGIが仕事を管理するマネージャーだったとすれば、Reflexionは経験から成長するマネージャーだった。
MemGPTとの関係 — BabyAGIは記憶の重要性を示した。しかし実装はまだ単純だった。MemGPTはLLMへ仮想メモリ管理を導入した。短期記憶・長期記憶・外部ストレージを組み合わせる。BabyAGIが「記憶は必要だ」と示したのだとすれば、MemGPTは「どう管理するべきか」を示したのである。
Voyagerとの関係 — BabyAGIはタスクを管理できる。しかし能力そのものは増えない。VoyagerはMinecraftという環境でAIが自律的にスキルを獲得する仕組みを作った。一度学んだことをライブラリ化する。再利用する。成長する。現代のAgentはBabyAGIのタスク管理とVoyagerのスキル獲得を、両方必要としている。
AutoGenへの進化 — 2023年後半、Microsoft ResearchはAutoGenを発表する。Agentが一人ではなくなったのである。Planner・Researcher・Programmer・Reviewer。それぞれが役割を持ち、会話しながら仕事を進める。BabyAGIは一人のマネージャーだった。AutoGenはチームだった。
DevinとManus — 2024年以降、Agentの実用化を象徴する存在も登場した。ユーザーは目標を与える。Agentは計画を立てる。作業を進める。結果を返す。これはBabyAGIが夢見た世界そのものだった。
AI Agent史におけるBabyAGI
AIの進化を振り返ると、それぞれの論文やプロジェクトが異なる能力を追加してきたことが分かる。
Transformerは知識表現の基盤を作った。ReActは行動を与えた。Generative Agentsは記憶と社会性を示した。Reflexionは内省を与えた。MemGPTは長期記憶管理を与えた。Voyagerはスキル獲得を与えた。そしてBabyAGIは、タスク管理を与えた。
BabyAGIは完成形ではない。だが、Agent時代の設計図の一部だった。
数百行のコードで書かれた小さな実験は、後のAgent研究へ大きな影響を与えることになる。その意味でBabyAGIは、単なるGitHubプロジェクトではない。AI Agent史の重要な転換点の一つなのである。
References
- Nakajima, Y. (2023). BabyAGI: AI-Powered Task Management System. GitHub
- Yao, S. et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629
- Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366
- Packer, C. et al. (2023). MemGPT: Towards LLMs as Operating Systems. arXiv:2310.08560
- Wang, G. et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models. arXiv:2305.16291
- Wu, Q. et al. (2023). AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation. arXiv:2308.08155
次回：AI Agentとは何か — なぜAI業界は「会話」から「行動」へ向かっているのか