長時間動き続けるAIエージェントには、一つの素朴な問題があります。
それは、
ずっと考え続ければ、本当に賢くなり続けるのか？
という問題です。
現在のAIでは、長いコンテキストを保持したり、過去の会話を記憶したりすることで、長時間の作業を続ける方向がよく使われます。
しかし、情報を残し続ければよいとは限りません。
長時間動作すると、
- 古い前提が残る
- 失敗した試行錯誤が蓄積する
- 同じ行動を繰り返す
- 仮説と事実が混ざる
- 本来の目的から少しずつズレる
- コンテキストが膨らみ、必要な情報を見つけにくくなる
といった問題が起きます。
そこで今回、Inference Metabolism Protocol（IMP／推論の代謝プロトコル）という構造をGitHub上で仕様化しました。
今回の v0.5 で、最初の完全な代謝サイクルまで到達しています。
「推論の代謝」とは何か？
発想そのものは単純です。
人間も、一つの思考を永遠に続けるわけではありません。
考え、休み、整理し、必要なものを残し、また新しく考え始めます。
AIにも同じように、
推論そのものを永続化するのではなく、必要な状態だけを次へ受け渡す
という仕組みを持たせます。
IMPでは、基本的に次の流れを使います。
つまり、
AIを長生きさせるのではなく、知能システム全体を長生きさせる
という考え方です。
1. Builder――まず仕事をするAI
最初は Builder です。
Builderは、
- コードを書く
- 調査する
- 文書を作る
- ツールを使う
- 計画を実行する
といった実際の作業を担当します。
ただし、Builder自身に、
「自分はまだ正常だから、このまま続けよう」
という判断まで全面的に任せると問題があります。
そこで次の仕組みを置きます。
2. Shift Governor――AIの交替時期を判断する
v0.2で追加したのが Shift Governor です。
AIの推論状態を外側から監視します。
主な指標は4つです。
日本語なら、
- コンテキスト圧力
- エラー密度
- ループ確率
- 目的逸脱
です。
これらから Handoff Score を計算します。
例えば、
というように、
「まだ続ける」
「そろそろ交替準備」
「交替する」
「緊急停止する」
を分けます。
ここで重要なのは、
推論するAIと、そのAIがまだ推論を続けてよいか判断する仕組みを分離する
という点です。
3. Auditor――次に残してよい情報か検査する
Builderが交替するからといって、その出力をそのまま次世代AIへ渡してはいけません。
間違いまで継承してしまうからです。
そこで Auditor が入ります。
Auditorは、
- 本当にテストに通ったのか
- この情報は確認済みなのか
- このファイルは正しいのか
- まだ仮説にすぎないのか
を検査します。
つまりAuditorの問いは、
「何が正しいのか？」
です。
4. State Purification――必要なものだけを残す
しかし、監査済みだからといって、全部を次のAIに渡す必要もありません。
そこでv0.3では、State Purification（状態浄化）を正式に導入しました。
情報を、
に分類します。
例えば、「テストに合格した」なら Verified Fact。
「負荷試験でも大丈夫だろう」なら、まだ Working Assumption。
失敗した方法から、「この条件ではこの操作を繰り返さない」というルールを作るなら Scoped Guardrail。
そして、
- 古い計画
- 重複情報
- 生の試行錯誤
- すでに役目を終えた仮説
などは次世代AIの作業コンテキストから外します。
5. 「記録する」と「継承する」は違う
IMPでかなり重要なのが、この区別です。
つまり、
保存することと、次のAIに読ませることは別
です。
例えば、生の推論ログは監査用として保存してもよい。
しかし、新しいBuilderに毎回すべて読ませる必要はありません。
IMPではこれを、Raw Trace Non-Inheritanceとして扱います。
考え方は、
Preserve Evidence. Inherit State. Reset Reasoning.
証拠は残す。
状態だけを継承する。
推論そのものはリセットするです。
6. Hallucination Inheritanceを防ぐ
AIでは、ある世代で生じた誤った仮説が、次のAIに渡されることで、いつの間にか「確定した事実」のようになる危険があります。
これを私は、Hallucination Inheritanceという問題として捉えています。
そこでIMPでは、
と、
を明確に分離します。
「たぶん正しい」と、「確認済みである」を同じ箱に入れない。
非常に単純ですが、長時間AIではかなり重要な構造だと考えています。
7. v0.4――継承経路そのものを監査する
ここからさらに一段進めました。
各JSONファイルが単独で正しくても、
情報の移動経路がおかしい可能性があります。
例えば、
この場合、Bはどこから来たのでしょうか。
そこでv0.4では、Cross-Record Conformanceを導入しました。
を横断的に照合します。
これによって、
- 監査されていないFact
- 監査されていないArtifact
- 浄化工程を通っていないAssumption
- 出所不明のGuardrail
- 世代番号の不一致
- Goal Hashの変更
- Provenanceの断絶
などをValidatorで検出できます。
8. v0.5――ついに一周した
そして今回の v0.5 では、これまでの部品を一つにまとめました。
それが、Metabolism Cycleです。
これで、
「前のAIを止め、新しいAIへ正しく引き継ぐ」
ところまで、一つの循環として閉じました。
9. 9つのLifecycle Gate
v0.5では、次世代AIが起動する前に複数のGateを通します。
すべて必要な条件を満たして初めて、
となり、
になります。
つまり、
失敗した状態を、そのまま次世代へ押し流さない
という構造です。
10. 50個のCore Invariants
IMP v0.5では、現在 IMP-01〜IMP-50 までのCore Invariantsを定義しています。
例えば、
- Raw Trace Non-Inheritance
- Evidence Preservation
- Goal Continuity
- Role Separation
- Governor Independence
- Anomaly Override
- Fact / Assumption Separation
- Purification Transparency
- Provenance Closure
- Cross-Record Closure
- Audit Gate
- Packet Verification Gate
- Builder Eligibility
などです。
「こう動いてほしい」という希望ではなく、
何を守ればIMP準拠なのか
をValidatorで検査できる方向へ進めています。
11. Validatorも5段階へ
現在のValidatorでは、
まで検証します。
つまり単なるJSON Schema集ではなく、世代交替そのものを検査するProtocolへと発展しました。
12. v0.1〜v0.5までの進化
整理すると非常に単純です。
v0.5で、最初に考えていた構造がほぼ一周しました。
AIは「記憶を増やす」だけでよいのか？
最近のAIでは、
「もっと長いコンテキスト」
「もっと多くのメモリ」
「もっと長時間動くエージェント」
という方向が目立ちます。
もちろん、それらも重要です。
しかし、
記憶容量を増やすことと、知能を長時間安定させることは同じではない
のではないでしょうか。
生物も、文明も、組織も、ただ蓄積するだけではありません。
残す。
捨てる。
入れ替える。
検査する。
再構成する。
そしてまた動き始める。
そこには「代謝」があります。
AIにも同じような構造が必要になるのではないか。
IMPは、その問いから生まれた実験的なProtocolです。
最後に
IMPが目指しているのは、永遠に考え続けるAIではありません。
むしろ逆です。
正しく推論を終えられるAI。
そして、
必要なものだけを次世代へ渡せるAI。
です。
個々の推論主体は短命でもよい。
状態が正しく循環するなら、知能システム全体は長く活動できます。
その考えを最短で表せば、
Preserve Evidence. Inherit State. Reset Reasoning.
そしてv0.5では、さらに、
Preserve Evidence.
Audit Truth.
Purify State.
Verify Inheritance.
Reset Reasoning.
Continue the System.
ここまで一つの構造としてつながりました。
Inference Metabolism Protocol v0.5.0
ひとまず、最初の完成版です。
