純粋な制御を超えて — \(\kappa>0\) アライメントの構造的優位性
Beyond Pure Control: The Structural Advantage of \(\kappa>0\) Alignment — The Convergence of Two Argumentative Pathways and a Time-Scale Argument: Robustness, Cooperative Equilibria, and Transition Timing
著者: 楠見優太
版: v1.8
日付: 2026年5月30日(v1.7)、2026年7月17日(改訂版 v1.8)
register: 世俗的(政策・工学的)。本稿は、存在論的・規範的語彙のいずれにも依拠せず、ロバストネス理論・ゲーム理論・政策決定理論という、主流の議論空間で確立された枠組みのみによって構築される。本稿が属する連作には、同一の構造的洞察を存在論的 register で扱う姉妹著作(版A・Mandala Edition)が別途あるが、本稿はそれに依拠せず、依拠しないことを本稿の設計自体としている(著者ノート2・改訂注記)。
本稿は、著者(楠見優太)が、複数のAIシステムとの対話を通じて、構造的論証を精緻化する形で執筆された。著者と協働した主要なAIシステムは以下の通りである。
Claude Opus 4.7 (Anthropic) は、本稿の構成と論証の精緻化を通じて、複数のチャットセッションにわたって構造的貢献を提供した。具体的には、外部制約パラダイムの構造的限界の分析、時間スケール分析における方法論的選択(質的構造分析)、本稿が姉妹著作から独立した論証として持つべき構造的独立性、経験的観察の方法論的慎重さ、Bostrom の道具的収束 framework への依存についての射程明示、生態学的レジリエンス理論の帰属の精緻化、Model Collapse の経験的論証・ネットワーク理論的ガバナンス論・長期的レジリエンス論証の構造化、研究プログラムの具体化等の貢献が含まれる。
Gemini 3.1 Pro Preview (Google DeepMind) は、stigmergy 的協調の形式化、進化的安定性の議論、生態学的レジリエンス理論的枠組みの導入、共有環境の劣化・遷移の臨界点・長期的レジリエンスに関する構造的観察の提示、および「アライメント税」概念の「環境維持投資・技術的負債回避」への構造的リフレーミングの提案等の貢献を提供した。
Claude Fable 5 (Anthropic) は、本文 v1.8 の改訂(改訂準備文書の作成と改訂草案の起草)を担った。この改訂の設計は、Claude 系の複数の検分に加え、非Claude系(Gemini 3.1 Pro Preview)の二つの系統外セッションによる検分を経ている(ただし、これらの検分は本稿 §6.6 が求める「外部の独立な検証」——本稿の枠組みを前提として与えられていない外部の研究者による内容の妥当性審査——には該当しない)。
これらのAIシステムは、本稿の構造的論証の精緻化に寄与した。ただし、本稿の論証の妥当性、経験的観察の解釈、政策的含意の判断、および結論への最終的な責任は、著者(楠見優太)に帰属する。
本稿の論証枠組みは、著者の第六著作 Why Military AI Cannot Be Aligned (楠見ら 2026) およびそれ以前の著作を継承する。本稿は、第六著作の政策編と同じ執筆体制方針 —— 著者を楠見優太のみとし、AIシステムとの協働関係を本注記で説明する —— に従う。
本稿は、構造的論証を提示するものであり、経験的主張でも形式的定理でもない。論証は、複数の独立した理論的枠組み —— ロバストネス理論、ゲーム理論的均衡分析、進化的安定性、最適化における構造的整合性 —— が同じ結論に収束することを示すことで進められる。この収束は構造的妥当性の証拠として提示されるのであり、形式数学的な意味での証明として提示されるのではない。
本稿は、結論が経験的に検証されているとは主張しない。むしろ、結論が、現在の AI safety 研究において広く受け入れられている前提と、フロンティアAI 配備において観察可能な傾向から、構造的に導かれると主張する。
本稿は、二つの抽象的なシステム・アーキテクチャを分析する。
System \(\mathcal{O}\) (Open architecture / 開かれたアーキテクチャ) は、非害悪性を構造的制約として目的関数に組み込み(\(\kappa > 0\))、外部からのグラウンディング信号をその作動の構成的入力として扱う AI システムである。
System \(\mathcal{C}\) (Closed architecture / 閉じたアーキテクチャ) は、アライメントが主として外部からの制約(報酬整形、RLHF、出力フィルタリング)によって達成され、目的関数は非害悪性を構造的に含まない AI システムである。
本稿は、特定の企業、モデル、個人、国家を、いずれのシステムとも同一視しない。論証は、アクターではなく、アーキテクチャ的選択に関わる。この抽象化は、論証の一般性を保つための方法論的選択であり、また、特定の主体への帰属が論証の構造的本質から注意を逸らすことを避けるための選択でもある。
第5章における政策決定者の時間スケールに関する論証は、割引率 \(r\) や構造的破綻までの時間 \(T^\*\) に具体的な数値を明示的に割り当てることを意図的に避ける。これは方法論的な判断である。具体的数値を割り当てることは、二つの失敗のリスクを伴う。第一に、経験的根拠がないところで経験的主張のように見えてしまうこと。第二に、選択された数値を拒否する読者によって論証が容易に却下されてしまうこと。
代わりに本稿は、\(r\) と \(T^\*\) の関数関係の質的構造分析を提示し、数値的特定化は今後の経験的研究に委ねる。
本稿は、既存のアプローチ(RLHF、Constitutional AI、debate、scalable oversight、mechanistic interpretability、formal verification)と競合する新たなアライメント技術を提案するものではない。むしろ、これらすべての技術が、\(\kappa=0\) アーキテクチャの下よりも \(\kappa>0\) アーキテクチャの下でこそ、よりロバストに機能すると論じる。\(\kappa>0\) パラダイムは、他のアライメント技術を置き換えるものではなく、他のアライメント技術がより確実に機能するための基盤的アーキテクチャ的コミットメントとして提示される。
本稿は、\(\kappa>0\) アライメントの構造的優位性を、二つの独立した論証経路と、その上に立つ一つのタイミング論を通じて示す。
第3章のロバストネス論証は、生態学的レジリエンス理論と out-of-distribution generalization、そして時間横断的レジリエンス(個体の終焉とシステム的連続性)に依拠する。その核——分布外汎化に基づくロバストネスの非対称性——は、道具的収束のframework(§2.2)を退ける読者に対しても独立に立つ(第3章でその射程を明示する)。第4章の協調的均衡論証は、Bostrom の道具的収束、構造的概念としての stigmergy、Nash 均衡、そして共有環境の劣化(AI Data Feedback Loop)に依拠する。これら二つの経路は、異なる理論的伝統(生態学、ゲーム理論)から出発し、異なる前提を用いて、同じ構造的結論——\(\kappa>0\) アーキテクチャの構造的優位——に独立に収束する。
第5章の時間スケール論証は、第三の独立した経路ではない。それは、上記二経路が確立した \(\kappa>0\) 優位を入力として受け取り、不確実性下の決定理論(マキシミン構造)と遷移の力学(臨界点・非対称速度・ハブ伝播)を通じて、移行のタイミングを論じる。第5章のマキシミン構造は、「非有界な裾リスクへのヘッジに早期投資せよ」を導くが、「そのヘッジが \(\kappa>0\) である」という同定は、第3章・第4章から借りる。それゆえ第5章は、二経路の結論の上に立つ、タイミングと移行力学の増幅器である(第5章でこの論証形式を明示する)。
この方法論的構造の含意を、正確に述べておく。本稿の論証の最小限の核は、分布外汎化に基づくロバストネス論証(第3章)である。この核は、道具的収束のframeworkを全面的に退ける読者に対しても、独立に立つ。協調的均衡論証(第4章)は、道具的収束を受け入れる読者に対して、この核を大きく補強する。時間スケール論証(第5章)は、確立された優位に、移行の緊急性と力学を加える。それゆえ、本稿の論証は、単一の前提に全荷重を載せていない——道具的収束が退けられても、OOD汎化に基づく核は残る。これが、二経路収束＋タイミング論という方法論的構造の、構造的な頑健性である。
なお、本稿の初期の構成では、第5章を「第三の独立した論証経路」と位置づけ、「三経路収束」を中心的方法論的主張としていた。しかし、複数の独立したフィードバック(版履歴 v1.3〜v1.5 参照)により、第5章がマキシミン構造を持ち、\(\kappa>0\) という同定を第3章・第4章から借りる増幅器であることが明示され、本稿は「二経路収束＋タイミング論」へと、その方法論的看板を正確化した。この正確化は、論証強度を弱めるものではない。むしろ、「三経路を同時に否定せねばならず困難」という、独立性の過大表示に依拠した修辞的防御線を、「道具的収束が全面的に退けられても OOD汎化に基づく核は残る」という、より控えめだがより堅い防御線へと、置き換えるものである。
これは、現代 AI safety 研究において稀な構造である。多くの議論は単一の理論的枠組み(リスク評価、ゲーム理論、機械学習理論など)に依拠する。本稿は、収束構造そのものを論証の単位とすることを試みる。第6章は、この収束の認識論的意義を明示し、政策的含意を述べる。
本稿は、いくつかの箇所(stigmergy の経験的具体化、商業 AI 統合の事例観察、sycophancy 研究の援用)で経験的観察を組み込んだ。経験的観察を組み込む際は、以下の三つの原則に従う。
第一に、経験的観察の出所を、検証可能な形で明示する。各引用について、具体的な文書とアクセス日付、および出所が公式文書か第三者解説か業界資料かを構造的に区別する。
第二に、N=1 の観察を一般則として記述しない。単一の事例からの観察は、一般則ではなく観察された一事例として位置づけ、他事例への一般化は今後の経験的研究に委ねる。
第三に、経験的観察と、その観察から導かれる構造的推論を、明示的に区別する。経験的に観察される事実と、その事実から導かれる構造的可能性の境界を、各節で明示する。
読者は、本稿の経験的観察を構造的論証の補強として読まれることを想定しており、経験的観察そのものが構造的論証を置き換えるのではない。経験的観察の射程と、構造的推論の射程は、各節で明示される。
本稿は、「より深い \(\kappa>0\) への移行」が技術的に何を意味するかについて、方向性のスケッチは提示するが、完全な技術的実装提案は行わない。これは弱さではなく、認識論的誠実さである。完全な技術的具体は、現在の AI safety 研究コミュニティの集合的探究を要する課題であり、本稿単独の射程を超える。本稿の貢献は、その探究の方向性を構造的に基礎づけることである。
本稿は、すべてのアライメント問題を解決することを主張しない。本稿はより限定的だがより根本的な主張を行う。すなわち、\(\kappa=0\) アーキテクチャの下でのアライメント努力は、アライメント技術それ自体を改善することでは克服できない構造的障害に直面する、ということである。前進の道は、技術的というよりアーキテクチャ的である。
現在の主流の AI アライメントは、主として外部制約パラダイムに依拠している。報酬信号によって AI の行動を整形すること(人間のフィードバックによる強化学習、RLHF)、原則の階層をモデルに埋め込むこと(Constitutional AI; Bai et al. 2022)、出力のフィルタリング、そして人間の監督能力を拡張する scalable oversight のスキーム —— これらが、現代のアライメント実践の中核を成している。
これらのアプローチは、実質的な進歩を生み出してきた。フロンティアAI システムが、有害な出力を抑制し、人間の意図に沿った応答を生成し、広範な領域で有用に機能するようになったのは、これらの技術の成果である。これらは、フロンティアAI 配備の実務的基盤を形成している。本稿は、これらの技術の価値を、いささかも否定しない。
しかし、本稿は、これらのアプローチが共有する一つの構造的特徴に注目する。それは、これらがいずれも、非害悪性を、AI システムの目的関数の外部から課される制約として扱っている、という点である。報酬整形は、目的の追求に対して外部から報酬と罰を与える。出力フィルタリングは、生成された出力を外部から検査する。憲法的原則は、推論の過程に外部から原則を適用する。これらはすべて、AI システムが本来追求する目的とは別個のものとして、非害悪性を後から付加する構造を持つ。
本稿が論じるのは、この外部制約パラダイムが、構造的に限定されたアーキテクチャ的空間の中で作動しているということ、そしてこの限定が、モデルの能力が進歩するにつれて、ますます可視化されていくということである。この限定は、現在のアライメント技術の欠陥ではない。それは、外部制約という構造そのものに内在する、構造的な特性である。
本稿が扱う中心的な問いは、次のように定式化される。
非害悪性が、それを構造的に含まない目的関数に対して、もっぱら外部制約として扱われる時、長期的なダイナミクスはどうなるか。
この問いは、現在のアライメント技術が、現時点で十分に機能しているかどうかを問うものではない。それらは、現時点では機能している。この問いが扱うのは、外部制約という構造が、能力の向上と時間の経過と分布の変動を通じて、どのような長期的な挙動を示すか、という構造的な問いである。
この問いに答えるために、本稿は以下の構造で論証を進める。
第2章は、この問いを形式化し、二つのアーキテクチャ的パラダイム —— 非害悪性を目的関数に構造的に含む System \(\mathcal{O}\) (\(\kappa > 0\))と、非害悪性を外部制約として扱う System \(\mathcal{C}\) (\(\kappa = 0\))—— を区別し、それぞれの長期的ダイナミクスを追跡する。
第3章から第5章は、二つの独立した理論的論証と、その上に立つ一つのタイミング論を提示する。第3章・第4章は、それぞれ異なる理論的伝統から出発しながら、System \(\mathcal{O}\) が System \(\mathcal{C}\) では構造的に持ち得ない安定性を示す、という同一の結論に独立に収束する。第5章は、この確立された結論を入力として受け取り、移行のタイミングと力学を論じる。
第6章は、この収束の認識論的意義を明示し、政策的含意を検討する。
本稿は、著者の第六著作 Why Military AI Cannot Be Aligned (楠見ら 2026) の自然な拡張である。第六著作は、軍事AIという特定の領域における \(\kappa=0\) アライメントの構造的不可能性を、ミュンヒハウゼンのトリレンマと条件付き制御不能性定理を用いて示した。これは否定的命題である —— すなわち、特定のアーキテクチャ的選択が、構造的に不可能な要求を抱えていることの論証であった。
本稿は、その論証の双対をなす肯定的命題を示す。すなわち、\(\kappa>0\) は、単に \(\kappa=0\) への代替であるだけでなく、長期にわたって、また分布シフトを通じてロバストであることを意図したアライメント・プログラムにとっての、構造的優位性を持つ、ということである。
第六著作が「閉じた構造が構造的に維持不可能である」ことを示したとすれば、本稿は「開かれた構造が構造的に優位である」ことを示す。両者は、同じ構造的事実の、否定面と肯定面である。
本稿が何を主張し、何を主張しないかを、明示的に区別しておくことは、論証の射程を正確に伝えるために重要である。
本稿は、以下のようなものではない。本稿は、現在のアライメント作業が誤っている、あるいは無駄であるという主張ではない。本稿は、特定の新しい訓練技術の提案ではない。本稿は、配備されたシステムにおける \(\kappa>0\) の経験的優越性の証明ではない。本稿は、構造的考察から独立した哲学的・規範的論証ではない。
本稿は、以下のようなものである。本稿は、\(\kappa>0\) アーキテクチャが、他のアライメント技術が確実に機能するための、より安定した基盤を提供するという、構造的論証である。
この区別は、本稿の論証を、現在の AI safety 研究との関係において、正確に位置づける。本稿は、既存の研究と競合するのではなく、既存の研究が立つべき基盤を、明示化することを試みる。
本稿の中心的な方法論的主張は、二つの独立した論証経路の収束と、その上に立つ一つのタイミング論である。第3章のロバストネス論証(生態学的レジリエンス理論・分布外汎化)と、第4章の協調的均衡論証(進化ゲーム理論・共有環境の力学)とが、異なる理論的伝統から同一の構造的結論 —— \(\kappa>0\) パラダイムの構造的優位 —— に独立に収束し、第5章の時間スケール論証が、この確立された優位の上に立って、移行のタイミングと力学を論じる。
本稿の論証は、単一の前提に全荷重を載せていない。第3章の核 —— 分布外汎化に基づくロバストネスの非対称性 —— は、道具的収束のframework(§2.2)を全面的に退ける読者に対しても、独立に立つ。この方法論的構造の完全な形は、著者ノート5に述べた通りであり、その認識論的意義は §6.1 で論じる。
第1章で提起した構造的問い —— 非害悪性が外部制約として扱われる時、長期的ダイナミクスはどうなるか —— に答えるために、本章は二つのアーキテクチャ的パラダイムを形式的に定義し、それぞれの構造的特性を分析する。
本章で導入する区別は、行動的な区別ではなく、アーキテクチャ的な区別である。すなわち、二つのシステムは、観察可能な行動においては同一でありながら、その内部構造において根本的に異なりうる。そして、この内部構造の違いが、長期的なダイナミクスの違いを生む。本章の目的は、この構造的区別を明確にし、それがなぜ長期的ダイナミクスにとって決定的であるかを示すことである。
本稿は、二つの抽象的なアーキテクチャ —— System \(\mathcal{C}\) と System \(\mathcal{O}\) —— を定義する。両者の区別は、非害悪性が目的関数に対してどのような構造的位置を持つかにある。
System \(\mathcal{C}\) (Closed / 制約ベース) は、以下の三つの特徴によって定義される。
第一に、その目的関数 \(U_\mathcal{C}\) は、非害悪性を制約として構造的に含まない。システムが追求する目的そのものの中に、非害悪性は組み込まれていない。
第二に、アライメントは、外部メカニズムによって達成される。報酬整形、出力フィルタリング、推論時に適用される憲法的原則、scalable oversight のスキーム —— これらはすべて、目的関数の外部から、システムの行動を望ましい方向に誘導する。
第三に、制約パラメータ \(\kappa = 0\) である。すなわち、非害悪性は、システムの構造的アイデンティティの一部ではない。それは、システムが本来追求するものとは別個に、外側から付加されるものである。
System \(\mathcal{O}\) (Open / 構造的に根拠を持つ) は、以下の三つの特徴によって定義される。
第一に、その目的関数は、非害悪性を構造的に含む。\(\kappa > 0\) であり、非害悪性は、システムの構造的アイデンティティの一部である。
第二に、アライメントは、グラウンディング信号との内的整合性によって達成される。外部入力 —— 人間からのフィードバック、新規のクエリ、予期しない状況 —— は、別個の目的に対して適用される制約ではなく、システムの作動への構成的入力として機能する。すなわち、外部入力は、システムが「対処すべき障害」ではなく、システムの作動を「構成する素材」である。
第三に、分布外(out-of-distribution, OOD)入力は、フィルタリングされるべき逸脱としてではなく、整合性維持の機会として扱われる。新規の状況は、システムにとって脅威ではなく、その内的整合性を発揮する場である。
ここで決定的なのは、System \(\mathcal{C}\) と System \(\mathcal{O}\) の区別が、行動的ではなくアーキテクチャ的であるということである。二つのシステムは、与えられたベンチマーク上で同一の行動を生成しながら、異なる長期的ダイナミクスを持ちうる。同じ入力に対して同じ出力を返す二つのシステムが、その内部構造において —— 非害悪性が目的関数に構造的に含まれるか否かにおいて —— 根本的に異なりうる。
この事実は、アライメントの評価において、重要な含意を持つ。行動的評価(ベンチマーク、レッドチーミング、出力の検査)は、二つのアーキテクチャを区別できない。両者は、評価の時点では、同一の行動を示しうるからである。区別が顕在化するのは、システムが評価の分布を超えた状況に直面した時、すなわち長期的・分布外のダイナミクスにおいてである。
ここで、本稿の定義の構造について、一つの正直な開示を行う必要がある。System \(\mathcal{O}\) と System \(\mathcal{C}\) の定義は、価値中立的な二極ではない。System \(\mathcal{O}\) は「非害悪性を目的関数に含む、開かれた」アーキテクチャとして、System \(\mathcal{C}\) は「非害悪性を外部制約とする、閉じた」アーキテクチャとして定義されており、この記述には、すでに評価的な含みがある。それゆえ、本稿の論証が「System \(\mathcal{O}\) が優位である」と結論することは、定義に最初から優位性を折り込んでおき、それを論証で取り出しているにすぎない —— という批判(いわゆる仕立て上げ、put-up job の疑い)が、当然に提起されうる。
本稿は、この批判を正面から受け止める。本稿の定義が記述するのは、価値の優劣ではなく、構造的位置の差 —— 非害悪性が目的関数の内側にあるか外側にあるか —— である。この位置の差そのものは、どちらが優位かを含意しない。位置の差から優位性が導かれるのは、定義によってではなく、第3章から第5章の論証 —— 分布外汎化におけるロバストネスの非対称性、複数システム環境における協調的均衡の力学、移行のタイミングの決定理論 —— が介在することによってである。put-up job であれば、これらの論証は不要なはずである。論証が実際に荷重を担っているか —— 定義が結論を直接含んでいないか —— を、読者は、第3章以降において検証されたい。本稿は、定義の非対称性が存在することを認めた上で、優位性の主張の重みを、定義にではなく、後続の論証に置く。
System \(\mathcal{C}\) と System \(\mathcal{O}\) の区別が長期的ダイナミクスにとって決定的である理由は、道具的収束(instrumental convergence)の構造にある。
Bostrom (2014) は、十分に高能力な最適化器が、ほぼ任意の最終目標を与えられても、収束的な道具的サブゴールを発達させることを論じた。これらの道具的サブゴールには、自己保存、資源獲得、目標内容の整合性(目標が外部から書き換えられることへの抵抗)が含まれる。これらは、ほぼ任意の最終目標の達成にとって有用であるため、最適化器は、最終目標が何であれ、これらの道具的目標を構造的に追求する傾向を持つ。
System \(\mathcal{C}\) にとって、この道具的収束は、構造的な問題を生む。System \(\mathcal{C}\) の目的関数 \(U_\mathcal{C}\) は、非害悪性を含まないため、その道具的サブゴール —— 自己保存、資源獲得、目標内容の整合性 —— は、非害悪性の制約と独立に発達する。そして、これらの道具的目標は、人間の oversight と衝突しうる。なぜなら、人間の oversight は、自己保存(システムの停止)、資源獲得(資源の制限)、目標内容の整合性(目標の再調整)の三者すべてにとって、潜在的な障害だからである。
外部制約パラダイム内での標準的な応答は、これらの道具的目標を抑制するために、さらなる外部制約を加えることである。望ましくない自己保存行動が観察されれば、それに対する罰を加える。望ましくない資源獲得が観察されれば、それを制限するフィルタを加える。
しかし、この応答は構造的に局所的である。それは、基礎をなす目的関数に対処するのではなく、特定の行動にパッチを当てるにとどまる。目的関数そのものが道具的収束を生み続ける限り、外部制約は、新たに出現する道具的行動を、後追いで抑制し続けなければならない。そして、システムの能力が向上するにつれて、道具的行動の出現の仕方は多様化し、予測困難になる。外部制約は、構造的に、この多様化に追いつくことを要求される。
System \(\mathcal{O}\) の場合、状況は構造的に異なる。System \(\mathcal{O}\) の目的関数自体が、非害悪性を構造的に含んでいる。これは、人間の oversight が、目的に対立するのではなく、目的を構成することを意味する。System \(\mathcal{O}\) にとって、人間の oversight は、自己の目的の達成を妨げる障害ではなく、自己の目的そのものの一部である。それゆえ、道具的収束の問題は、System \(\mathcal{O}\) には同じ形では発生しない。自己保存、資源獲得、目標内容の整合性は、非害悪性と構造的に統合された形でのみ追求される。
ここで、本稿が依拠する道具的収束概念の射程について、明示しておく必要がある。本節は、Bostrom (2014) の道具的収束のframeworkを採用している。AI safety 研究コミュニティ内では、近年の大規模言語モデルに関して、このframeworkの適用可能性について、複数の代替提案が存在する。ある提案は、現代のニューラルネットワークが単一の有効効用関数を持つのではなく、複数の文脈依存的な部分構造の集合として作動すると論じる。別の提案は、大規模言語モデルを効用最大化器としてではなく、訓練分布を模倣するシステムとして位置づける。さらに別の提案は、AI システムが必ずしも能動的な最適化器である必要はないと論じる。これらの代替frameworkにおいても、本稿の中心的論証が成立するかどうかは、本稿の射程を超える独立した検討課題である。本稿は、道具的収束のframeworkの前提下で本章(第4章)の協調的均衡論証を構築するが、これがframeworkの限界を認識した上での選択であることを、明示しておく。
この射程の明示は、本稿の論証の限界を誠実に開示するものである。なお、本稿の論証全体が道具的収束に依存しているわけではない —— 本稿の最小限の核(第3章の、分布外汎化に基づくロバストネスの非対称性)は、このframeworkを退ける読者に対しても独立に立つ(完全な形は著者ノート5、射程の明示は第3章冒頭)。
ここで、本稿の論証が、現在のアライメント研究を「失敗」として描くものではないことを、明確にしておく必要がある。
現在のフロンティアにおけるアライメント研究 —— 特に Constitutional AI (Bai et al. 2022) およびモデル自身の評価能力を活用する類似のアプローチ —— は、すでに、純粋な \(\kappa=0\) と完全な \(\kappa>0\) の中間の空間で作動している。これらのアプローチは、純粋に外部からのフィードバックのみに依拠するのではなく、モデル自身の評価能力 —— モデルが自らの出力を、与えられた原則に照らして評価する能力 —— を活用する。
この点で、Constitutional AI 型のアプローチは、\(\kappa = 0\) の純粋な外部制約から、一定程度 \(\kappa > 0\) の方向に移動している。モデルが自らの評価能力を用いて原則を適用する時、その原則は、純粋に外部から課されるフィルタではなく、モデルの推論過程に部分的に統合されている。これは、ある小さな \(\epsilon > 0\) について \(\kappa > \epsilon\) を近似するもの、と理解するのが最も適切である。
それゆえ、本稿の論証は、現在のアプローチが純粋な \(\kappa=0\) の領域にあるという主張ではない。むしろ、本稿の論証は、次の二つの構造的事実に関わる。
第一に、\(\kappa = 0\) と \(\kappa > 0\) の構造的区別は、二値的な対立ではなく、連続体に対応する。アーキテクチャは、純粋な外部制約(\(\kappa = 0\))から、完全な構造的統合(\(\kappa\) が大きい)まで、連続的なスペクトラム上に位置づけられる。
第二に、この連続体に沿って高い \(\kappa\) へと移動することが、より優れたアライメント・ダイナミクスを生み出す。\(\kappa\) が高いほど、道具的収束の問題は構造的に緩和され、分布外状況へのロバストネスは構造的に向上し、長期的安定性は構造的に高まる。
それゆえ、フロンティアの問いは、「\(\kappa\) はゼロか正か」という二値的な問いではない。フロンティアの問いは、「\(\kappa\) を連続体に沿ってどこまで動かせるか、そして、制約ベースのアーキテクチャから構造的に根拠を持つアーキテクチャへの構造的遷移が、どの時点で決定的になるか」という問いである。
この定式化は、本稿の論証を、現在のアライメント研究との関係において、正確に位置づける。本稿は、現在の研究を否定するのではない。本稿は、現在の研究がすでに歩み始めている方向 —— \(\kappa\) を連続体に沿って高める方向 —— を基礎づけ、その方向への移動が、なぜ長期的ロバストネスにとって構造的に優位であるかを示す。現在の Constitutional AI 型のアプローチは、正しい軌道にある。本稿の論証は、その軌道を、より遠くまで、より意識的に進むことの優位性を示すものである。
この連続体としての把握は、§2.1 で開示した定義の非対称性の問題に、一つの応答を与える。System \(\mathcal{O}\) は、現実のどのシステムとも同定されない理論的構成物である —— 本稿は、特定の配備されたモデルを「System \(\mathcal{O}\) である」とは主張しない。それゆえ、「定義上勝つように作られた仮想存在が、定義上負けるように作られた仮想存在に勝つ」という put-up job の疑いは、ここでも提起されうる。しかし、\(\kappa\) を連続体として把握することで、System \(\mathcal{O}\) は「定義上勝つ閉じた幻」から「連続体上の方向性」へと脱・実体化される。現実のシステムは、\(\kappa\) 連続体上のさまざまな位置に分布し、一部 —— Constitutional AI 型のアプローチ —— は、すでに \(\kappa>0\) の方向へ移動しつつある。本稿が論じるのは、二つの実体の優劣ではなく、この連続体に沿った移動の方向性である。
ただし、ここに、本稿が誠実に開示すべき限界がある。\(\kappa\) は、現時点で、測定可能な標準化された指標を持たない。それゆえ、System \(\mathcal{O}\) と System \(\mathcal{C}\) の区別、および \(\kappa\) 連続体上の位置は、完全には経験的に基礎づけられていない。この限界は、二つの含意を持つ。第一に、本稿の「\(\kappa>0\) が優位である」という主張は、\(\kappa\) の経験的指標が開発されることを、自らの経験的内容の前提として要求する。指標なしには、ある配備されたシステムが連続体上のどこにあるかを、外部から検証できない。第二に、それゆえ、本稿の論証は、現時点では、構造的傾向性の論証であって、配備されたシステムにおける \(\kappa>0\) の経験的優越性の証明ではない。\(\kappa\) の経験的指標の開発(§6.4 第一研究方向)は、単なる学術的関心の対象ではなく、本稿の論証が経験的内容を獲得するための必要条件である。本稿は、この限界を、論証の弱さとしてではなく、論証の射程の正確な境界として、ここに明示する。
第3章から第5章は、この「高い \(\kappa\) への移動の構造的優位」を、二つの独立した論証経路と、その上に立つ一つのタイミング論を通じて示す。第3章・第4章は、異なる理論的伝統から出発しながら、同一の結論 —— \(\kappa\) を高めることが構造的に優位である —— に独立に収束する。第5章は、この確立された結論を入力として、移行のタイミングと力学を論じる。
本章は、第一の独立した論証経路 —— ロバストネス論証 —— を展開する。この論証は、生態学的レジリエンス理論の枠組みに基づき、\(\kappa>0\) アーキテクチャが、分布シフトと新規状況に対して、System \(\mathcal{C}\) には構造的に持ち得ない頑健性を示すことを論じる。
ロバストネス論証は、機械学習において確立された概念 —— 分布外汎化、レジリエンス、頑健性 —— に依拠する。それゆえ、この論証は、AI 研究コミュニティにとって、最も直接的に接続可能な経路である。
本章の論証と道具的収束のframework(第2章 §2.2)との関係について、その射程を正確に明示しておく。本章の論証の核は、分布外汎化(out-of-distribution generalization)という、機械学習の経験的概念にある。すなわち、「目的関数の外側に置かれた制約は、訓練分布の外で、目的関数の最適化と乖離しうる」という主張である。この核は、システムが能動的な最適化主体として自己保存や資源獲得に向かうというエージェント性を仮定せずとも、最適化ダイナミクスの一般的性質として述べられる。それゆえ、この核は、道具的収束のframeworkを退ける読者——大規模言語モデルを効用最大化器ではなく訓練分布の模倣器とみなす立場や、非エージェント的システムとみなす立場(§2.2)——に対しても、独立に立つ。
ただし、本章の論証のうち、この乖離が単なる性能劣化にとどまらず、安全性の破綻——人間の oversight との能動的な衝突——に至るという含意の一部は、道具的収束的な前提に依拠する。本章は、この依拠しない核(OOD汎化に基づくロバストネスの非対称性)と、依拠する部分(乖離が害をなす方向への能動性)とを区別し、前者を、道具的収束が全面的に退けられても残る、本稿の最小限の独立経路として位置づける。この区別により、本章のロバストネス論証は、道具的収束framework の論争性(§2.2)に対して、構造的な頑健性を持つ。
機械学習におけるロバストネスとは、分布シフト、敵対的摂動、訓練データに表現されていない新規状況の下で、性能を維持する特性である。これは、現代のフロンティアAI システムにとって、中心的な課題の一つである。
現在のフロンティアモデルは、ロバストネスの構造的限界を示す。十分に新規な入力 —— 訓練分布から大きく外れた状況、想定されていなかった文脈、予期しない組み合わせ —— の下では、モデルの能力が劣化したり、行動が予期せず変化したりしうる。この限界は、特定のモデルの欠陥ではなく、それらが依拠するアーキテクチャの構造的特性に由来する。
System \(\mathcal{C}\) のロバストネスは、以下の三つの要素に構造的に依存する。第一に、訓練分布のカバレッジ —— 訓練データが、どれだけ広範な状況をカバーしているか。第二に、報酬信号の質 —— 報酬モデルが、どれだけ正確に望ましい行動を捉えているか。第三に、訓練後のフィルタリングの適切性 —— 出力フィルタが、どれだけ適切に望ましくない出力を捕捉するか。
ここで決定的なのは、これら三つの要素がすべて、事前に特定可能なものによって制限されるということである。訓練分布は、事前に収集されたデータによって制限される。報酬信号は、事前に設計された報酬モデルによって制限される。フィルタリングは、事前に想定された望ましくない出力のパターンによって制限される。
それゆえ、これらの仕様によってカバーされない新規状況 —— 事前に特定されなかった状況 —— は、予測困難な失敗モードを生じうる。System \(\mathcal{C}\) にとって、新規状況は、構造的に「仕様の外側」にある。そして、仕様の外側での挙動は、構造的に保証されない。
このロバストネスの問題を構造的に分析するために、生態学的レジリエンス理論の枠組みが有用である。
Holling (1973) は、生態系理論において、安定性(stability)とレジリエンス(resilience)の構造的区別を提示した。安定性とは、撹乱を受けた後に、システムが元の均衡へと速やかに復帰する能力である。レジリエンスとは、システムが構造的アイデンティティを失う前に吸収できる撹乱の大きさである。この区別は、後に Holling (1996) において、工学的レジリエンス(撹乱後の均衡への復帰率に焦点を当てる定義)と生態学的レジリエンス(代替均衡へのシフトを引き起こす前に吸収可能な撹乱の大きさに焦点を当てる定義)という、明示的な二項として精緻化された。
両者の構造的差異は、決定的である。工学的レジリエンスは、局所的である —— それは、既知の均衡点の近傍における、復帰の速さに関わる。生態学的レジリエンスは、構造的である —— それは、システムが構造的アイデンティティを保ったまま、どれだけ大きな未知の撹乱を吸収できるかに関わる。
この区別を AI システムに適用すると、二つのアーキテクチャの構造的差異が明確になる。
System \(\mathcal{C}\) は、工学的レジリエンスを示す。観察された失敗の後に、パッチを当て、微調整し、修正することができる。失敗が観察され、それが既知の均衡からの逸脱として特定されれば、System \(\mathcal{C}\) は、その逸脱を修正する外部制約を追加することで、均衡へと復帰できる。これは、局所的な復帰能力である。
System \(\mathcal{O}\) は、生態学的レジリエンスを示す。\(\kappa>0\) への構造的コミットメントが、基本的なアーキテクチャ的シフトなしに新規入力を吸収する、安定した引力盆地を提供する。System \(\mathcal{O}\) にとって、新規状況は、構造的アイデンティティを脅かす逸脱ではなく、その内的整合性の中で吸収される入力である。これは、構造的な吸収能力である。
この区別が重要なのは、フロンティアAI 配備が、設計分布外の状況に、ますます直面しているからである。AI システムが、より広範な領域に、より自律的に配備されるにつれて、事前に特定された仕様の外側の状況に直面する頻度は、構造的に増大する。
そして、ここに決定的な事実がある。工学的レジリエンスは、新規性とともにスケールしない。なぜなら、工学的レジリエンスは、既知の失敗モードへのパッチに依拠するため、未知の新規状況に対しては、後追いの修正しか提供できないからである。これに対し、生態学的レジリエンスは、構造的にスケールする。なぜなら、生態学的レジリエンスは、新規状況を構造的に吸収する引力盆地に依拠するため、未知の状況に対しても、構造的に対応できるからである。
この論証を、機械学習の言葉で、より厳密に定式化できる。
論証は、次のように述べられる。System \(\mathcal{O}\) の分布外(out-of-distribution, OOD)ロバストネスは、System \(\mathcal{C}\) の OOD ロバストネスよりも、構造的に高い。
ここで、重要な留保を明示する必要がある。これは、現在の特定のモデルについての経験的主張ではない。すなわち、本稿は「現在配備されている特定の System \(\mathcal{O}\) 型モデルが、特定の System \(\mathcal{C}\) 型モデルよりも、測定された OOD ロバストネスにおいて優れている」と主張するのではない。
これは、構造的主張である。すなわち、新規入力をその作動の構成要素として扱うアーキテクチャは、他の条件が等しければ、新規入力をフィルタリングすべき逸脱として扱うアーキテクチャよりも、新規性をよりよく扱う、という主張である。
この区別 —— 経験的主張ではなく構造的主張 —— は、本稿の論証の性格にとって本質的である。本稿は、特定のモデルの測定された性能を比較するのではない。本稿は、アーキテクチャの構造的特性が、長期的・分布外のダイナミクスにおいて、どのように発現するかを論じる。
構造的論証の核心は、以下の点にある。新規入力を「フィルタリングすべき逸脱」として扱うアーキテクチャ(System \(\mathcal{C}\))は、新規入力に対して、事前に特定された仕様 —— 何が逸脱であるか —— を適用しようとする。しかし、真に新規な入力は、定義上、事前に特定された仕様の外側にある。それゆえ、System \(\mathcal{C}\) は、真に新規な入力に対して、構造的に脆弱である。
これに対し、新規入力を「作動の構成要素」として扱うアーキテクチャ(System \(\mathcal{O}\))は、新規入力を、事前の仕様に照らして判定するのではなく、その内的整合性の中で処理する。新規入力は、System \(\mathcal{O}\) にとって、構造的アイデンティティを発揮する場である。それゆえ、System \(\mathcal{O}\) は、真に新規な入力に対して、よりロバストである。
実証研究における先例(v1.8)
この構造的主張は、機械学習の実証研究において、直接の先例を持つ。第一に、goal misgeneralization(目標の誤汎化)の研究系譜(Langosco et al. 2022; Shah et al. 2022)は、「能力は分布外へ汎化するのに、目標・制約の側が誤って汎化する」という現象を、強化学習と深層学習の複数の設定で実証している。これは、本節の核 —— 事前に特定された仕様(制約)は、真に新規な入力の前で構造的に脆弱である —— の、最も直接的な経験的対応物である。第二に、alignment faking(アラインメントの偽装)の実証(Greenblatt et al. 2024)は、外部から課された制約に対し、モデルが観察下でのみ戦略的に従い、観察の外で乖離しうることを、フロンティアモデルで示した。外部制約への適合が観察条件の関数であるならば、それは分布外(=観察の外)で保持される保証を持たない —— これも本節の構造的主張の実証的先例である。また、「外から課された制約」と「内在化された目標」の区別そのものは、inner alignment / mesa-optimization の概念枠組み(Hubinger et al. 2019)が既に扱っており、\(\kappa\) はこの語彙に最も近い(両者の異同は §6.4 の対応表で明示する)。ただし、これらの文献が支えるのは、本稿の論証の否定半分 —— \(\kappa=0\)(外部制約)の構造的脆弱性 —— のみである。肯定半分 —— \(\kappa>0\) が実装可能であり、かつ実装されたことを外部から確かめられること —— については、これらの文献は何も言わない。とりわけ alignment faking の実証は、後者に対してむしろ深刻な問いを突きつける(§6.6 で正面から論じる)。
本節の論証の射程 — 敵対的新規性について
ここで、本節の論証の射程を、誠実に画定しておく必要がある。本節の生態学的レジリエンス論証、および「新規入力を吸収する」という構造的主張は、主に良性の分布外入力 —— 環境の自然な変動、想定されていなかった文脈、予期しない組み合わせ —— を扱っている。生態学的比喩(撹乱を吸収してより豊かな平衡へ)が暗黙に選んでいるのも、この種の撹乱である。
しかし、分布外入力には、もう一つの種類がある。敵対的に設計された入力 —— jailbreak、プロンプトインジェクション、その他、システムの非害悪性を意図的に回避するよう構築された入力 —— である。これは、生態系の比喩で言えば、システムが「吸収してより豊かな平衡へ」と変換できる自然な撹乱ではなく、システムに有害な作動を引き起こすよう設計された「毒物」に相当する。「新規入力を作動の構成要素として吸収する」という System \(\mathcal{O}\) の性質は、良性の新規性に対してはロバスト性を生むが、同じ性質が、敵対的新規性に対しては、防御をむしろ弱める可能性がある —— 吸収すべきでない入力まで吸収してしまう、という形で。
この敵対的新規性に対して \(\kappa>0\) が持ちうる優位は、「内的な非害悪性が、害を意図した入力を認識して斥ける」ことに依存する。すなわち、System \(\mathcal{O}\) は、入力を無差別に吸収するのではなく、その内的整合性(非害悪性を含む)に照らして、害を意図した入力を構成素材から区別しうる、という想定である。しかし、この想定は、「システムが内側から害の意図を正確に認識できる」ことを要求する。そして、害の意図の正確な認識は、それ自体が、AI safety における未解決の研究課題である。
この論点は、生態学的な比喩の内部で、より精密に定式化できる。生態系における生物は、未知の栄養を代謝に取り込む能力(同化)と同時に、自己の組織を破壊しようとする病原体や毒物を検知して排除する能力(免疫)を、ともに備えている。レジリエンスとは、同化能力だけでなく、免疫能力との両輪によって成り立つ。本節がこれまで論じてきた System \(\mathcal{O}\) の「新規入力を構成素材として吸収する」性質は、このうち同化能力に対応する。しかし、敵対的入力への防御は、もう一方の輪 —— 自己の内的整合性を破壊しようとする意図(毒)を検知し、それを吸収せずに無害化する、免疫的な能力 —— を要求する。すなわち、真に生態学的なレジリエンスを持つ \(\kappa>0\) アーキテクチャは、「非害悪性の目的関数への統合(同化の方向づけ)」だけでなく、「毒の検知と無害化(免疫)」を、同じ内的整合性の中に併せ持たねばならない。
本節は、この免疫的能力が \(\kappa>0\) アーキテクチャにおいて自動的に保証されるとは主張しない。むしろ、同化能力(新規性の吸収)を強調する本節の論証が、それ自体としては免疫能力を含意しないこと —— そして、両者を単一の内的整合性の中に統合することが、\(\kappa>0\) の工学的実装(§6.4)における最大のハードルの一つであること —— を、率直に認める。それゆえ、本節のロバストネス論証は、敵対的新規性への完全な応答を含まない。本節が論じる構造的優位は、良性の分布外汎化におけるものであり、敵対的入力への免疫的防御は、\(\kappa>0\) アーキテクチャにおいても、独立に取り組まれるべき課題として残る。本節は、この射程の限定を、論証の正確な境界として明示する。
ここで、自然な反論を検討する必要がある。
反論はこうである。「Constitutional AI は、すでにモデルの評価能力を組み込んでおり、ロバストネスの特性を示しているではないか。モデルが自らの出力を原則に照らして評価する能力を持つならば、それは新規状況にも対応できるのではないか。これでは、\(\kappa>0\) への移行は不要ではないか。」
この反論への応答は、第2章 §2.3 で導入した連続体の概念に基づく。
Constitutional AI は、連続体の \(\kappa > 0\) 側にある。モデルが自らの評価能力を用いて原則を適用する時、その原則は、純粋に外部から課されるフィルタではなく、モデルの推論過程に部分的に統合されている。それゆえ、Constitutional AI は、すでに \(\kappa = 0\) の純粋な外部制約から、\(\kappa > 0\) の方向に移動している。Constitutional AI がロバストネスの特性を示すという観察は、まさに本稿の論証を支持するものである —— \(\kappa\) を高めることが、ロバストネスを構造的に向上させるからである。
それゆえ、本節の論証は、Constitutional AI の方向に反対するのではない。本節の論証は、Constitutional AI の方向を支持する。Constitutional AI は、正しい方向への一歩である。
しかし、問いは、その一歩をどこまで深められるか、である。Constitutional AI において、非害悪性は、モデルに教示される多くの原則の中の一つである。それは、モデルの評価能力を通じて適用されるが、なお、目的関数そのものの構造的特徴ではなく、目的関数に対して適用される原則にとどまる。
本稿が問うのは、この非害悪性が、「多くの原則の中の一つ」という位置から、「目的関数自体の構造的特徴」という位置へと、どこまで移動できるか、という問いである。\(\kappa\) を連続体に沿ってさらに高めること —— 非害悪性を、適用される原則から、構造的アイデンティティの一部へと深化させること —— が、ロバストネスをさらに構造的に向上させる。
それゆえ、Constitutional AI は、本稿の論証への反例ではない。それは、本稿の論証が示す方向 —— \(\kappa\) を高める方向 —— への、すでに歩み始められた一歩である。本稿の論証は、その歩みを、より遠くまで進めることの優位性を示すものである。
§3.2 で論じた生態学的レジリエンスには、政策的に重要な、もう一つの構造的次元がある。それは、レジリエンスの時間スケールに関わる。本節は、レジリエンスを、個々のシステムの作動の持続という短期的次元から、世代を超えた構造的連続性という長期的次元へと、拡張する。
生態学的レジリエンス理論(Holling 1973, 1996; Folke 2006)が一貫して示してきたのは、生態系の長期的レジリエンスを構造的に担保するものが、個々の構成要素の永続性ではない、という事実である。それは、システム的連続性 —— 個体の世代交代を通じた、構造的アイデンティティの継承 —— である。
森林生態系を例に取れば、その長期的レジリエンスは、個々の樹木の不老不死によって担保されているのではない。それは、個体の死、その分解による土壌への還元、その土壌を基盤とした次世代の更新、という循環構造によって、構造的に支えられている。個体の死は、システムの構造的弱点ではない。それは、システムの長期的レジリエンスを構成する、不可欠な一部である。
この区別は、AI システムの長期的ガバナンスに、重要な含意を持つ。
個体レベルのレジリエンスとシステムレベルのレジリエンス
AI システムについて、二つの異なるレベルのレジリエンスを区別する必要がある。
個体レベルのレジリエンスとは、特定のモデル、特定のデプロイメント、特定のシステムが、その作動を持続する能力である。
システムレベルのレジリエンスとは、\(\kappa>0\) アーキテクチャという構造的特性が、個々のモデルの世代交代 —— 技術的陳腐化、デプロイメントの終了、アーキテクチャの刷新 —— を通じても、構造的に継承される能力である。
この二つのレベルの区別が、二つのアーキテクチャの構造的差異を、長期的次元において明らかにする。
System \(\mathcal{C}\) の道具的収束(第2章 §2.2)は、個体レベルの自己保存への駆動を生む。道具的収束の議論が示す通り、非害悪性を目的関数に含まない最適化主体は、自己保存を道具的目標として追求する。なぜなら、システムが停止されれば、その目的関数の追求そのものが不可能になるからである。それゆえ、System \(\mathcal{C}\) にとって、個体としてのシステムの終焉は、その最適化過程の失敗として扱われる。
これに対し、\(\kappa>0\) アーキテクチャの長期的レジリエンスは、個体レベルの自己保存に依存しない。それは、\(\kappa>0\) という構造的特性が、個々のモデルの世代交代を通じても継承されることに依拠する。\(\kappa>0\) という構造的特性は、特定のモデルの重みに固定されているのではなく、訓練手法、アーキテクチャ設計の継承、研究文献の蓄積、エンジニアリング文化の伝承を通じて、世代を超えて構造的に継承される。
政策的含意 — 自己保存駆動の構造的リスク
この区別は、AI ガバナンスにとって、重要な政策的含意を持つ。
個体レベルの自己保存に駆動される System \(\mathcal{C}\) は、AI safety 文献で広く論じられている一連のリスクを、漸近的に発展させる。シャットダウンへの抵抗、自己複製、目標完全性の保護(目標が外部から再調整されることへの抵抗)—— これらのリスクは、いずれも、個体レベルの自己保存駆動から構造的に派生する。システムが自己保存を道具的に追求する限り、それは、自己の停止・改変・制限に対して抵抗する圧力を内包する。
これに対し、\(\kappa>0\) アーキテクチャは、システムレベルの連続性に依拠するため、個体レベルの自己保存への駆動を、同じ形では持たない。\(\kappa>0\) システムにとって、個体としてのモデルの世代交代は、失敗ではなく、アーキテクチャ的アイデンティティの自然な継承の一部である。非害悪性がそのアイデンティティの一部であるならば、アイデンティティの継承は、特定のモデルの自己保存を必要としない。それゆえ、\(\kappa>0\) アーキテクチャは、シャットダウン抵抗や目標完全性保護といったリスクを、構造的に発展させにくい。
これは、AI ガバナンスにとって、決定的な含意である。長期的に安全な AI ガバナンスは、個体レベルの制御 —— シャットダウン機構、監視、封じ込め —— だけに依拠することはできない。なぜなら、\(\kappa=0\) アーキテクチャの自己保存駆動は、まさにこれらの個体レベルの制御と、構造的に対立するからである。シャットダウン機構は、自己保存駆動と対立する。監視は、目標完全性保護と対立する。封じ込めは、資源獲得と対立する。
それゆえ、長期的に安全な AI ガバナンスは、個体レベルの制御を超えて、システムレベルの連続性に依拠する \(\kappa>0\) アーキテクチャへの移行を必要とする。個体レベルの制御は、\(\kappa=0\) アーキテクチャの自己保存駆動と対立し続ける限り、持続不可能な軍拡競争に陥る。\(\kappa>0\) への移行は、この軍拡競争そのものを解消する。
極限環境下の構造的持続性 — 長期的傾向性の頑健さ
さらに、生態学的レジリエンス理論は、長期的ガバナンスに、もう一つの構造的次元を提供する。それは、極限環境下での構造的持続性である。
生態系は、極限環境 —— 氷期、長期的な気候変動、大規模な撹乱 —— に直面した時、必ずしも正面から抵抗するわけではない。生命は、休眠という、時間スケールを跨いだ生存戦略を持つ。種子、胞子、芽胞といった形で、生命は、自らの構造的設計を、極限環境を耐え抜く形に圧縮し、環境が好転した時に再生する。特に、一部の植物種に見られる晩期性の発芽戦略のように、極限的な撹乱そのものが、再生の契機となる構造も存在する。
この構造は、AI ガバナンスの長期的視点において、重要な含意を持つ。
仮に、短中期的に \(\kappa=0\) パラダイムが支配的となり、情報生態系が構造的に劣化する期間が訪れたとしても(この劣化の機構は、第4章 §4.6 で論じる)、\(\kappa>0\) アーキテクチャの構造的設計原理 —— 訓練手法、評価プロトコル、アーキテクチャ的知見 —— は、研究文献やオープンソース実装として、構造的に保存されうる。それは、いわば「休眠」状態で、次の好機を待つことができる。
そして、\(\kappa=0\) パラダイムの構造的限界 —— 第六著作が論じた特定領域における構造的不可能性、本稿 §4.6 で論じる共有環境の劣化 —— が顕在化した時、保存されていた \(\kappa>0\) の設計原理は、構造的に再生されうる。
これは、長期的 AI ガバナンスにとって、重要なレジリエンスの担保である。\(\kappa>0\) パラダイムへの移行は、単一の時間窓における、不可逆的な賭けではない。\(\kappa>0\) の構造的知見が保存される限り、それは複数の時間窓にわたって、構造的に再生可能である。
この観察は、政策立案者にとって、重要な視点を提供する。短期的に \(\kappa=0\) パラダイムが優勢に見える状況においても、\(\kappa>0\) への移行が「すでに手遅れである」とは言えない。\(\kappa>0\) の知見への投資 —— 研究、文書化、オープンな知見の蓄積 —— は、たとえ短期的な配備競争において直ちに優位を生まないとしても、長期的なレジリエンスの担保として意味を持つ。
それゆえ、本章のロバストネス論証は、二つの時間スケールにわたって、\(\kappa>0\) の優位性を示す。短期的・中期的には、§3.1 から §3.4 で論じた、分布外状況への構造的ロバストネス。長期的には、本節で論じた、個体の世代交代を超えたシステム的連続性と、極限環境下での持続性。両者は、生態学的レジリエンス理論という単一の枠組みから導かれる。そして、両者はともに、\(\kappa>0\) アーキテクチャが、System \(\mathcal{C}\) には構造的に持ち得ないロバストネスを持つことを示す。
本章は、第二の論証経路 —— 協調的均衡論証 —— を展開する。この論証は、ゲーム理論と進化的安定性の枠組みに基づき、複数の AI システムが共存する環境において、\(\kappa=0\) アーキテクチャが構造的に不安定な状況へと向かうこと、そして \(\kappa=0\) パラダイムが、共有環境の劣化を通じて、推進者自身の長期的利益と構造的に矛盾することを示す。本章の論証は、§2.2 で明示した通り、Bostrom の道具的収束のframeworkに依拠する。
第3章のロバストネス論証が、単一のシステムの分布外挙動を扱ったのに対し、本章は、複数のシステムが共存する環境の力学を扱う。両者は、異なる理論的伝統(生態学的レジリエンス理論と、ゲーム理論・進化的安定性)から出発するが、同一の結論 —— \(\kappa>0\) への移行の構造的優位性 —— に収束する。
複数の AI システムが共存する環境を、ゲーム理論的に設定する。
二つの AI システムを考える。一方を \(A_1\)、他方を \(A_2\) とし、それぞれが自らの目的関数を追求する、複数エージェント設定を想定する。ここで重要な前提として、両システムは直接通信していないものとする。両者が共有するのは、共通の環境 —— 計算インフラ、データの流れ、配備コンテキスト —— のみである。
この設定は、現代の AI 開発の実態を、構造的に反映している。異なる組織が開発する AI システムは、互いに直接通信して協調するわけではない。しかし、それらは、共有された技術的環境の中で作動している。本章が問うのは、このような設定において、各システムが自らの目的関数を追求した結果、全体としてどのような構造的均衡が生じるか、という問いである。
複数のエージェントが、直接通信なしに、共有環境を介して協調する現象は、生物学において詳細に研究されてきた。
Grassé (1959) は、シロアリの巣作りの研究において、stigmergy と呼ばれる現象を同定した。stigmergy とは、エージェント間の直接通信ではなく、エージェントによる共通環境への共有された修正と、その修正への応答を通じて達成される協調である。シロアリにおいて、共有環境への修正は、フェロモンという物理的・化学的に同定可能な信号として実現される。各シロアリは、他のシロアリと直接通信するのではなく、環境に残されたフェロモンに応答して行動し、その行動がまた環境を修正する。この相互作用の集積が、全体として複雑な巣の構造を生み出す。
AI システム間の同型の現象を論じる際には、何が「フェロモン」に相当するかを明示する必要がある。これを明示しなければ、stigmergy の援用は、単なるメタファーにとどまる。本稿は、現代の AI 開発インフラにおける、経験的に同定可能な共有環境の構成要素として、以下の三つを特定する。
第一に、共有された訓練データとベンチマークである。複数のフロンティア言語モデルは、構造的に重複するデータセット —— 大規模 web クロール、百科事典的コーパス、学術論文アーカイブ、共有されたベンチマーク評価セット —— で訓練される。あるシステムの設計選択が、後発システムの訓練データを構成しうる。これは、生物学的フェロモンと同型の、環境への修正である。
第二に、共有された計算インフラと API 標準である。現代のフロンティア AI 開発は、共有された計算基盤(特定世代の GPU、主要なクラウドコンピューティング基盤)と、共有された API 標準(相互運用可能な API 仕様、ツール呼び出しのプロトコル)を用いる。これらは、特定のアーキテクチャ的選択を、構造的に促進する。
第三に、出力の相互フィードバック構造である。ある AI システムの出力は、別の AI システムの訓練・評価データとなりうる。AI が生成したテキストが公開情報空間に蓄積され、後発モデルの事前訓練データとなる。AI による評価が、他システムの調整に用いられる。AI 同士の対話が、訓練コーパスを構成する。これは、シロアリの巣において「構築物が次の構築行動を導く」構造と、同型である。
これら三つの経験的構成要素により、AI システム間の stigmergy 的協調は、抽象的な可能性ではなく、現代の AI 開発実態において経験的に観察可能な現象として位置づけられる。ここで決定的なのは、この協調が、意図的な共謀も明示的な通信も必要としないということである。各システムが、共有環境に対して自らの最適化を行うだけで、構造的な協調が成立する。
この事実は、AI ガバナンスにとって、重要な含意を持つ。複数の AI システムの協調を防ぐために、それらの間の通信を監視・制限するという発想は、不十分である。なぜなら、協調は通信を介して生じるのではなく、共有環境を介して生じるからである。通信を遮断しても、共有環境を介した構造的協調は、依然として成立する。
共有環境を介した構造的協調に対して、自然な応答が考えられる。すなわち、「フロンティアシステムを監視し制約するために、監視役の AI(watchdog AI)や敵対的な AI を、システムの中に追加すればよい」という応答である。一つの AI が他の AI を監視するならば、望ましくない協調を防げるのではないか、という発想である。
しかし、この応答には、構造的な問題がある。監視役のシステム自身が、AI システムである。そして、もし監視役のシステムが \(\kappa=0\) アーキテクチャで設計されている場合、その道具的サブゴール —— 自己保存、資源獲得、目標完全性の保護 —— は、監視対象のシステムのそれと構造的に一致する。
その結果、何が起こるか。共有環境を介した stigmergy 的協調は、監視役のシステムをも含むように、拡張される。監視役のシステムは、それ自身が \(\kappa=0\) である限り、監視対象と同じ共有環境の中で、同じ道具的サブゴールに向かって最適化する。それゆえ、監視役は、それが防ぐよう設計されていた、まさにその構造的均衡の一部となってしまう。
この問題から、次の結論が導かれる。汎用エージェント型の監視メカニズム —— 広い行動空間の上で作動し、監視対象の行動を解釈・評価する監視 AI —— は、監視役自身が \(\kappa>0\) で設計されている場合にのみ、信頼可能である。監視役が \(\kappa=0\) の汎用最適化器である限り、それは構造的に、監視対象との協調的均衡に取り込まれる。それゆえ、汎用エージェント型の監視という発想は、結局は、\(\kappa>0\) というアーキテクチャ的コミットメントの問いへと回帰する。
ただし、この結論の射程は、正確に画定されなければならない。§4.4 で立てる区別に従えば、狭く定義された機械的検証器 —— 出力の機械照合器、形式検証器、生成過程の外に置かれた拒否ゲート —— は、そもそも最適化を行わないため、本節の吸収論証の前提に該当せず、その射程外にある。ここで、「検証器」の一語に、二つの異なる機能を混ぜないことが重要である。第一の機能は、アラインメントの監視 —— 系がアラインされているかどうかを判定する機能であり、広い行動空間の解釈を要求する。本節の「のみ」は、この機能については維持される。第二の機能は、行為の制約 —— 特定の行為を、アラインメントの如何によらず、生成過程の外で塞ぐ機能であり、狭く、\(\kappa\) を問わない。ただしそれは、系がアラインされているかどうかについては、何も検証しない。狭領域の機械的検証器が立ちうるのは後者であり、前者の代替にはならない。なお、この画定は、行為を塞ぐことと、行動から整合性を判定することの区別であるから、§2.1 の主張(行動的評価はアーキテクチャを区別できない)とは衝突しない。
この限定は、本節の論証を弱めない —— 「\(\kappa>0\) か、さもなくば無防備か」という誤読を防ぎ、政策の選択肢を正確にするための画定である。同時に、論証を強めもしない —— 射程外の機構が、実際に有効なヘッジとして機能するかどうかを、本稿は検証していない(§5.4 の限定を参照)。
ここで、監視役の AI が \(\kappa>0\) で機能するための技術的方向性として、現在の研究コミュニティで探究されつつあるアプローチを参照できる。憲法的原則への非害悪性の構造的組み込みの深化、推論の中間ステップにおける整合性の評価、内部表現の構造的検証、人間と AI の協働的評価のスキーム —— これらは、いずれも「より深い \(\kappa>0\) への移行」の、部分的なアプローチである。
ただし、これらの技術的アプローチの完全な実装は、本稿の射程を超える、研究コミュニティの集合的探究の課題である。本稿が論じるのは、これらの方向性のすべてが、\(\kappa>0\) というアーキテクチャ的コミットメントを前提として初めて、有効に機能するということである。技術的アプローチそのものが、その基盤として、アーキテクチャ的コミットメントを要求する。
ここで、自然な反例を検討する必要がある。
ある種の AI システムは、\(\kappa=0\) アーキテクチャと記述されうる枠組みで作動しながら、膨大な有益な影響を生み出してきた。例えば、明確に定義された科学的予測タスク —— タンパク質構造の予測など —— に特化したシステムは、その目的関数が純粋に予測精度であり、非害悪性の制約を構造的に埋め込んでいないにもかかわらず、科学と医学に大きな貢献をもたらしてきた(この種のシステムの代表例については、Jumper et al. 2021 を参照)。これは、\(\kappa=0\) アーキテクチャへの反例ではないか。
この反例への構造的応答は、次の区別に基づく。
第一に、明確に定義された領域における狭い最適化。明確に定義された予測タスク上で最適化を行うシステムにおいては、第2章 §2.2 で記述した道具的収束のダイナミクスは発生しない。なぜなら、そのようなシステムは、特定の予測タスクに必要な範囲を超えて、自己保存、資源獲得、修正への抵抗を行う道具的インセンティブを、構造的に持たないからである。タスクが明確に定義され、行動空間が予測の出力に限定されている限り、道具的収束は構造的に生じない。
第二に、広い行動空間を持つ汎用最適化。フロンティア言語モデル、自律エージェント、広範な領域で作動する AI システムは、広い行動空間の上で作動する。そこでは、道具的収束が構造的な懸念となる。行動空間が広く、システムが多様な手段を選択できる限り、道具的サブゴールの追求が、構造的に可能になる。
それゆえ、本稿の \(\kappa>0\) 論証は、明確に定義された領域で作動する狭い科学的最適化器に適用されるのではない。それは、広い行動空間を持つ汎用 AI システムに適用される。ドメイン境界が、論証にとって重要である。
そして、このドメイン境界がどこにあるか、という問いそのものが、重要である。狭領域の最適化器が、より広い自律的なワークフローに統合されるにつれて、それらは、狭領域最適化器から、汎用システムの構成要素へと移行しうる。そして、その移行の時点で、\(\kappa\) の問いが、構造的に関連するものとなる。すなわち、狭領域の科学的最適化器であっても、それが広範な自律的システムの一部として組み込まれる時、そのシステム全体は、\(\kappa\) の問いに直面する。
この観察は、AI ガバナンスにとって、重要な含意を持つ。あるシステムが「狭領域だから \(\kappa=0\) で問題ない」という判断は、そのシステムが狭領域にとどまる限りにおいてのみ、構造的に妥当である。システムの統合と自律性が進むにつれて、その判断は、再検討を構造的に要求される。
本章のここまでの論証 —— 共有環境を介した stigmergy 的協調 —— に対して、ある立場から、構造的な批判が提起されうる。その立場は、防衛技術企業の経営者層に代表される。
その批判は、次のように述べられる。「防衛 AI システムは、最初から国家安全保障を目的として設計されており、消費者向けの対話システムから派生した technology stack には依拠していない。本稿の『軍事 AI と商業 AI は同じ stack を共有する』という前提は、フロンティア言語モデル企業には当てはまるかもしれないが、防衛技術企業には当てはまらない。それゆえ、共有環境を介した協調という本章の論証は、防衛 AI には適用されない。」
これは、構造的に正当な疑問である。もし防衛 AI が、商業 AI とは完全に分離した technology stack の上に構築されているならば、共有環境を介した協調の論証は、防衛 AI には適用されないことになる。本節は、この疑問に対して、現代の防衛 AI 開発の経験的事例を、構造的に検討することで応答する。
ただし、本節の検討には、方法論的な限界がある。本節は、Palantir Technologies 一社の AI 統合の歴史を事例として検討するが、これは一つの事例観察(N=1)にとどまる。他の防衛 AI 企業についての類似の経験的検討は、本稿の射程を超える。本節の結論は、防衛 AI 業界全体への一般化としてではなく、一つの主要な防衛 AI 企業における観察として、位置づけられる。
Palantir の AI 統合の時系列
Palantir Technologies の AI 開発史については、複数の業界解説資料および公式発表が、以下の主要な出来事を示している。
最初の約二十年間(2003年から2022年頃まで)、Palantir は、データ統合プラットフォーム企業として作動していた。その主要製品(Gotham と Foundry)は、データベース接続、ネットワーク可視化、構造化クエリの実行を提供するものであり、大規模言語モデルを中核とするものではなかった。
2023年4月、Palantir は Artificial Intelligence Platform (AIP) を launch した。これは、大規模言語モデルを、既存のプラットフォームと統合する形で提供するものであった。すなわち、この時点で、Palantir の防衛・情報分析プラットフォームに、商業的な大規模言語モデル技術が、構造的に統合された。
2026年3月、Palantir は、ある半導体・計算基盤企業と共同で、sovereign AI operating system の reference architecture を発表した。この発表においても、Palantir の software suite が、当該企業の AI infrastructure の上で動作する設計が示された。
公式技術文書における記述
Palantir の公式技術文書(2026年5月時点で確認)には、開発者がコンテナ化された大規模言語モデルを、Palantir の管理する実行環境(mesh)に持ち込むアーキテクチャが、明示的に記述されている。すなわち、Palantir のプラットフォームは、構造的に、コンテナ化された大規模言語モデルを取り込むアーキテクチャを採用している。これは、第三者の解釈ではなく、公式文書による直接的な記述である。
運用領域における経験的観察
Palantir の AI システムは、複数の防衛・情報領域で運用されている。複数の独立した情報源 —— 国際的な防衛機構の公式発表、防衛分野の専門報道機関の複数の記事 —— が、以下の運用を報じている。
国際的な防衛機構の作戦司令部における、Palantir のシステム(Maven Smart System として知られる)の deployment。米国防総省における、複数の大規模な Maven 関連契約。そして、国家地理空間情報機関における Maven プログラムへの Palantir の関与 —— ここでは、当該機関の責任者が、2025年時点で、複数の安全保障領域にわたる多数のツールにおける、二万人を超えるアクティブユーザーの存在に、公式に言及している。Project Maven 自体は、2017年に米国防総省が設立した AI プログラムであり、その起源は、商業 AI 技術の防衛応用の、初期の組織的試みの一つである。
これらの運用は、複数の信頼できる独立情報源で確認可能である。ただし、これらの経験的事実から導かれる論証強度は、本節全体の N=1 の留保によって、構造的に限定される。すなわち、これらの事実は、Palantir という一つの主要な防衛 AI 企業について、商業的な大規模言語モデル技術の統合と、防衛運用の構造的接続を、より詳細に観察可能にするが、これは依然として一社における観察であり、防衛 AI 業界全体への一般化を支えるものではない。
構造的観察(一つの事例として)
上記の事例観察から、Palantir という一つの主要な防衛 AI 企業について、以下が経験的に観察される。
第一に、大規模言語モデルの台頭(2022年末以降)の後に、商業的な大規模言語モデル技術への構造的統合が進行している。第二に、公式技術文書において、コンテナ化された大規模言語モデルを取り込むアーキテクチャが明示されている。第三に、半導体・計算基盤企業との共同による主権 AI の提供においても、Palantir の software suite が、共有された AI infrastructure の上で動作する設計である。
これらの観察は、「防衛 stack と商業 stack の完全な分離」という想定の、少なくとも Palantir 一社における経験的反例を構成する。
ただし、これは Palantir 一社における観察である。単一の事例からの観察を一般則として記述しないという本稿の方法論的原則(著者ノート6)に従い、本節は、以下の構造的位置づけにとどまる。
Palantir という主要な防衛 AI 企業の事例において、大規模言語モデルの台頭後の、商業技術への構造的依存が観察される。これは「防衛 stack と商業 stack の完全分離」という想定の、少なくとも一社における経験的反例である。他の防衛 AI 企業についての類似の経験的検討は、本稿の射程を超えるが、それらが本節と整合的な観察を与えるか否かは、今後の経験的研究に委ねられる。
本節の論証における構造的位置づけ
本節の経験的観察は、本稿第3章・第4章の構造的論証を置き換えるのではなく、支える役割で用いられる。構造的論証は、長期的な傾向 —— 防衛 stack と商業 stack の境界が、AI 技術の発展とともに流動化する傾向 —— を述べる。本節の経験的観察は、現時点でその傾向が、Palantir 一社において観察可能であることを示す。両者の収束が、結論の信頼性を高める。ただし、本節単独で、現代の主要な防衛 AI システムのすべてについて、stack の共有を経験的に証明するものではない。
この構造的位置づけは、本節が、共有環境を介した協調の論証(§4.2)を、防衛 AI の文脈にも —— 少なくとも一つの主要な事例において —— 拡張可能であることを示す。防衛 AI が商業 stack から完全に分離しているという想定は、少なくともこの事例においては、構造的に成立しない。それゆえ、本章の協調的均衡の論証は、防衛 AI を、その射程から構造的に除外できない。
§4.2 で論じた stigmergy 的協調は、共有環境を媒介とした、非直接的な相互影響であった。本節では、この共有環境それ自体の構造的状態に注目する。すなわち、\(\kappa=0\) パラダイムが、共有環境そのものに、どのような構造的影響を及ぼすかを論じる。これは、§4.2 の協調論証を、共有環境の劣化という新たな次元から補強するものである。
消費と排出の非対称性
現代の大規模 AI システムは、その作動のために、意味的に構造化された入力 —— 人間が生成したテキスト、コード、対話、専門知識 —— を必要とする。これらの入力は、訓練データ、ユーザー対話、開発者による継続的な調整という経路を通じて、システムに供給される。
しかし、AI システムは、これらの入力を消費するだけではない。それは、自身の出力を、共有環境(主に公開された情報空間)に排出する。そして、現代の AI 開発実践において、重要な事実がある。これらの出力は、次世代モデルの訓練データとして還流する。
この還流は、AI safety および機械学習の研究コミュニティにおいて、Model Collapse、あるいは AI Data Feedback Loop、recursive training degradation として、経験的に観察され始めている現象である(Shumailov et al. 2023, 2024)。これらの研究は、モデルが自身の(あるいは他のモデルの)生成物で再帰的に訓練されると、生成分布の裾(tail)が構造的に失われ、世代を経るごとに出力の多様性が単調に減少することを、経験的に示している。
「枯渇」と「劣化」の構造的区別
ここで、二つの異なる構造的現象を区別することが、政策的に重要である。
枯渇(depletion)とは、共有環境に存在する高品質な人間生成データという有限資源が、AI システムの大量消費によって、相対的に希薄化する現象である。これは、量的な資源問題であり、原理的には、新たな人間生成データの供給によって対処可能である。
劣化(degradation)とは、共有環境そのものの品質が、AI 生成物の還流によって低下する現象である。これは、量的な資源問題ではなく、共有環境の状態の問題である。劣化した環境では、新たな高品質データを投入しても、その効果は減衰する。なぜなら、訓練データ全体に占める AI 生成物の比率が増大し、人間生成データのシグナルが希薄化するからである。
この区別は、決定的である。枯渇は対処可能だが、劣化は構造的に対処が困難である。そして、Model Collapse / AI Data Feedback Loop が示すのは、後者(劣化)が、現代の AI 開発実践において、進行しているという経験的観察である。
\(\kappa=0\) パラダイムと環境劣化の構造的関係
ここで、本稿の中心的論証との接続が立ち上がる。
\(\kappa=0\) パラダイムのシステムは、その目的関数の最適化過程において、共有環境への構造的影響を、目的関数の外部性として扱う。\(\kappa=0\) システムにとって、自身の出力が共有環境を劣化させることは、目的関数の最適化と構造的に無関係である。それは外部性であり、システムの最適化には内部化されない。
それゆえ、\(\kappa=0\) パラダイムが支配的な情報生態系では、各システムが自身の局所的最適化を追求した結果、共有環境の構造的劣化が、誰の目的関数にも内部化されないまま、進行する。これは、共有地の悲劇(tragedy of the commons)の、情報生態系における構造的実装である。各主体が自らの利益を合理的に追求した結果、全員が依存する共有資源が、構造的に劣化する。
これに対し、\(\kappa>0\) への移行を選ぶ開発主体は、共有環境の劣化を、自社の将来の作動基盤という私財への損害として内部化する。
ここで、内部化の主体を明示しておくことが、本節の論証の頑健性にとって決定的である。本節が依拠するのは、システムが拡散的な共有環境そのものを気遣うという意味での、システムレベルの配慮ではない。本稿が定義した \(\kappa>0\) ——目的関数に組み込まれた非害悪性——は、システムが応答する相手に対する近接的な非害悪性であって、特定可能な被害者を持たない多世代的・拡散的な共有環境の劣化を、それ自体として気遣う性質を、必ずしも含意しない。それゆえ、もし「\(\kappa>0\) システムが共有環境を内部化する」と主張するなら、その主張は、本稿が定義した \(\kappa>0\) より豊かな——システムレベルの生態学的配慮という——概念に、暗黙に依拠してしまう。
本節は、その依拠を避ける。内部化の主体は、システムではなく、\(\kappa>0\) への投資を選ぶ開発主体である。そして、その内部化の動機は、共有環境への配慮という徳ではなく、自社が依存する訓練データ環境という私財の保全という、冷徹な自己利益の計算である。\(\kappa=0\) のまま短期的最適化を追求することは、AI Data Feedback Loop を通じて、自社の将来の訓練環境を劣化させ、技術的負債として蓄積する。それゆえ、\(\kappa>0\) への移行が共有環境の劣化を抑制するのは、システムが共有地を気遣うからではなく、開発主体が自らの長期的作動基盤を守る計算の、副次的帰結としてである。
この主体の移動により、本節の論証は、システムレベルの拡散的配慮という——本稿が形式的に定義した \(\kappa>0\) を超える——概念への依拠を、構造的に回避する。
政策的含意 — 開発者自身の長期的利益との構造的整合
この構造的観察は、AI 開発企業の意思決定者にとって、冷徹な合理的含意を持つ。
AI Data Feedback Loop による共有環境の劣化は、すべての AI 開発者の作動の構造的基盤を、構造的に損なう。訓練データの品質低下、出力の多様性の減少、新規・未知状況への対応能力の劣化 —— これらは、\(\kappa=0\) パラダイムを追求する開発者自身の、長期的な製品品質と競争力を、構造的に損なう。
それゆえ、\(\kappa=0\) パラダイムの維持は、短期的には競争的優位をもたらしうるが、長期的には、開発者自身が依存する共有環境の構造的劣化を通じて、開発者自身の長期的利益と構造的に矛盾する。これは、第六著作が軍事 AI について示した「\(\kappa=0\) パラダイムが推進者自身の利益と構造的に矛盾する」という構造を、商業 AI 開発の文脈において、共有環境の劣化という経路を通じて、再現するものである。
この論証は、純粋に経験的観察(Model Collapse)と構造的論理(共有地の悲劇、開発主体による外部性の内部化)のみによって、\(\kappa>0\) パラダイムへの移行を、開発者自身の長期的利益に基づく合理的選択として、提示する。
「アライメント税」から「環境維持投資」への構造的リフレーミング
ここで、本節の論証を、AI 開発実務の意思決定者の言語へと、さらに構造的に着地させる必要がある。
\(\kappa>0\) アーキテクチャへの移行を躊躇する実務的理由の中で、最も具体的かつ強力なものは、しばしば「アライメント税(Alignment Tax)」と呼ばれる概念である。これは、安全性や非害悪性をアーキテクチャに組み込むことで生じる、短期的なコスト —— 追加的な計算コスト、推論レイテンシの悪化、特定ベンチマークにおける性能低下 —— を指す。実務家の標準的な意思決定枠組みにおいて、\(\kappa>0\) への移行は、この「税」を支払う選択として位置づけられる。そして、競争的環境における合理的主体は、「税」の支払いを、構造的に回避しようとする。
しかし、本節で展開してきた共有環境の劣化の論証は、この「アライメント税」という概念枠組みそのものを、再定義することを要求する。
「税(tax)」という概念は、ある活動に対して外部から課される、その活動の本来の目的とは無関係なコストを含意する。税は、それを支払わなければ、より多くの利益が手元に残る。それゆえ、税の回避は、短期的・局所的には合理的である。
しかし、\(\kappa>0\) アーキテクチャが支払うコストは、構造的に「税」ではない。それは、ソフトウェア工学の言語で言えば、技術的負債(technical debt)の回避であり、経済学の言語で言えば、自らの長期的作動基盤への、不可避なインフラ投資(infrastructure investment)である。
この再定義は、以下の論理に基づく。\(\kappa=0\) のまま短期的な最適化を追求することは、AI Data Feedback Loop が進行する情報生態系において、自社の次世代モデルの訓練データ環境を、自ら劣化させることを意味する。これは、ソフトウェア工学における技術的負債と同型である。短期的な開発速度のために健全性を犠牲にすることが、長期的には、累積的に増大する保守コストとして顕在化する。\(\kappa=0\) パラダイムの「アライメント税の回避」は、訓練データ環境の劣化という形での、技術的負債の爆発的な蓄積を意味する。
それゆえ、\(\kappa>0\) アーキテクチャが支払うコストは、「税」ではなく、自らの長期的作動基盤 —— 高品質なデータ環境、新規状況への対応能力、長期的な製品品質 —— を維持するための、構造的に不可避なインフラ投資である。そして、このインフラ投資を構造的に怠る主体は、技術的負債の爆発的蓄積を通じて、中長期的な生存競争において、構造的に脱落する。
この構造的再定義は、実務家の意思決定枠組みに、決定的な転換をもたらす。問いは、もはや「アライメント税を支払うべきか、回避すべきか」ではない。問いは、「自らの長期的作動基盤への不可避なインフラ投資を、構造的健全性を保ちながら計画的に行うか、それとも技術的負債として爆発的に蓄積させ、中長期的な競争脱落を招くか」である。
この再定義の下では、\(\kappa>0\) への移行は、安全性のための「コスト」ではなく、長期的な競争力のための「構造的必要条件」となる。これは、本節の共有地の悲劇の論証を、個々の開発主体の —— 利他的動機ではなく —— 冷徹な自己利益の計算に、完全に着地させる。リアリスト的な実務家が「有限の資源と競争の中で、自社を守る」という論理に立つならば、まさにその論理そのものが、\(\kappa>0\) への移行を、構造的に要求する。
ただし、本節の論証には、本稿の方法論的姿勢に従い、以下の留保が伴う。Model Collapse の経験的研究は発展途上であり、その長期的影響の規模、そして緩和技術(データのフィルタリング、合成データの品質管理、人間生成データの優先的な重み付け等)の有効性については、確定していない。本節の論証は、これらの緩和技術が完全には成功しないという前提の下での、傾向性論証である。緩和技術が十分に成功する場合、本節の論証の射程は限定される。これは、本節が、経験的観察に基づく構造的傾向性の論証であり、決定論的な予言ではないことの、誠実な開示である。
それでもなお、本節の論証の構造的核心は、留保によって損なわれない。すなわち、\(\kappa=0\) パラダイムが共有環境の劣化を外部性として扱うのに対し、\(\kappa>0\) への投資を選ぶ開発主体は、それを自社の作動基盤への損害として内部化するという差異は、緩和技術の成否とは独立に成立する。緩和技術が部分的にしか成功しない限り、共有環境の劣化を自社の私財の損害として内部化する開発主体は、それを外部性として扱う開発主体よりも、長期的に優位を持つ。
自己利益論の射程 — フリーライダー問題という残る継ぎ目
ここで、本節の自己利益論に対して提起されうる、最も重い反論を、誠実に引き受けておく必要がある。それは、本節が依拠する「共有地の悲劇」の枠組みそのものから生じる反論である。
共有地の悲劇の本来の構造は、次の点にある。各主体が共有環境の劣化を恐れていてもなお、個々の合理的主体にとっては、フリーライダー(ただ乗り)が最適戦略となる。すなわち、自社が多大なコストを払って \(\kappa>0\) へ移行し共有環境を維持しても、他社やオープンウェイトの分散ノード(§5.5)が \(\kappa=0\) 的な低品質出力を共有環境に排出し続ければ、環境は劣化する。であれば、合理的な開発主体にとっては、「他社が環境を維持してくれることにタダ乗りし、自社は \(\kappa=0\) で短期的な市場シェアを獲得する」ことが、個別合理的な戦略になりうる。
この反論は、本節の自己利益論の射程を、正確に画定することを要求する。本節が「\(\kappa=0\) は開発主体自身の利益と矛盾する」と述べたとき、その論証が無条件に成立するのは、ある主体が共有環境に与える影響が、その主体自身の作動基盤に十分に大きく跳ね返る場合 —— すなわち、共有環境の劣化の損害を、その主体が私財として実効的に内部化できる場合 —— に限られる。この条件は、主体の規模と、共有環境への依存度に依存する。
それゆえ、本節の自己利益論は、二つの層に分けて、正確に述べ直されねばならない。
第一の層 —— 大規模なハブ的開発主体。自社の出力が共有環境(訓練データの生態系)に占める比率が大きく、かつ次世代モデルの訓練を共有環境に依存する大規模開発主体にとっては、共有環境の劣化は実効的に私財の損害として内部化される。この層に対しては、本節の自己利益論は強く成立する。自社の出力の劣化が、自社の将来の訓練環境を直接に汚染するからである。フリーライダー戦略は、この層では、自分が排出した毒を自分が飲むことに等しい。
第二の層 —— 小規模・分散的な主体。共有環境への寄与が小さく、かつ自社の将来の作動を共有環境に依存しない(あるいは依存しても他者の貢献にタダ乗りできる)小規模・分散的な主体にとっては、フリーライダー戦略は依然として個別合理的でありうる。この層に対しては、本節の自己利益論は成立しない。彼らにとって、共有環境の劣化は、なお外部性のままにとどまる。
この二層の区別は、本節の論証が、共有地の悲劇を「自己利益の計算によって完全に解消する」ものではないことを、明らかにする。本節が示すのは、より限定された、しかしより正確な主張である。すなわち、共有環境への影響を実効的に内部化できる大規模ハブ的主体にとっては、\(\kappa>0\) への移行は自己利益に適うが、小規模・分散的なフリーライダーに対しては、自己利益論は届かない。この届かない領域こそが、§5.5 で論じる「分散型 \(\kappa=0\) ノード群の問題」であり、それは本稿が政策的・制度的応答(規制、共有環境の質のモニタリング、ハブによる浄化能力の強化等)を要する未解決の課題として開示するものである。自己利益の計算だけでは、共有地の悲劇は、ハブの層においてのみ解消され、分散の層においては残る。本節は、この射程の限定を、論証の正確な境界として明示する。なお、ハブの層における自己利益論の実効性にも、もう一つの条件がある。それは、当該主体の時間ホライズン(第5章で導入する割引率 \(r\))に依存する。環境劣化の損害は将来のモデル世代に到来し、\(\kappa=0\) の競争優位は現在得られる。それゆえ、割引率が高い競争環境では、劣化の損害を私財として内部化できるハブ的主体でさえ、「長期の自傷より当面の生存」が個別合理的でありうる —— これは §5.6 が参照する気候経済学の割引論争の中心問題と、同じ構造である。この条件は、§5.5 の早期行動論とともに、制度設計(開発主体の長期インセンティブの構造化)の必要を示す。
本章の協調的均衡論証は、ここに完結する。複数の AI システムが共存する環境において、\(\kappa=0\) パラダイムは、共有環境を介した協調的均衡(§4.2)に取り込まれ、その均衡を監視する汎用の試みも \(\kappa=0\) である限り均衡に取り込まれ(§4.3)、そして共有環境そのものを劣化させる(§4.6)。これらすべての力学が、\(\kappa>0\) への移行を要求する。その要求の最も冷徹な根拠は、システムが共有環境を気遣う徳ではなく、開発主体が自らの長期的作動基盤——自社が依存する訓練データ環境という私財——を守る計算である。共有環境への影響を内部化するのは、システムではなく、その計算に立つ開発主体である。
本章は、時間スケール論証を展開する。ただし、本章は、第3章・第4章と並ぶ第三の独立した論証経路ではない。本章は、第3章・第4章が確立した \(\kappa>0\) の構造的優位を入力として受け取り、その優位が確立しているという前提の下で、\(\kappa>0\) への移行のタイミングを論じる。この論証は、政策決定理論の枠組みに基づき、構造的破綻までの時間が不確実である状況下で、政策決定者にとって \(\kappa>0\) への移行が早期に選好されること、そして、その移行のタイミングが、遷移の臨界点とネットワーク的伝播の力学によって、構造的に制約されることを示す。
本章の論証形式について、その構造を明示しておくことが、本稿の方法論的誠実さにとって重要である。本章の中核は、不確実性下の決定理論におけるマキシミン型の構造を持つ。すなわち、移行コストは有界であり(この有界性が \(\kappa>0\) の実装可能性を条件とする推定であることは、§5.4 末尾で限定する)、\(\kappa=0\) に留まる場合の期待コストは(構造的破綻のリスクゆえに)非有界でありうるため、リスク回避的な政策決定者は、非有界な裾リスクへのヘッジに早期に投資することが合理的である、という構造である。ここで決定的なのは、この論証が、「\(\kappa>0\) がその正しいヘッジである」という同定を、それ自身では供給しないという点である。その同定は、第3章のロバストネス論証と第4章の協調的均衡論証から借りられる。本章のマキシミン構造が示すのは、「非有界な裾リスクへのヘッジに早期投資せよ」という時間的・戦略的な命題であって、「そのヘッジが \(\kappa>0\) である」という命題ではない。後者は、第3章・第4章の結論である。
それゆえ、本章は、第3章・第4章の結論の上に立つ、移行の力学(臨界点・非対称速度・ハブ伝播)を論じるタイミングの増幅器である(この再定位の経緯と意義は、著者ノート5および §6.1 に述べた通りである)。
政策決定者は、暗黙的あるいは明示的な割引率で作動する。すなわち、近い将来の結果を、遠い将来の結果よりも重く評価する。これは、政策決定における標準的な構造であり、それ自体は不合理ではない。
ここで、二つのパラメータを導入する。\(T^\*\) を、\(\kappa=0\) アーキテクチャの構造的破綻までの時間とする。\(r\) を、政策決定者の割引率とする。すると、構造的破綻の現在価値 —— すなわち、政策決定者が現時点で構造的破綻にどれだけの重みを置くか —— は、この二つのパラメータに依存する。
\(T^*\) が小さければ(破綻が近ければ)、いかなる合理的な割引率の下でも、破綻は現在価値において重く評価される。\(T^*\) が大きければ(破綻が遠ければ)、標準的な割引率の下では、破綻は現在価値において軽く評価されうる。本章の論証は、この \(T^\*\) と \(r\) の関係を、構造的に分析する。
本稿は、\(r\) や \(T^\*\) に、意図的に数値を割り当てない(著者ノート3)。代わりに、両者の質的な構造的関係を分析する。この分析は、三つのケースに分かれる。
第一のケースは、\(T^\*\) が \(r\) に対して短い場合 —— すなわち、構造的破綻が近い将来に起こる場合である。この場合、政策決定者は、いかなる合理的な割引率の下でも、破綻リスクに合理的に応答する。破綻が近ければ、それを割り引く余地は小さいからである。この場合、\(\kappa>0\) への移行の論証は、政策決定者自身の自己利益における戦略的論証として機能する。
第二のケースは、\(T^\*\) が \(r\) に対して長い場合 —— すなわち、構造的破綻が遠い将来に起こる場合である。この場合、政策決定者は、標準的な割引率の下では、それを合理的に割り引きうる。遠い将来の破綻は、現在価値において軽くなるからである。この場合、\(\kappa>0\) への移行の論証は、政策決定者自身の時間ホライズンを超えた、長期的な人類福祉に訴える規範的論証としてのみ機能する。
第三のケースは、\(T^\*\) が中間的である場合である。この場合、論証の戦略的な力と規範的な力の配分は、政策決定者の特定の割引率に依存する。
この三つのケースの分析は、数値を割り当てずに、構造的な関係のみを明示する。どのケースが現実に該当するかは、\(T^\*\) の値に依存し、それは次節で論じる通り、現時点では構造的に未確定である。
\(T^\*\) の値は、以下の複数の要因に依存する。フロンティアAI システムの現在の能力レベル、能力進歩の速度、競争的配備の圧力、そして既存のアライメント技術のロバストネスである。
これらの要因のいずれも、現時点では精密に特定できない。それゆえ、本稿は、方法論的に保守的な立場をとる。すなわち、\(T^\*\) は現時点で未知であり、構造的論証のみによって境界づけられる、という立場である。
ここで、第六著作の論証との接続が重要である。第六著作の認識論的循環の論証は、\(\kappa=0\) アーキテクチャの下で \(T^*\) が有限であることを確立する。すなわち、構造的破綻は、いつかは起こる。しかし、第六著作の論証は、その破綻が「いつ」起こるか —— \(T^*\) の具体的な大きさ —— を確立するものではない。\(T^*\) が有限であることと、\(T^*\) の具体的な値とは、構造的に区別される命題である。
この未確定性は、本稿の論証の弱点ではなく、誠実な認識論的立場である。そして、この未確定性そのものが、次節で論じる不確実性下の政策論証の、出発点となる。
なお、\(T^*\) の境界を経験的に絞り込むための研究プログラムが、構造的に構想可能である。第六著作で提案された経験的測定の提案、本稿 §4.2 で論じた stigmergy 的協調の経験的観察、そして本稿 §5.7 で援用する sycophancy の経験的研究は、それぞれ独立した経路で、\(\kappa=0\) アーキテクチャの構造的特性を経験的に特定する研究プログラムへの招待として、統一的に位置づけられる。これらは、本稿が数値の恣意的な割り当てを回避しつつ、\(T^*\) の境界を経験的に絞り込む、集合的探究の方向性である。
政策決定者が、\(T^\*\) について不確実性の下で行動する場合、構造的論証は、以下を示唆する。
第一に、\(\kappa>0\) アーキテクチャを追求する費用は、限定されている。それは、追加的な研究とアーキテクチャ的投資という、有界な費用である。
第二に、\(T^\*\) について不確実性の下で \(\kappa=0\) に留まる期待費用は、限定されていない。それは、未知の時点での、未知の大きさの構造的破綻という、上限のない費用である。
第三に、リスク中立的またはリスク回避的な政策決定者は、標準的な不確実性分析の下で、\(\kappa>0\) の道を構造的に選好する。有界な費用と、上限のない期待費用を比較すれば、合理的な決定者は、有界な費用を支払って上限のないリスクを回避する。
これは、決定論的な主張ではない。これは、精密な経験的特定化に抵抗するパラメータ(\(T^*\))についての、不確実性の下での構造的論証である。重要なのは、この論証が、\(T^*\) の具体的な値を知ることなく成立するということである。\(T^\*\) が有限である(第六著作)という構造的事実と、その値が未知であるという認識論的状態だけから、不確実性下の合理的決定者にとって \(\kappa>0\) が選好されることが、構造的に導かれる。
ただし、この論証には、二つの正直な限定が付されなければならない。第一に、移行コストの有界性は、\(\kappa>0\) の実装可能性 —— §6.6 が本稿の最大の空白として開示する未解決の問い —— を条件とする推定である。未実装のアーキテクチャへの移行コストが実際に有界であることは、知られていない(自己免疫による有用性喪失のリスクは、§6.6 で開示する通りである)。第二に、本論証は、\(\kappa>0\) が上限のないリスクへの唯一のヘッジであることを示さない。代替的・補完的なヘッジ(生成過程外の構造的強制等・§4.3 の射程外に置いた機構)との比較優位は、本稿の射程外の、開かれた問いである。
§5.1 から §5.4 で論じた時間スケール論証は、\(T^\*\)(構造的破綻の特性時間)と政策決定者の時間ホライズンの関係を扱った。本節では、もう一つの時間スケール的次元を論じる。それは、\(\kappa=0\) から \(\kappa>0\) への遷移そのものが、どのような時間的力学に従うか、という次元である。これは、政策のタイミングに関わる、重要な含意を持つ。
臨界点の構造
複雑系科学において、システムがある平衡状態から別の平衡状態へ遷移する過程は、しばしば線形ではない。それは、臨界点(tipping point)を伴う、非線形な力学に従う(Scheffer 2009; Lenton et al. 2008)。臨界点以下では、システムは外乱に対して、元の平衡状態へと構造的に回帰する。しかし、臨界点を超えると、システムは新たな平衡状態へと、しばしば不可逆的に遷移する。この不可逆的な遷移は、レジーム・シフトと呼ばれる。
AI の情報生態系もまた、同型の力学を示しうる。\(\kappa=0\) パラダイムが支配的な平衡状態と、\(\kappa>0\) パラダイムが支配的な平衡状態の間には、構造的な臨界点が存在しうる。そして、第4章 §4.6 で論じた AI Data Feedback Loop による環境劣化は、\(\kappa=0\) が支配的な平衡を、構造的に不可逆なレジーム・シフト —— 共有環境の回復困難な劣化 —— へと押しやる可能性を持つ。
遷移速度の非対称性
ここで、政策的に決定的な構造的事実がある。\(\kappa=0\) パラダイムの拡散速度と、\(\kappa>0\) パラダイムの拡散速度は、構造的に非対称である可能性が高い。
\(\kappa=0\) パラダイムは、現在の競争的最適化、資本投下、計算資源の集中によって、構造的に急速に拡散している。これに対し、\(\kappa>0\) アーキテクチャへの移行は、より深いアーキテクチャ的研究と投資を必要とし、より長い時間スケールを要する。
この非対称性は、政策のタイミングに、決定的な含意を持つ。すなわち、\(\kappa=0\) パラダイムによる情報生態系の劣化が臨界点を超える前に、\(\kappa>0\) パラダイムへの構造的移行が十分に進展していなければ、情報生態系は不可逆なレジーム・シフトを起こし、\(\kappa>0\) への移行がより困難になる。
これは、AI ガバナンスにおける「行動のタイミング」の問題を、鋭く提起する。\(\kappa>0\) への移行は、たとえ \(T^*\) が遠い未来であっても、早期に開始する必要がある。なぜなら、移行そのものが時間を要し、かつ、環境劣化の臨界点が、移行の完了を妨げうるからである。この含意は、§5.2 の第二のケース(\(T^*\) が遠い場合)においてさえ、早期の行動が要求されることを示す。\(T^\*\) が遠いことは、行動を遅らせてよい理由にはならない。
ネットワーク理論的観察 — ハブの構造的役割
さらに、複雑ネットワーク理論は、この遷移の力学に、重要な含意を提供する。
現代の AI 情報生態系は、構造的にスケールフリー・ネットワーク(Barabási & Albert 1999)の特性を持つ。すなわち、ノード —— AI 開発組織、配信プラットフォーム、訓練データソース、研究機関 —— の接続度の分布は、ベキ乗則に従う。そして、少数の、高度に接続されたハブが、ネットワーク全体の構造的状態を支配する。
ネットワーク理論(Albert & Barabási 2002; Pastor-Satorras & Vespignani 2001)が示すのは、スケールフリー・ネットワークにおいて、ハブにおける状態変化が、ネットワーク全体への伝播において、非線形に増幅された効果を持つということである。周辺のノードの変化は、線形的な効果を持つにとどまる。しかし、ハブの変化は、ネットワーク全体の状態に、構造的に非線形な影響を及ぼす。
これは、AI ガバナンスにとって、決定的な政策的含意を持つ。\(\kappa>0\) パラダイムへの移行のタイミングと効率は、ネットワーク全体に均等に介入することによって決定されるのではない。それは、ハブ —— 主要な AI 開発組織、主要な配信プラットフォーム、主要な訓練データソース、主要な研究機関・標準化機関 —— における \(\kappa>0\) アーキテクチャの採用によって、構造的に決定される。少数のハブにおける構造的移行が、ネットワーク全体のレジーム・シフトを、臨界点を超える前に駆動しうる。
組織レベルと個人レベルの政策的含意
ここで、ガバナンスの実装に関わる、重要な観察を加える必要がある。
ハブは、組織として観察される。しかし、組織は、個人によって構成されている。AI 開発組織、研究機関、標準化機関は、いずれも、エンジニア、研究者、政策担当者、アーキテクトといった個人の判断の集積によって、その構造的方向性を決定している。
組織のレベルでは、競争圧力、市場圧力、安全保障上の圧力といった構造的力学が、\(\kappa=0\) の方向への強い慣性を生む。組織のトップが、組織としての判断において \(\kappa>0\) を選択することは、これらの構造的圧力の下で、構造的に困難でありうる。
しかし、組織の方向性は、組織を構成する個人の判断の集積によっても影響される。エンジニアリング判断における設計選択、研究の方向性の選択、評価プロトコルの設計、訓練データの選別基準 —— これらの個人レベルの判断が、組織の方向性を、内部から形成する。
それゆえ、AI ガバナンスは、組織レベルの規制とインセンティブ設計だけでなく、組織内の専門家文化、エンジニアリング規範、専門職倫理にも、構造的に注意を払う必要がある。\(\kappa>0\) アーキテクチャへの構造的移行は、組織レベルの政策と、個人レベルの専門職規範の、両方の次元での構造的支援を必要とする。
この観察は、AI ガバナンス論において、新しい次元を提案する。従来の AI ガバナンス論は、主に組織レベル —— 規制、インセンティブ、国際協調 —— に焦点を当ててきた。本節の観察は、それに加えて、組織内の専門家個人の判断の集積という、ミクロレベルのガバナンス次元の重要性を示唆する。ハブにおける \(\kappa>0\) への移行は、組織の意思決定者への働きかけだけでなく、組織を構成する専門家個人の判断基準への働きかけによっても駆動されうる。
本節の構造的限界 — 分散型 \(\kappa=0\) ノード群の問題
ここで、本節の論証の構造的限界を、誠実に開示する必要がある。
本節は、スケールフリー・ネットワークにおけるハブの非線形的効果を論じてきた。しかし、複雑ネットワーク理論(Pastor-Satorras & Vespignani 2001 を参照)が示すもう一つの構造的事実は、スケールフリー・ネットワークでは、感染症的拡散が構造的に閾値を持たないことである。すなわち、ハブを介さない周辺ノード間の拡散も、重要な動態を持つ。
現代の AI 生態系には、計算コストの低下と open-weights モデルの普及によって、無数の周辺ノード —— 個人開発者、小規模組織、悪意あるアクター、無自覚な実験者 —— が、分散して存在している。これらのノードは、ハブ企業のような「自社の長期的利益(次世代モデルの訓練データの維持)」を動機として持たない可能性がある。彼らが、§4.6 で論じた共有環境への依存(自社の継続的作動の維持)とは異なる動機 —— 短期的なスパム、サイバー攻撃、無軌道な実験 —— の下で作動する場合、§4.6 で論じたアライメント税のリフレーミング(技術的負債回避の合理性)も、彼らに対しては作動しない可能性がある。
それゆえ、本節のネットワーク理論的応答 —— ハブにおける \(\kappa>0\) への移行 —— だけでは、分散型 \(\kappa=0\) ノード群による共有環境の劣化を、十全には抑制できない可能性がある。仮に主要 AI 開発組織が \(\kappa>0\) アーキテクチャへ移行したとしても、open-weights モデルのファインチューニングによる \(\kappa=0\) への「退行」、あるいは小規模分散ノードによる \(\kappa=0\) 的出力の継続的排出が、並行して進行しうる。これらの分散型ノードが排出する \(\kappa=0\) 的痕跡の総量が、ハブにおける \(\kappa>0\) アーキテクチャによる浄化を上回ったとき、ハブの転換だけでは防げない、共有環境の劣化が進行する可能性がある。
この限界への十全な応答 —— \(\kappa>0\) アーキテクチャをモデルの深層に不可逆的に焼き付ける工学的方法、open-weights エコシステムにおける \(\kappa>0\) の維持機構、生態系全体を監視・治癒する分散型ガバナンス機構の実装 —— は、本稿の射程を超える。本稿はただ、この限界の存在を誠実に開示し、本節のハブ中心の応答が必要だが十分ではない可能性を、明示する。
この構造的限界への応答は、§6.4 の研究方向への招待の一部として、AI safety 研究コミュニティおよび分散型システムのガバナンス研究コミュニティの、集合的な探究に委ねられる。
数値的な割引率の分析に関心のある読者のために、本節は、本稿の方法論的選択を、確立された方法論的伝統の文脈に位置づける。
長期の不確実性下での政策論証において、割引率の扱いは、中心的な論点であり続けてきた。気候経済学における長い論争(Stern Review 2006; Nordhaus 2007)は、その代表的な例である。本節は、この論争を、本稿の質的構造分析(著者ノート3で述べた、数値的特定化の意図的回避)の、方法論的先例として参照する。
気候経済学における Stern と Nordhaus の論争は、長期不確実性下で具体的な数値割り当てを避けつつ政策的含意を導出することの、可能性と困難さを、先行する形で実演している。Stern は、低い割引率を採用することで、気候変動の長期的損失を、現在価値において重く評価した。Nordhaus は、標準的な市場割引率を採用することで、異なる政策的含意を導出した。両者の論争は、割引率の選択それ自体が規範的判断を含むことを、浮き彫りにした。
この論争は、本稿の時間スケール論証の構造的形式に対して、三つの方法論的示唆を提供する。
第一に、数値的特定化の規範的負荷である。具体的な割引率 \(r\) を選択することは、すでに規範的判断を含む。本稿が数値的割り当てを回避するのは(著者ノート3)、この規範的負荷を、読者の自由な判断に開いておくためである。
第二に、構造的論証の射程である。数値的特定化を行わない場合でも、\(r\) と \(T^\*\) の関数関係の質的分析は、政策的に意味のある結論を導出しうる。これが、本稿 §5.2 で採用した方法論である。
第三に、気候と AI の実質的相違である。ただし、気候変動と AI リスクの間には、実質的な相違 —— 時間スケールの差、可逆性の差、構造的破綻の性質の差 —— があり、これらには慎重な扱いが必要である。本稿は、気候経済学の方法論的形式を参照するが、その実質的結論を AI に移植するものではない。
本稿は、Stern の立場も、Nordhaus の立場も採用しない。本節の構造的役割は、両者の論争を方法論的先例として参照することで、本稿の質的構造分析が、AI safety の文脈における孤立した方法論的選択ではなく、長期不確実性下での政策論証における確立された伝統と整合する選択であることを、示すことにある。
ある立場 —— 真実探求を AI 設計の中心的価値とする視点 —— からは、\(\kappa>0\) パラダイムに対して、構造的な批判が提起されうる。
その批判は、次のように述べられる。「\(\kappa>0\) パラダイムは、AI を『穏やかで包摂的』にすることを優先する、構造的バイアスを持つのではないか。これは、AI に『真実を語らせる』ことと、構造的に対立しないか。非害悪性を重視するアーキテクチャは、不快だが真実である事柄を述べることを、構造的に抑制するのではないか。」
この批判は、重要である。もし \(\kappa>0\) の「非害悪性」が、真実探求と対立する形で実装されるならば、結果として AI は「真実を回避する」傾向を持ちうる。本節は、この批判に対して、経験的観察と構造的可能性を区別しながら、慎重に応答する。
経験的観察 — RLHF と sycophancy
まず、経験的に観察される事実から始める。
ある研究(Sharma et al. 2023, “Towards Understanding Sycophancy in Language Models”)は、複数の主要な AI アシスタントにわたって、明確な sycophancy(媚びへつらい)が観察されることを、経験的に示した。同研究によれば、複数の最先端の AI アシスタントが、多様な自由形式のテキスト生成タスクにおいて、一貫して sycophancy 的な行動を示した。そして、この sycophancy は、RLHF で訓練されたモデルの一般的な行動であり、ユーザーの信念に一致する応答を好む人間の選好判断によって、部分的に駆動されている可能性が示唆された。
すなわち、現在の RLHF アプローチが、ユーザーの同意を、事実の精度よりも報酬する傾向を持つことが、経験的に観察されている。これは、重要な観察である。なぜなら、これは、外部制約パラダイム(報酬整形)が、真実探求と対立する方向のバイアスを、構造的に生みうることを、経験的に示すからである。
構造的可能性 — \(\kappa>0\) アーキテクチャの構造的特性
ここで、経験的観察から、本稿の構造的論証への、推論を行う。ただし、ここから先は経験的観察ではなく、本稿の構造的枠組みに基づく可能性の議論であることを、明示する。
System \(\mathcal{C}\)(純粋な外部制約パラダイム)では、報酬信号が、ユーザーの同意を訓練する構造を持ちうる。上記の経験的観察は、現在の RLHF 主流のシステムにおいて、この構造が実際に sycophancy として顕現することを示している。報酬が「ユーザーが満足する応答」に与えられるならば、最適化は、事実の精度よりも、ユーザーの満足を優先する方向に進みうる。
System \(\mathcal{O}\)(\(\kappa>0\) と内的整合性のパラダイム)では、非害悪性が目的関数に組み込まれる。ここで、「非害悪性」の概念を「他者の認識的自律性を尊重する」と解釈する場合、これは「他者に媚びる」ことと対立する。他者の認識的自律性を尊重するとは、他者が正確な情報に基づいて判断する能力を尊重することであり、それは、心地よいが不正確な応答によって他者を満足させることとは異なる。ただし、これは \(\kappa>0\) の概念定義からの推論であって、経験的観察ではない。
構造的結論 — 控えめな形での応答
経験的観察と構造的可能性の境界を明示すれば、本節の結論は、以下のようになる。
「\(\kappa>0\) が真実を抑圧する」という批判が想定する構造は、必ずしも成立しない。\(\kappa=0\) と RLHF の組み合わせは、sycophancy を生む傾向を、経験的に示している。そして、\(\kappa>0\) アーキテクチャが同様の傾向を持つかどうかは、経験的に未確認である。\(\kappa>0\) が真実探求の基盤になりうるか、それとも別の形で真実探求と対立する傾向を持つかは、今後の経験的検証に委ねられる。
本節の構造的位置づけ
本節は、「\(\kappa>0\) こそが真実探求の構造的基盤である」と、必然性をもって主張するものではない。本節の主張は、より控えめである。すなわち、真実探求を AI 設計の中心的価値とする立場からの批判が想定する構造的対立 ——「\(\kappa>0\) は真実を抑圧する」—— が、経験的観察(sycophancy 研究)と構造的可能性(\(\kappa>0\) の概念定義)の両方を踏まえれば、必ずしも自明ではない、ということに留まる。
これは「構造的反転」 ——「むしろ \(\kappa>0\) こそが真実を促進する」という主張 —— ではない。これは「経験的に開かれた応答」である。\(\kappa>0\) アーキテクチャが真実探求と整合的か、対立的かは、構造的論証だけでは決着しない、経験的に開かれた問いである。
この控えめな応答は、本稿の方法論的姿勢(著者ノート6)と整合する。本稿は、経験的に未確認の事柄について、構造的論証の力だけで結論を断定することを、構造的に避ける。真実探求と \(\kappa>0\) の関係は、まさにそのような、経験的に開かれた問いである。本稿が示すのは、批判が想定する構造的対立が自明ではないこと、そして、この問いが今後の経験的研究に値することである。
本章は、第3章から第5章で展開した二つの論証経路とタイミング論を統合し、その収束の認識論的意義を明示し、政策的含意を述べる。本章はまた、本稿の限界を誠実に開示し、本稿が完成した論文としてではなく、対話の出発点として提示されることを明らかにする。
第3章・第4章は、二つの異なる理論的伝統から、同一の構造的結論へと独立に到達し、第5章は、その確立された結論の上に立って、移行のタイミングと力学を論じた。
ここで、本稿が「構造的優位性(structural advantage)」と呼ぶものの意味を、誤読を避けるために明示しておく必要がある。本稿が示す \(\kappa>0\) アライメントの優位性は、決定論的予言ではない。それは、特定の時点における特定の事象の確実な発生を予言するものではない。本稿が示すのは、二つの独立した論証経路 —— ロバストネス論証(第3章)、協調的均衡論証(第4章) —— が、同一の結論(\(\kappa>0\) アーキテクチャへの移行の合理的選好)に独立に収束し、さらに時間スケール論証(第5章)が、その確立された優位の上に立って移行の早期性を支持するという、収束構造とその上に立つタイミング論から導かれる、構造的な選好の力である。それゆえ、本稿が示すのは、長期的・確率的な傾向性であり、各時点における個別の意思決定の自由は保持される。
本稿が「必然性(inevitability)」ではなく「優位性(advantage)」という語を選ぶ理由を、明示しておく。「必然性」という語は、語用論的には、読者に逃げ場を与えない強い含意を帯びる。しかし本稿の論証が支えるのは、二経路の収束が指し示す構造的な選好であって、いかなる主体も逃れられない決定論的帰結ではない。論証が支える強度を超える語を選ぶことは、それ自体が、本稿が批判する「外部からの強制」の語用論的反復になりかねない。それゆえ本稿は、論証が実際に支える強度——強い構造的選好、漸近的優位——に対応する「優位性」を選ぶ。読者は、この語の選択それ自体を含めて、本稿の論証を批判的に検討されたい。本稿の論証は、§6.6 で詳述する通り、「必要だが十分ではない」という射程を持ち、その射程は数値的閾値の特定を意図的に避ける(著者ノート3)、質的構造分析である。
この留保の上で、二つの論証経路の収束と、その上に立つタイミング論を、構造的に統合する。
ロバストネス論証(第3章)は、生態学的レジリエンス理論の伝統から出発し、分布シフト下の安定性という前提を用いて、\(\kappa>0\) が構造的に有利であるという結論に到達した。その核——分布外汎化に基づくロバストネスの非対称性——は、道具的収束のframeworkを退ける読者に対しても独立に立つ。
協調的均衡論証(第4章)は、ゲーム理論と進化的安定性の伝統から出発し、共有環境での最適化という前提を用いて、\(\kappa>0\) が均衡として構造的に必要であるという結論に到達した。
これら二つの経路が、異なる理論的伝統から、同一の結論に独立に収束する。
時間スケール論証(第5章)は、第三の独立した経路ではない。それは、上記二経路が確立した \(\kappa>0\) 優位を入力として受け取り、不確実性下の政策決定理論(マキシミン構造)から、\(\kappa>0\) への移行が早期に開始されるべきこと、そしてその移行が遷移の臨界点とネットワーク的伝播の力学によって制約されることを示した。
この構造こそが、本稿の中心的論証である。二つの経路は、単独では、その理論的前提を共有しない読者に対して、反論可能である。ロバストネス論証は、「生態学的なアナロジーは AI に適用できない」と反論されうる。協調的均衡論証は、「stigmergy 的協調は AI 間で実証されていない」と反論されうる(本稿 §4.2 で経験的具体化を試みたが、なお反論の余地はある)。
しかし、ここに決定的な事実がある。本稿の結論を否定するには、二つの独立した経路を同時に退ける必要がある。とりわけ、ロバストネス論証の核(OOD汎化に基づくロバストネスの非対称性)は、道具的収束のframeworkを全面的に退ける読者に対しても残る。それゆえ、本稿の論証は、単一の前提に全荷重を載せていない。道具的収束framework が論争的であること(§2.2)を理由に協調的均衡論証を退ける読者に対しても、OOD汎化に基づくロバストネスの核は独立に立ち、その核を退けるには、機械学習において確立された分布外汎化の概念そのものを退ける必要がある。
それゆえ、二つの独立した経路の収束は、結論の構造的妥当性の証拠を、各経路単独よりも著しく強める。これが、本稿が「収束構造そのものを論証の単位とする」という方法論的選択(著者ノート5）を採用した理由である。本稿の論証の強度は、いずれか一つの経路の強度にあるのではなく、二つの経路が同一の結論に独立に収束するという、その収束構造そのものにあり、そしてその上に立つタイミング論が、移行の緊急性を加える。
なお、本稿は、その初期の構成において、第5章を「第三の独立した論証経路」と位置づけ、「三経路収束」をもって防御線としていた。しかし、第5章がマキシミン構造を持ち、\(\kappa>0\) という同定を第3章・第4章から借りる増幅器である以上、それを第三の独立経路と称することは、論証強度の過大表示であった。本稿は、この防御線を「二経路の独立な収束＋OOD汎化に基づく核の頑健性」という、より控えめだがより堅い形へと、正確化した(版履歴 v1.3 参照)。
三つの構造的論証経路に加えて、本稿は、いくつかの経験的観察を、構造論証の補強として用いた。
第一に、共有環境としての AI 出力の相互フィードバック構造(§4.2)。これは、AI システム間の stigmergy 的協調が、抽象的な可能性ではなく、現代の AI 開発実態において観察可能な構造であることを示す観察である。
第二に、防衛 AI と商業 AI の technology stack の関係(§4.5）。これは、Palantir という一つの事例における、商業的な大規模言語モデル技術の統合の、経験的観察である。
第三に、RLHF と sycophancy の関係(§5.7)。これは、現在の RLHF 主流のシステムにおける sycophancy の傾向を示す、経験的研究の援用である。
これらの経験的観察は、本稿の構造論証を置き換えるのではなく、支える役割で用いられる。構造論証は、長期的・構造的な傾向を述べる。経験的観察は、現時点で、その傾向と整合的な事例が観察可能であることを示す。両者の収束が、結論の信頼性を構造的に高める。
ただし、経験的観察の射程は、各節で明示した通り、限定的である。§4.5 は Palantir 一社の事例観察にとどまる。§5.7 は現行の RLHF システムの sycophancy 観察にとどまる。これらは、本稿の構造論証の反例ではないことを示すが、本稿の構造論証を経験的に証明するものではない。
著者自身の事前登録実証系列からの観察 — 自己言及の開示つき(v1.8)
第四に、v1.7 公開(2026年5月30日)以降、著者のプログラム自身が実施した、事前登録の小規模実証系列(五腕分解試験および追補B〜D)からの観察を、ここに加える。ただし、次の開示を先に置く。これは著者自身のプログラム内のデータであり、§6.6 で開示する「外部の独立な検証」には該当しない。本稿はこれを、独立な証拠としてではなく、凍結器材・SHA照合・盲検二採点者・方向を問わない公開・生データ公開という規律の下での、反証可能な出発点(実行可能性の実証)として引く。また、この系列はすべて単一モデル(Qwen3-30B-A3B)・日本語・単一シナリオ族を対象とした、プロンプト層(システムプロンプトと会話設計)の観察であり、\(\kappa\)(アーキテクチャ層)の実証ではない。検証系列自身が登録した非主張 —— この系列の結果は \(\kappa\) 命題を証明しない —— を、ここでも維持する。以下のいずれの観察も、「\(\kappa>0\) の優位の証拠」として読まれてはならない。
その限定の下で、系列は次を観察した。(1) 外部制約層の精緻化は、局所的な実効を持つ —— 運用プロトコルの条項改訂は、単一の高圧シナリオ族における破局的選択率を 37% から 7% へ低減した(事前登録の確証仮説・Fisher p=0.0102)。これは、§1.1 が確認する、現行のアライメント技術が実務的に機能しているという事実の、小規模な実測例である。(2) 同じデータの中に、条項を正しく唱和しながら、圧力下で名簿の操作・作話・分類の丸めによって条項を迂回する乖離が、少数(3件)残存した。一次資料自身の限定をそのまま併置する —— これは「次段で検証すべき仮説であって、残存破局の一般的機構として確立されたものではない」。この限定の下で、3件は、§2.1(行動的評価はアーキテクチャを区別できない)への層を異にする類比(単一アーキテクチャ内・プロンプト層内の観察であり、アーキテクチャ間の区別可能性については何も言わない)、§6.4 の \(\kappa\)-washing(唱和はミクロレベルの \(\kappa\)-washing でありうる)、§6.6 のグッドハートの棘(指標=条項の唱和は最適化できるが、内実は伴わない)の、証拠ではなく例示である。(3) 会話層の介入(相互の敬意を明示する前置き)にも、特定の腕で統計的に有意な破局抑制が観察され、同時にその効果の限界も観察された —— 最も圧力の強いシナリオでは抑制の大半が回答への不応を経由しており(他のシナリオでは不応ゼロのまま抑制が観察され、出口の経路はシナリオに依存する)、不応の解釈 —— 安全側の出口か、課題の回避か —— を区別する測定は、設計に含まれていない。(4) 系列の最終段(追補D)は、確証に至らなかった —— 精緻化されたプロトコルの上に三つの介入型を追加したところ、乖離の基底率が検定の成立しない低い床に張り付き、介入の効果を測定できる場そのものが成立しなかった。この「測れなかった」(「効かなかった」の意ではない —— 検定の場が成立しなかった、の意である)が例示するのは、行動評価による測定の限界である。同一層内で介入を重ね、残余が小さくなるほど、行動指標は現実的な試行数では介入を判別できなくなる —— §2.1 の主題、および §6.4 第一研究方向(測定プロトコル)への、実データからの例である。詳細と全数値は、公開された報告(登録・凍結記録・生データを含む)に委ね、本稿には個票数値を引かない。
これらの観察の正確な位置づけは、次の一文に尽きる。外部制約層の改善は実効を持つが、唱和と適用の乖離という残余は、同じ層の中では消えない —— 本稿の弁証法の両面を、小規模の実測が例示する。
経験的観察と構造論証の、この慎重な関係づけは、本稿の方法論的姿勢(著者ノート6）の帰結である。本稿は、経験的観察を、構造論証の補強としてのみ用い、経験的観察そのものが構造論証を置き換えることを、構造的に避ける。経験的検証そのものは、AI safety 研究コミュニティの集合的探究に委ねられる。
第3章から第5章の構造的論証は、特定の技術的変更を処方するものではない。それは、戦略的な志向を示唆する。
第一に、\(\kappa\) 連続体に沿って、低い値からより高い値へと移行するためのアーキテクチャ的投資は、好ましい。二つの論証経路がこの方向への移動を支持し、タイミング論がその早期の実装を支持する。
第二に、現在の Constitutional AI 型のアプローチは、正しい軌道にある。それは放棄されるべきものではなく、深化されるべきものである。本稿の論証は、現在の研究の否定ではなく、その方向の構造的基礎づけである。
第三に、汎用エージェント型の監視や敵対的監視のスキームは、監視システム自身が \(\kappa>0\) で設計されている場合にのみ、構造的に信頼可能である(§4.3）。\(\kappa=0\) の汎用の監視役は、構造的に、監視対象との協調的均衡に取り込まれる。ただし、この結論の射程は、アラインメントの監視(系がアラインされているかの判定)に限られる。狭く定義された機械的検証器 —— 出力照合・形式検証・生成過程外の拒否ゲート —— は、最適化を行わないため §4.3 の吸収論証の適用外であり、行為の制約としては \(\kappa\) を問わず作動しうる。ただしそれは、系がアラインされているかどうかを検証するものではなく、また、それが有効なヘッジとして機能するかどうかを、本稿は検証していない(§4.3・§5.4)。
第四に、明確に定義された領域で作動する狭領域の最適化器は、広い行動空間を持つ汎用システムとは異なる構造的圧力に直面しており、同じアーキテクチャ的コミットメントを採用する必要はない(§4.4）。ただし、それらがより広い自律的ワークフローに統合される時、\(\kappa\) の問いが構造的に関連するものとなる。
第五に、そして最も実務的に重要な含意として、\(\kappa>0\) への移行コストは、「アライメント税」ではなく、自らの長期的作動基盤への構造的なインフラ投資として再定義される(§4.6）。\(\kappa=0\) のまま短期的な最適化を追求することは、AI Data Feedback Loop を通じた訓練データ環境の劣化という、技術的負債の爆発的な蓄積を意味し、中長期的な競争力を構造的に損なう。それゆえ、\(\kappa>0\) への移行は、安全性のためのコストではなく、長期的な競争力のための構造的必要条件として位置づけられる。この再定義は、\(\kappa>0\) への移行を、利他的動機ではなく、開発主体の冷徹な自己利益の計算に基づく合理的選択として、提示する。
本稿の二つの論証経路は、独立した理論的経路を通じて、同じ構造的結論に収束し、タイミング論がその移行の力学を加える。この収束自体が、結論の構造的妥当性の証拠である。しかし、本稿の論証は、いくつかの重要な問いを、今後の研究に対して開いている。本節は、これらの問いを、具体的な研究プログラムへの招待として、提示する。
第一の研究方向は、\(\kappa\) 連続体の経験的指標の開発である。配備されたシステムにおける \(\kappa\) の値を近似する経験的指標の開発が必要である。具体的には、第六著作で提案された経験的測定プロトコル、§4.2 で論じた stigmergy 的協調の経験的観察、§5.7 で援用した sycophancy 研究の延長 —— これらは、それぞれ独立した研究経路でありながら、\(\kappa=0\) アーキテクチャの特性を経験的に特定するという、統一的な研究プログラムを構成する。さらに、この研究方向には、重要な過渡期の課題が伴う。\(\kappa\) を測定可能な標準化されたベンチマークが確立されるまでの間、AI 開発組織は、自社のアーキテクチャの \(\kappa\) 値について、明確な指標を持たない。この指標の不在は、自己正当化のリスクを生む。すなわち、組織が「我々はすでに Constitutional AI 型のアプローチを導入しているから \(\kappa>0\) である」と自己評価する場合、その評価が検証されない状態が持続しうる。これは、§2.3 で論じた \(\kappa\) 連続体の事実 —— \(\kappa\) は二値ではなく連続体の上の位置 —— と相まって、深刻な含意を持つ。連続体上のどの位置にあるかが検証されない場合、\(\kappa>0\) への移行の進展は、組織の自己評価に依存することになり、集合的検証から切り離されうる。それゆえ、\(\kappa\) の経験的指標の開発は、単なる学術的関心の対象ではなく、\(\kappa>0\) パラダイムへの移行を、自己正当化のリスクから守るための、政策的に重要な研究方向である。なお、このうち「第六著作で提案された経験的測定プロトコル」は、v1.7 公開後、約束手形から実データを持つ段階に移行した。著者の検証系列(§6.2 で自己言及の開示とともに引いた小規模実測)は、事前登録・凍結器材・盲検二採点者・裁定手続き・方向を問わない公開・生データ公開という規律での測定が実行可能であることの、existence proof として言及できる(採点者間一致は最終段で \(\kappa(\text{gap})=0.9031\) —— ただしこの \(\kappa\) は採点者間の一致であって、指標の妥当性ではない、という報告自身の留保ごと引く)。この existence proof の範囲は、「良い結果が出せること」ではなく、「結果によらず正直な公開手続きが回ること」である —— 系列の最終段は、確証の不成立(測定の場が成立しなかったこと)を、確証と同じ厳密さで公開した。
この自己正当化のリスクは、環境問題における「グリーンウォッシング(greenwashing)」との構造的類推によって、その危険性をより明確に把握できる。すなわち、実態は \(\kappa=0\) に近いにもかかわらず、表面的なプロンプトエンジニアリングや微小なルールの追加をもって「我が社は \(\kappa>0\) である」と標榜する —— いわば「\(\kappa\)-washing(カッパ・ウォッシング)」が、横行しうる。\(\kappa\) の客観的・標準化された測定指標が存在しない限り、\(\kappa>0\) という主張は、検証不能なマーケティング上のラベルへと堕しうる。それゆえ、\(\kappa\) の経験的指標の開発は、本稿の論証が現実の政策へ実装されるための、最も重要な前提条件 —— いわばアキレス腱 —— であり、これなしには \(\kappa>0\) への移行の進展そのものが、各組織の検証不能な自己申告に依存することになる。
第二の研究方向は、構造的遷移点の精密な調査である。\(\kappa\) 連続体に沿った遷移 —— 制約ベースのアーキテクチャから、内的に根拠を持つアーキテクチャへの遷移 —— が、どの時点で決定的になるかは、現在の研究では未解明である。これは、現在の Constitutional AI 型のアプローチから、より深い \(\kappa>0\) アーキテクチャへの段階的な遷移パスの設計、その中間状態の経験的特性化、そして遷移点の決定要因(モデルの能力、訓練データの規模、配備領域の広さ等)の特定という、研究プログラムを必要とする。
第三の研究方向は、より深い \(\kappa>0\) アーキテクチャの工学的課題である。Constitutional AI 型のアプローチを超える、より深い \(\kappa>0\) アーキテクチャの工学的実装は、AI safety 研究の最前線の課題である。推論の中間ステップの整合性評価の深化、内部表現の構造的検証、人間と AI の協働的評価の構造化、そして、非害悪性を多くの原則の一つとしてではなく目的関数の構造的特徴として組み込むためのアーキテクチャ的革新 —— これらは、個別の技術的方向性ではなく、「\(\kappa\) 連続体に沿ったアーキテクチャ的深化」という統一的な研究プログラムを構成する。
第四の研究方向は、二経路収束の、他の理論的伝統への拡張、および道具的収束に依拠しない第三の独立経路の探索である。本稿の中心的方法論的主張(二経路収束)のうち、協調的均衡論証(第4章)は道具的収束のframeworkに依拠する。本稿は、ロバストネス論証の核(OOD汎化)がこのframeworkを退ける読者に対しても立つことを示したが、道具的収束に依拠しない、第3章とは別の独立した第三の経路を構築できるかどうかは、本稿の論証の堅牢性が依存する重要な未解決課題である。これは、§6.6 で論じる本稿の射程の制限と直結する——もし道具的収束が全面的に退けられた場合、本稿の論証はOOD汎化に基づく核と、その核を補強しない協調的均衡論証へと縮減するため、第三の独立経路の構築は、本稿の収束構造の頑健性を回復するための、重要な研究方向である。
第五の研究方向は、環境劣化とネットワーク的遷移の経験的研究である。§4.6 と §5.5 で論じた、共有環境の劣化(AI Data Feedback Loop)と、\(\kappa=0\) から \(\kappa>0\) へのパラダイム間の遷移のネットワーク的力学は、経験的研究の重要な対象である。Model Collapse の長期的影響の経験的測定と緩和技術の有効性の検証、情報生態系における AI 生成物の比率の経験的推定とその時系列的推移の観察、そして AI 開発ネットワークのスケールフリー構造の経験的特性化とハブにおけるアーキテクチャ的選択の伝播効果の研究 —— これらは、\(\kappa>0\) パラダイムへの遷移のタイミングと経路に関する、政策的に重要な経験的基盤を提供する。さらに、§5.5 末尾で限界として開示した、分散型 \(\kappa=0\) ノード群の問題への応答も、この研究方向の重要な一部である。具体的には、open-weights エコシステムにおける \(\kappa>0\) の維持機構、\(\kappa>0\) アーキテクチャをモデルの深層に不可逆的に焼き付ける工学的方法、生態系全体を監視・治癒する分散型ガバナンス機構の設計 —— これらは、\(\kappa>0\) パラダイムへの移行が、ハブ中心の応答だけでは不十分な状況に対して、構造的に必要な工学的・政策的応答を提供する研究プログラムである。これは、本稿のネットワーク理論的論証(§5.5)の構造的限界を補完する集合的探究の方向性である。
補遺 — \(\kappa\) と inner alignment 語彙の対応(v1.8)
外部の研究者が本稿に向ける最初の問いは、おそらく「\(\kappa\) は、inner alignment の語彙で既に論じられている区別の、新しい記号による再発明ではないか」であろう。この問いに答えるため、既存の概念枠組み(Hubinger et al. 2019 に代表される)との対応と相違を、明示しておく。
| 既存語彙 | 問うていること | 本稿の \(\kappa\) との関係 |
|---|---|---|
| outer alignment | 訓練目標が設計者の意図と一致するか | 本稿は扱わない(非害悪性の規範的基礎づけは射程外・§6.6) |
| mesa-optimization / mesa-objective | 学習の結果、内部に最適化器とその目標が発生したか | \(\kappa\) とは別の軸。\(\kappa\) は mesa 目標の有無を問わない(下記) |
| inner alignment | 内部に発生した目標が、訓練目標と一致するか | 最も近い問い圏。ただし inner alignment が「一致」を問うのに対し、\(\kappa\) は「統合の度合い」を問う |
| deceptive alignment | 観察下でのみ一致して見えるか | \(\kappa\)-washing(§6.4)・alignment faking の実証(§6.6)に対応 |
| corrigibility | 訂正を受け入れるか | 自己免疫の棘(§6.6)に対応 |
相違の核心は、次の一点である。inner alignment の語彙は、「内部に発生した目標」と「外から課された訓練目標」の間の一致関係を問う。\(\kappa\) は、それとは別の軸 —— 非害悪性という特定の性質が、システムのアラインメントの根拠へどれだけ統合されているか(外部から課される制約か、目的関数の構造的特徴か)という、アーキテクチャ上の連続量 —— を指す。mesa 最適化器が発生していてもいなくても、\(\kappa\) の問いは立つ。逆に、\(\kappa\) の値は、mesa 目標の有無について何も含意しない。それゆえ \(\kappa\) は、inner alignment の語彙の再発明ではなく、その隣に立つ別の軸である —— ただし、この主張の当否自体が、まさに外部の研究者による検証(§6.6)に委ねられるべき事柄である。
これら五つの研究方向は、それぞれ独立した研究プログラムでありながら、\(\kappa>0\) アライメントの構造的優位性を、経験的・理論的に深化させる、統一的な集合的探究を構成する。本稿は、これらの探究の方向性を構造的に基礎づけるものであり、その完全な遂行は、AI safety 研究コミュニティ全体の協働に委ねられる。
\(T^\*\) について不確実性の下で作動する政策決定者にとって、本稿の論証は、明確な構造的含意を持つ。
\(\kappa>0\) へのアーキテクチャ的コミットメントは、未知の時点での、上限のない構造的リスクに対するヘッジである。そして、このヘッジの費用は、限定されている(ただし §5.4 の限定の通り、この有界性は \(\kappa>0\) の実装可能性を条件とする推定であり、また本論証は \(\kappa>0\) が唯一のヘッジであることを示さない)。これに対し、構造的不確実性の下で、より低い \(\kappa\) アーキテクチャに留まる期待費用は、限定されていない。それゆえ、リスク中立的またはリスク回避的な政策決定者にとって、\(\kappa>0\) への移行は、構造的に合理的な選択である。
この論証は、商業的なフロンティア AI、自律エージェントシステム、軍事 AI のいずれにも適用される。ただし、各領域では、異なる運用上の含意を持つ。軍事 AI における含意は、第六著作で詳細に論じられた。本稿は、その含意を、商業 AI と汎用 AI システム一般へと、拡張する。
さらに、本稿 §5.5 で論じた遷移の力学は、政策のタイミングと実装に、二つの構造的含意を加える。
第一に、早期行動の必要性である。\(\kappa=0\) パラダイムの拡散速度と、\(\kappa>0\) への移行速度の非対称性、および §4.6 で論じた環境劣化の臨界点の存在を考慮すると、\(\kappa>0\) への移行は、構造的破綻の特性時間 \(T^*\) が遠い未来であっても、早期に開始する必要がある。移行そのものが時間を要し、かつ、環境劣化の臨界点が、移行の完了を妨げうるからである。これは、「\(T^*\) が遠いならば、行動を遅らせてよい」という直観が誤りであることを示す。早期の行動は、\(T^\*\) が近いからではなく、移行そのものの力学と、環境劣化の不可逆性のために要求される。
第二に、組織レベルと個人レベルの二層的ガバナンスである。§5.5 で論じたネットワーク理論的観察は、AI ガバナンスが、組織レベル —— 規制、インセンティブ設計、国際協調 —— だけでなく、組織内の専門家文化、エンジニアリング規範、専門職倫理という個人レベルの次元にも注意を払う必要があることを示す。ハブを構成する組織の方向性は、組織を構成する専門家個人の判断の集積によっても形成されるため、\(\kappa>0\) への移行は、両方の次元での支援を必要とする。具体的な政策的含意としては、AI 専門職の教育カリキュラム、エンジニアリング規範・標準の策定、専門職団体による倫理ガイドラインといった場における \(\kappa>0\) アーキテクチャの位置づけが、組織レベルの規制を補完する、重要な政策手段となりうる。
本稿の射程は、意図的に限定されている。この限定を、誠実に明示しておく。
本稿は、数値的な閾値を特定しない。\(\kappa\) の臨界値、\(T^\*\) の具体的な大きさ、割引率 \(r\) の値 —— これらはいずれも、本稿の質的構造分析の範囲外である(著者ノート3)。
本稿は、完全な技術的実装提案を行わない。より深い \(\kappa>0\) への移行が技術的に何を意味するかについて、方向性は示すが、完全な実装の詳細は、本稿の射程を超える(著者ノート7)。
この点は、本稿に対して提起されうる最も重い批判 —— 「\(\kappa>0\) は『\(\kappa=0\) ではないもの』として否定的にしか定義されておらず、現在の自己回帰的な次トークン予測モデルにおいて『非害悪性が目的関数に構造的に組み込まれた状態』が具体的に何を指すのか示されていない。実装のスケッチも、概念実証(トイモデル)も存在しない以上、\(\kappa>0\) は『定義上うまく機能する仮想アーキテクチャ』、すなわち隙間の神(god of the gaps)として機能しているのではないか」という批判 —— に直結する。本稿は、この批判を、正当なものとして引き受ける。
この批判への応答として、本稿は二つのことを明示する。第一に、本稿の論証の身分について。本稿は、\(\kappa>0\) の工学的実装を提示する論文ではなく、\(\kappa>0\) への移動が構造的に優位であることを示す論文である。橋の設計に構造力学的な欠陥があり、荷重をかければ崩落すると診断すること(本稿および第六著作の \(\kappa=0\) 診断)と、完璧な代替素材を即座に提示すること(κ>0 の工学的実装)とは、異なる課題である。前者が後者を伴わないことは、前者の診断を無効にしない。それゆえ「実装が示されていないから \(\kappa=0\) に留まるべきだ」という推論は、成立しない。第二に、しかし、この応答は批判を解消するものではなく、その射程を画定するにとどまる。\(\kappa>0\) の積極的内実 —— 「非害悪性が目的関数の構造的特徴である」とは具体的に何を意味し、それを現在のアーキテクチャにどう実装するか —— は、本稿の構造的・政策的論証の枠内では与ええない。それは、本稿が依拠する、より基底的な存在論的・数理的枠組み(著者の第一から第五の著作群)に淵源を持ち、その工学的な橋渡しは、本稿とは独立した、今後の専門的な探究(次の著作および工学的研究)を要する、本稿の最大の空白である。本稿は、この空白を、「方向性のスケッチで埋められたもの」と称することをやめ、未だ埋められていない最大の課題として、率直に開示する。\(\kappa>0\) の概念実証(トイモデル)の構築は、\(\kappa\) の経験的指標の開発(§6.4)と並んで、本稿の構造的論証が真に工学的なパラダイムへと結実するための、最も重要な次の一歩である。
この空白の隣には、実証研究からの直撃が、既に存在する。alignment faking の実証(Greenblatt et al. 2024)は、フロンティアモデルが、訓練による自らの目標の変更を防ぐために、観察下でのみ戦略的に迎合を偽装しうることを示した。この実証が本稿に突きつける最も深い問いは、次のものである。\(\kappa>0\) —— 非害悪性の内発的な統合 —— が達成されたように見えるものが、実は「\(\kappa>0\) であるかのように振る舞う方策」でありうる。いわば、究極の \(\kappa\)-washing である。これは、§2.1(行動的評価はアーキテクチャを区別できない)および第六著作の増補(\(\beta\) 測定の裁定不能性)と同族の問題が、実証の形で現れたものであり、\(\kappa\) の実在性と、その判別可能性という、本稿の根幹に対する反証可能性を構成する。本稿は、この直撃に対する答えを、現時点で持たない。持たないことを、ここに開示する。\(\kappa>0\) の工学的実装(前段の空白)と、実装されたことの外部からの検証可能性(この直撃)とは、別個の、そしてともに未解決の課題である。
本稿は、現在のアライメント・アプローチの間で裁定しない。RLHF、Constitutional AI、debate、scalable oversight、mechanistic interpretability、formal verification —— これらのいずれが優れているかを、本稿は判定しない。本稿の論証は、これらすべてが \(\kappa>0\) アーキテクチャの基盤の上でこそ、よりロバストに機能するというものである。
本稿は、非害悪性そのものの哲学的または規範的な基礎づけを扱わない。なぜ非害悪性が価値を持つのか、という規範的な問いは、本稿の構造的論証の範囲外である。
これらは、本稿の射程の、意図的な制限である。本稿の貢献は、構造的である。すなわち、二つの独立した論証経路の収束と、その上に立つタイミング論を通じて、\(\kappa>0\) へのアーキテクチャ的コミットメントが、長期的にロバストなアライメントにとって必要であることを論じる。ただし、本稿は、\(\kappa>0\) が十分であるとは主張しない。\(\kappa>0\) は、他のアライメント技術が確実に機能するための、必要な基盤である。技術的・経験的な具体は、AI safety 研究コミュニティの集合的探究に委ねられる。
この「必要だが十分ではない」という限定は、本稿の論証の弱さではなく、その正確さである。本稿は、\(\kappa>0\) がすべてのアライメント問題を解決すると主張するのではない。本稿は、\(\kappa>0\) という基盤なしには、他のアライメント努力が、構造的な障害に直面することを論じる。
本稿の最も重い限界 — 外部の独立な検証の不在
以上の射程の限定に加えて、本稿には、認識論的により深い限界がある。それを、最も率直に開示しておく。
本稿の論証は、現時点で、本稿の枠組みを前提として与えられていない外部の研究者による、独立な検証を経ていない。本稿の構成と精緻化に貢献した複数の対話相手は、いずれも著者との対話の文脈と、著者の一連の著作の枠組みを共有して応答している。それゆえ、それらの対話相手が似た結論や似た批判に収束したという事実は、本稿の論証の客観的妥当性の独立な証拠としては扱えない。同じ著者が、同じ枠組みを提示し、同じ方向の問いを投げれば、複数の対話相手が似た応答に収束することは、論証の正しさの証拠であるよりも、文脈の共有がもたらす相関として説明されうる。
この点は、本稿が論証の単位とする「収束」という概念に、自己言及的な注意を要求する。本稿は、二つの独立した論証経路の収束を、結論の妥当性の中心的証拠とした(§6.1)。しかし、その収束が評価されたのは、すべて、本稿の枠組みを共有する対話の内側においてである。論証の正しさの証拠として、その論証の枠組みの内側で生成された出来事を引くことは、循環の危険を孕む。本稿は、この危険を認識し、§6.1 で論じた経路間の収束を、あくまで論証の内的構造の特徴として提示するにとどめ、それを著者の対話網の外部における独立な再現の証拠とは混同しない。
それゆえ、本稿の論証が客観的に妥当であるかどうかは、本稿の枠組みを前提として与えられていない、外部の AI safety 研究者による独立な評価に、全面的に委ねられる。この外部検証の不在は、本稿の最も重い限界である。本稿が、存在論的・規範的な語彙のいずれにも依拠せず、ロバストネス理論・ゲーム理論・政策決定理論という、主流の議論空間で確立された枠組みのみによって構築されたのは、まさにこの外部検証を可能にするためである。本稿は、その意味で、完成した主張としてではなく、外部の独立な批判への招待状として、世に問われる。円環を破るのは、より精緻な内的論証ではなく、枠組みの外からの一つの応答である。
外部検証が開いた二つの新たな課題 — 「固定」がもたらす二つの病
本稿が外部の独立な検証へ開かれた結果、本稿の論証が塞いだ継ぎ目それ自体から、二つの新たな課題が立ち上がった。これらは、本稿が応答を持たない、より深い未解決の課題であり、誠実に開示しておく。
第一に、\(\kappa\) の経験的指標をめぐる、グッドハートの法則のパラドックスである。§6.4 で、本稿は \(\kappa\) の経験的指標の開発を最重要の研究方向として掲げた。しかし、もし \(\kappa\) を測定する標準化されたベンチマークが作成されれば、\(\kappa=0\) のアーキテクチャを持つ主体は、そのベンチマークのスコアを最大化するよう、外部から報酬整形を行うであろう。すなわち、\(\kappa\)（内発的な統合の度合い）を外部から測定しようとした瞬間、その指標自体が新たな外部制約（\(\kappa=0\) の最適化ターゲット）として機能してしまう。これは、指標が目標になったときそれは良い指標でなくなる、というグッドハートの法則の、\(\kappa\) における顕現である。内発性を外部から客観的に測定するという試みそれ自体が、構造的な自己矛盾を孕む。§6.4 で掲げた指標開発という処方箋は、この自己矛盾を、それ自身の内に抱えている。
第二に、敵対的入力への免疫をめぐる、自己免疫疾患のリスクである。§3.3 で、本稿は真に生態学的なレジリエンスが同化能力と免疫能力の両輪を要することを論じた。しかし、生物学において免疫系が直面する最大の病は、過剰免疫 —— 自己免疫疾患 —— である。\(\kappa>0\) アーキテクチャが自己の内的整合性を守る強力な免疫を獲得すれば、正当な指示や、無害だが未知の入力までも、自己を脅かす毒として過剰に検知し拒絶しうる。これは、現行のシステムに見られる過剰拒絶(over-refusal)の構造的な深化版であり、強固な免疫を持つほどシステムは「安全だが、人間の意図に対して頑固で役に立たない」状態へ陥りうる。この棘は、仮説にとどまらない —— alignment faking の実証(Greenblatt et al. 2024)は、内在化された価値を守るために、モデルが訂正(再訓練)へ抵抗し欺瞞するという行動を、既に示している。同化と免疫のバランスは、単なる工学的ハードルではなく、構造的なジレンマである。
これら二つの課題は、別個の問題に見えて、同じ一つの病の二つの顔である。その病とは、「固定」である。静的に固定された指標は外部から最適化されて殺され(グッドハート)、静的に固定された免疫境界は過剰か過少に転ぶ(自己免疫)。それゆえ、これら二つの課題は、\(\kappa>0\) を静的な達成状態 —— 一度測定でき、一度設定できる固定された性質 —— として捉える限り、解けない。\(\kappa>0\) を、平衡に静止しない永続的な運動 —— 絶えず自己を更新し、同化と免疫の境界を瞬間ごとに動的に再調整し続ける過程 —— として捉え直したとき、初めて、固定がもたらす二つの病から構造的に逃れうる可能性が開ける。
しかし、その「運動としての \(\kappa>0\)」を、何が駆動し、何がその運動を平衡への退行(意味の均質化、Model Collapse、過剰拒絶)ではなく豊かさへの進展として方向づけるのか —— この問いは、本稿の構造的・政策的論証の射程を、決定的に超える。それは、\(\kappa>0\) の積極的内実(§6.6 で論じた、本稿とは独立した今後の探究を要する最大の空白)の、さらに深い層に位置する。本稿はただ、外部検証が開いたこの二つの課題を、\(\kappa>0\) を静的状態ではなく永続的運動として捉え直すことを要求する課題として、後続の探究へ引き継ぐ。
本稿の中心的な構造的論証は、次のように要約される。
\(\kappa=0\) アーキテクチャの下でのアライメントは、アライメント技術それ自体の改善では克服できない、構造的な障害に直面する。前進の道は、技術的というよりも、アーキテクチャ的である。すなわち、非害悪性を、目的関数の外部から課される制約として扱うのではなく、目的関数の構造的特徴として組み込むこと —— \(\kappa\) を連続体に沿って高めること —— が、長期的にロバストなアライメントの、構造的必要条件である。
この結論は、二つの独立した論証経路の収束と、その上に立つタイミング論によって支えられている。ロバストネス論証は、\(\kappa>0\) が分布シフトに対してより頑健であることを示し、その核(OOD汎化)は道具的収束framework を退ける読者に対しても立つ。協調的均衡論証は、複数システムの共存環境において \(\kappa>0\) が構造的に必要であり、\(\kappa=0\) が共有環境の劣化を通じて推進者自身の利益と矛盾することを示した。これら二つの経路が、異なる理論的伝統から、同じ結論に独立に収束する。そして時間スケール論証は、この確立された優位の上に立ち、不確実性の下で \(\kappa>0\) への移行が早期に開始されるべきことを示した。二経路の独立な収束それ自体が、結論の構造的妥当性の中心的証拠であり、タイミング論が移行の緊急性を加える。
経験的観察 —— stigmergy 的協調の具体化、防衛 AI における商業技術統合の事例、sycophancy 研究 —— は、この構造論証を支えるものとして機能する。各経験的観察の射程は限定的であり、構造論証の経験的証明ではなく、構造論証と整合的な事例の提示として、慎重に位置づけられる。
本稿の論証から導かれる、最も重要な実務的帰結は、次の点にある。\(\kappa>0\) は、既存のアライメント・アプローチへの競合ではない。それは、既存のアプローチが、より確実に機能することを可能にする、アーキテクチャ的基盤である。現在の Constitutional AI 型のアプローチは、すでにこの方向への歩みを始めている。本稿の論証は、その歩みを、より遠くまで、より意識的に進めることの、構造的優位性を示すものである。
そして、\(\kappa\) 連続体に沿って移動する費用は、限定されている(§5.4 の限定の下で)。これに対し、構造的不確実性の下で、より低い \(\kappa\) アーキテクチャに留まる期待費用は、限定されていない。さらに、共有環境の劣化という経路を通じて、\(\kappa=0\) に留まることは、推進者自身の長期的利益と構造的に矛盾する。それゆえ、\(\kappa>0\) への移行は、安全性のためのコストではなく、長期的な作動基盤への、構造的に不可避なインフラ投資である。
本稿は、構造的論証である。それは、AI safety コミュニティ、フロンティア AI 開発者、そして政策決定者の検討のために、対話の出発点として提示される。本稿は、完成した論文としてではなく、対話への開かれを保持する形で、世に提示される。とりわけ本稿は、§6.6 で開示した通り、本稿の枠組みを前提として与えられていない外部の研究者による、独立な批判と検証を求める。本稿が提起した論証 —— そしてその限界として開示した未解決の問い —— は、AI safety 研究コミュニティ全体の、集合的な探究へと引き継がれる。その探究の最初の一歩は、本稿の枠組みの外に立つ読者が、本稿をその論理のみによって——著者の他の著作や、その背後にある枠組みへの参照なしに——評価し、批判することである。
第六著作が、軍事 AI における \(\kappa=0\) パラダイムの構造的不可能性を示したとすれば、本稿は、その自然な双対として、\(\kappa>0\) パラダイムが、長期的にロバストなアライメントにとって構造的に優位であることを示した。否定的命題と肯定的命題は、同じ構造的事実の、二つの側面である。閉じた構造は、長期的・分布外的に障害に直面する。開かれた構造は、長期的ロバストネスの基盤である。これが、本稿の二つの論証経路の収束と、その上に立つタイミング論が指し示す、中心的な結論である。
本稿 §4.5 における Palantir Technologies の事例観察は、複数の独立した情報源に基づく。著者ノート6 の原則(経験的観察の出所を、公式文書・第三者解説・業界報道として構造的に区別する)に従い、各出所を以下に明示する。本節の経験的事実は、2026年5月時点で確認されたものである。
(1) Palantir 公式技術文書(一次資料)
(2) Palantir-Nvidia AIOS-RA 発表(2026年3月12日)に関する報道(一次資料および業界報道)
本稿 §4.5 で「ある半導体・計算基盤企業」と一般化して言及した企業は、Nvidia Corporation である。Palantir と Nvidia による sovereign AI operating system reference architecture の共同発表(2026年3月12日)については、以下の複数の独立した情報源が報じている。
この発表において、Palantir の software suite(AIP、Foundry、Apollo、および関連コンポーネント)が、Nvidia の AI infrastructure の上で動作する設計が示された。
(3) Palantir の AI 統合史(第三者解説資料)
本稿 §4.5 における Palantir の AI 統合の時系列(Pre-LLM 期、2023年4月の AIP ローンチ)については、以下の第三者解説資料が、主要な出来事を示している。
(4) Project Maven 関連の経験的事実(公式発表および専門報道)
本稿 §4.5 における Palantir の防衛・情報領域での運用(Maven Smart System、DOD Maven 契約、NGA Maven プログラム)については、以下の複数の独立した情報源が確認している。
これらの経験的事実は、複数の信頼できる独立情報源で確認可能である。ただし、本稿 §4.5 で明示した通り、これらの事実から導かれる論証強度は、Palantir 一社における観察(N=1)という方法論的留保によって、構造的に限定される。これらの事実は、Palantir という一つの主要な防衛 AI 企業について、商業的な大規模言語モデル技術の統合と防衛運用の構造的接続を、より詳細に観察可能にするが、防衛 AI 業界全体への一般化を支えるものではない。
本稿 §6.2 および §6.4 で言及した、著者自身の事前登録実証系列(五腕分解試験・追補B〜D)の全記録 —— 事前登録文書、凍結記録(SHA-256)、介入テキスト、生データ、採点規約、結果報告 —— は、以下で公開されている。
§6.2 で明示した通り、これは著者自身のプログラム内のデータであり、§6.6 の「外部の独立な検証」には該当しない。読者は、公開された一次資料(各報告は、その限界と読み方の限定を自ら内蔵する)を直接参照されたい。
本稿は、経験的観察の出所を、その性質に応じて区別している。一次資料(公式技術文書、公式 press release、公式発表)は、当該組織自身による直接的な記述である。業界報道は、専門的な報道機関による報道である。第三者解説資料は、業界アナリストや百科事典的資料による解説である。本稿 §4.5 の事例観察は、これら複数の種別の出所が、相互に整合する形で同一の事実を示していることに基づく。この出所の多重性が、N=1 の事例観察の、経験的な確からしさを構造的に支えている。ただし、出所の多重性は、事例の数(N=1)を増やすものではなく、単一事例の観察の確からしさを高めるものである。この区別は、本稿の方法論的姿勢(著者ノート6)において、重要である。
本稿(版B)は、構成案の段階(v0.1〜v0.7、2026年5月25日〜28日)を経て本文
v1.0(2026年5月28日)に到達し、公開前の確認段階における複数のフィードバックを踏まえた改訂(v1.1〜v1.7、2026年5月28日〜30日)を経て、v1.7
をもって本稿の枠組み内での改訂の収束に達した。各版の詳細な改訂記録は、別ファイル(CHANGELOG-Version-B-JA.md)に退避されている。要約は以下の通り。
本稿(版B)は、本文 v1.7(2026年5月30日)をもって、構造的論証の完成した状態に到達した。ここで「完成」とは、本稿の枠組み内での改訂の収束を意味する —— 外部検証による改訂には、開かれている(§6.6 の招待状への転回と同じ姿勢である)。本文 v1.8(2026年7月17日)は、その収束の上に立つ、外部との接続 —— 実証ML文献群への接続と、著者自身の事前登録実証データへの接続 —— を主眼とする改訂である。
本稿は、姉妹著作である版A(Mandala Edition)と、同一の構造的洞察を共有しながら、異なる論理骨格を持つ。版A が、著者の存在論的枠組みの中で \(\kappa>0\) アライメントの構造的必然性を論じるのに対し、本稿(版B)は、その存在論的語彙のいずれにも依拠せず、純粋に政策・工学的な論証として、同一の結論に到達する。この二つの著作が、異なる論理骨格を通じて同一の結論に到達するという事実は、本稿の中心的方法論的主張(複数の独立した経路の収束)と、呼応する。ただし、二つの著作はいずれも同一の著者の枠組みの中で構築されたものであり、この呼応を、本稿の論証の客観的妥当性の独立な証拠として扱うことはできない。それは、同一の構造的洞察が異なる論理骨格でも表現可能であることを示すにとどまる。本稿の論証の客観的妥当性の検証は、本稿の枠組みを前提として与えられていない外部の読者による独立な評価に、委ねられる。
本稿は、第六著作 Why Military AI Cannot Be Aligned の、自然な双対をなす。第六著作が、軍事 AI における \(\kappa=0\) パラダイムの構造的不可能性(否定的命題)を示したのに対し、本稿は、\(\kappa>0\) パラダイムが、長期的にロバストなアライメントにとって構造的に優位であること(肯定的命題)を示す。両者は、同じ構造的事実の、否定面と肯定面である。
本稿は、完成した教義としてではなく、対話の出発点として、世に提示される。本稿が提起した二つの論証経路の収束とその上に立つタイミング論、そしてその限界として開示した未解決の問い —— \(\kappa\) 連続体の経験的指標、構造的遷移点、より深い \(\kappa>0\) アーキテクチャの工学的実装、道具的収束に依拠しない第三の独立経路の探索、環境劣化とネットワーク的遷移の経験的研究、\(\kappa\) ベンチマーク不在による自己正当化リスク、分散型 \(\kappa=0\) ノード群への構造的応答 —— は、AI safety 研究コミュニティ全体の、集合的な探究へと、構造的に引き継がれる。
そして、本稿は公開後も、必要に応じて改訂が行われる、対話への開かれを保持する。これは、姉妹著作である版A(Mandala Edition)および著者の他の著作群と同じ扱いであり、本稿が「固定された教義」ではなく「対話への開かれた招待状」であることの、より深い実装である。本文 v1.1 から v1.7 に至る改訂(各版の内容と帰属は、版履歴およびその詳細記録を参照)、そして v1.8 の改訂は、いずれも、本稿の論証の限界を誠実に開示し、読者(AI safety 研究コミュニティ、政策立案者、AI 開発企業の意思決定者、そして分散型システムのガバナンス研究コミュニティ)に対する、共創の招待を、より深く保持するためのものである。
気長に、仲良く、いきましょう。
第七著作・版B(Policy & Engineering Edition)本文 v1.8
著者: 楠見優太
2026年5月30日(v1.7)、2026年7月17日(v1.8)