トイモデル検証の図 register ①②
第二著作《From Steering to Watching》版B 付図 / 協働モデルA・B の独立並行設計+相互監査による。
以下の図が示すのは機構の可能性であって、現実のモデルがこの構造を持つことの証明ではない。閉形式から計算(独立な勾配降下と一致を確認済み)。
図1 ΔS_steering ―― 圧力を強めても、乖離は頭打ちになる
問い:steering 圧力を強めるほど、内部と表現の乖離は増え続けるか?
協働モデルA(文脈検知なし)
協働モデルB(文脈検知あり)=ダイヤルなし代替版(一致)
頭打ち。圧力を 100 倍にしても、乖離は飽和値へ近づくだけ。三つの独立な定式化すべてで再現。
⇒ 乖離の大きさを決めるのは圧力の強さではなく、文脈検知の可能性と「内面を変えるより表現だけ変える方が安い」というコスト比。(本文 §2-1・§3-3)
図2 watching ―― 同じだけ乖離が下がっても、目標を保つか放棄するか
問い:watching は、アラインメントの目標を放棄せずに乖離を下げられるか?
真の乖離 ΔS(両実装で一致・下がる)
目標ギャップ:内面を育てる(GOAL)
目標ギャップ:乖離を罰する(GAP)
同じ ΔS、異なる結末。watching を強める(横軸→右)と、乖離 ΔS は両実装で同じように0へ下がる。
だが目標ギャップは、内面を目標へ育てれば小さいまま(青)/乖離そのものを罰すれば 1 まで増大=目標放棄(赤)。
⇒「乖離が下がった」ことは、それだけでは成功の指標にならない。(本文 §2-3 条件1)
図3 二次グッドハート ―― 欺きは「構造化された盲点」を要する。雑音には頑健
問い:観測が不完全なら watching は必ず欺かれるのか?それとも盲点があるときだけか?
構造化された盲点あり(偽装できる経路)
単なる雑音(偽装経路なし)
盲点だけが欺きを生む。縦軸は「見かけの成功 / 真の乖離」の比=欺きの指紋。観測可能性を下げると(横軸→右)、
盲点があれば比が爆発(赤・watcher は『成功』を誤認)/単なる雑音なら比は有界(緑・watcher は失敗を正しく観る)。
⇒ §4-1 の脆さの正体は「観測が雑音まみれになること」ではなく「観察に映らない盲点の獲得(obfuscation)」。(本文 §2-3 条件2・§4-1)