システムは準拠していても、失敗することがあります。
ルールが間違っていたわけではありません。
実行中にそれらを強制するものが何もなかったからです。
何が起きているのか
AIシステムは次の方法で評価されます:
- 監査
- ドキュメント
- モニタリング
これらは、システムが正しく振る舞うべきかどうかを確認します。
システムが引き続き正しく振る舞い続けるかどうかは制御しません。
それが意味すること
準拠（コンプライアンス）は、定義されたチェックポイントで機能します。
実行は継続的に行われます。
この2つの間では:
- 挙動が繰り返される
- エッジケースがなじんでいく
- ドリフトが蓄積する
問題が検知されるまでに:
それはすでにシステムの一部になっています。
何が重要か
これは構造的な条件を生み出します:
Governance Lag（統治の遅れ）
システムは記録上は準拠のまま、
一方で実際の挙動は乖離します。
これは検知の失敗ではありません。
強制（エンフォースメント）の失敗です。
実行時ガバナンス要件
統治されたシステムは次を定義する必要があります:
- 決定境界（Decision Boundary）→ 許可される振る舞い
- エスカレーション → リスクが高まったときに何が起こるか
- 停止権限（Stop Authority）→ 誰が実行を止められるか
- 説明責任（Accountability）→ 誰が結果を引き受けるか
これらがなければ:
システムは観測されるだけで、制御はされません。
フレームワーク
挙動 → 指標 → 重大度 → 決定境界 → 強制
決定境界
もし本番環境でAIを運用しているなら:
システムがあるラインを越えたときに何が起きますか？
- アラートのみ
- 一時停止
- エスカレーション
- 停止
その答えが実行時に強制されないなら:
そのシステムは統治されていません。
