政治の交代下におけるAIガバナンス：コンプライアンス設計のアライメント・サーフェス
arXiv cs.AI / 2026/4/25
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論文は、行政で用いられる確率的AIには、意思決定を「審査可能」「再現可能」「法的に擁護可能」にするための専用のコンプライアンス層が必要だと主張している。
- 自動化の規模、どの程度までルール化（コーディファイ）するか、反復利用に対するセーフガードといった設計判断が、政治的変化のもとでの統治の堅牢性にどう影響するかを、形式的モデルで示している。
- 研究はトレードオフを強調しており、コンプライアンス層は法からの逸脱を検知しやすくして監督を改善し得る一方で、「承認の境界」を固定し、次の政権がそれを戦略的に利用することを学び得るとしている。
- さらに、監督を改善する改革が当初はリスクを下げても、その後に政府内部からの戦略的な操作への脆弱性を高め得る理由や、AI利用の拡大が後戻りしにくい理由も説明している。
- 結論として、政府の手続きでAIを実用化することは、将来の政権が手続きを学習して悪用できるようにしてしまう可能性があると述べている。
