要旨: 重要インフラは、監視、予知保全、意思決定支援のために具現化されたAIをますます組み込んでいます。しかし、統計的に表現可能な不確実性を扱うよう設計されたAIシステムは、連鎖的な障害や訓練仮定を超える危機ダイナミクスに苦しみます。この論文は、具現化されたAIの回復力は、ハイブリッド型ガバナンス構造の中での限定された自律性に依存すると主張します。我々は4つの監視モードを概説し、それらをタスクの複雑さ、リスクの程度、結果の重大さに基づいて重要インフラのセクターに割り当てます。EUのAI法、ISO安全基準、危機管理研究を踏まえ、有効なガバナンスには機械能力と人間の判断の構造化された割り当てが必要であると主張します。
レジリエンスと自律性の融合：重要インフラにおける身体化AIの統治
arXiv cs.AI / 2026/3/18
📰 ニュースIdeas & Deep AnalysisModels & Research
要点
- 本論は、重要インフラで用いられる身体化AIが、訓練を超える不確実な状況下で作動する際に連鎖的な故障を経験し得ることを主張し、ハイブリッドなガバナンス構造の中で限定的な自律性が必要であると述べる。
- インフラ部門全体におけるAIの能力と人間の判断を統治するための4つの監督モードを概説する。
- 著者らは、タスクの複雑さ、リスクレベル、結果の重大性に基づいてこれらの監督モードを部門に対応づけ、統治を適合させる。
- この枠組みは、EU AI Act、ISOの安全基準、および危機管理研究を踏まえ、機械能力と人間の判断の構造化された配分を正当化する。
- 本研究は、レジリエンスを統治設計の属性として再定義し、政策立案者、エンジニア、運用チームに対する含意を持つ。
