コンピタンス・シャドウ：安全工学におけるAI支援の理論と限界

概要: 物理AIシステムの安全工学ワークフローにAIアシスタントが統合されていくにつれ、重要な問いが浮上する。すなわち、AIによる支援は安全性解析の質を向上させるのか、それとも、運用後のインシデントを通じて初めて顕在化する体系的な盲点を持ち込むのか。 本論文では、安全性解析におけるAI支援のための形式的枠組みを構築する。まず、安全工学がベンチマーク駆動の評価に抵抗する理由を示す。安全に関する能力は、文脈依存の正しさによって制約され、内在的に不完全であり、正当な専門家間の意見の相違も伴うため、還元できない多次元性を持つ。これを、領域知識、規格に関する専門性、運用経験、文脈理解、および判断を捉える5次元の能力枠組みにより形式化する。
次に、「能力の影（competence shadow）」を導入する。これは、AI生成の安全性解析によって誘発される、人間の推論の体系的な狭窄（せばまり）である。この影は、AIが提示するものではない。AIが、考慮される可能性を奪うものが影である。人間とAIの協働における4つの典型的な構造を形式化し、閉形式の性能限界を導出する。その結果、能力の影が乗法的に蓄積され、素朴な加法的推定を大幅に超える劣化をもたらすことを示す。
中核となる発見は、安全工学におけるAI支援はソフトウェア調達の意思決定ではなく、協働デザインの問題だということである。同一のツールであっても、それがどのように用いられるかに完全に依存して、解析の質が低下も向上もする。影に対して頑健（shadow-resistant）なワークフローに関する非劣化条件を導出し、信頼できる物理AIのために、ツールの適格性（qualification）ではなく、ワークフローの適格性（workflow qualification）へと転換することを提唱する。