シミュレーションのための解釈可能・説明可能なサロゲートモデリング：最新調査と意思決定のための説明可能AI（XAI）に関する展望
arXiv cs.AI / 2026/4/17
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、複雑なシステムのシミュレーションでサロゲートモデルが重要な役割を担う一方で、基盤となるシミュレータの「ブラックボックス性」を引き継ぎ、しばしばさらに強めてしまうと主張しています。
- 説明可能AI（XAI）は入力が物理的応答にどう影響するかを理解する手段になるものの、高度に相関する入力、力学系、厳格な信頼性要件といった工学固有の制約に対してXAI手法が苦手とする点があると述べています。
- 著者らは、設計と探索のためのサロゲートモデリングの各段階に既存のXAI手法を対応づけることで、これまで別々に発展してきた研究領域の橋渡しを目指す最新の調査を提示しています。
- 方程式ベースのシミュレーションとエージェントベースのモデリングの両方を題材に、変数間の相互作用の可視化や人間の理解を支えるといった強みを中心に、手法の適用ポイントを整理しています。
- 力学系や混合変数システムの説明可能性などの未解決課題を挙げ、モデル構築から意思決定までのシミュレーション駆動ワークフロー全体に説明可能性を組み込むための研究アジェンダを提案しています。
