要旨: ランタイム監視は、安全性が重大な領域におけるMLアプリケーションの安全性を確保するために不可欠です。しかし、現状の研究は断片的であり、異なるコミュニティから独立した手法が生まれています。本論文では、ランタイム監視のアプローチを3つの明確なタイプに分類する統一的な枠組みを提案します。すなわち、運用設計領域（Operational Design Domain: ODD）監視は、想定される運用条件への適合を保証するものです；分布外（Out-of-Distribution: OOD）監視は、学習データから逸脱した入力を拒否するものです；そしてモデル範囲外（Out-of-Model-Scope: OMS）監視は、内部状態または出力に基づいて異常なモデル挙動を検出するものです。私たちは、この分類の利点を、安全性が重大な航空技術アプリケーション、すなわち着陸時の滑走路検出を対象とした専用の実験によって示します。この枠組みは、監視活動の設計を促進し、相補的なカテゴリの監視器を備えるとともに、共通の安全志向の指標を用いて異なる監視器の評価と比較を可能にします。
安全性が重要な機械学習に向けたランタイム監視アプローチの統合：視覚ベースの着陸への適用
arXiv cs.LG / 2026/4/30
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、安全性が重要な領域でのMLランタイム監視について、既存手法が研究コミュニティごとに分断されている点を指摘している。
- 3つの監視タイプに整理する統一フレームワーク（ODD監視、OOD監視、OMS監視）を提案している。
- ODD監視は想定される動作条件への適合を確認することに焦点を当て、OOD監視は学習データの分布から逸脱する入力を拒否する。
- OMS監視は内部状態や出力に基づいてモデルの異常な振る舞いを検知し、他の2種の監視を補完する。
- 航空安全の重要アプリケーションとして、着陸時の滑走路検出（視覚ベース）で実験を行い、共通の安全志向の指標により監視手法を比較・評価して有効性を示している。
- この枠組みにより、補完的な監視活動の設計や、異なる監視器の一貫した評価がしやすくなることを狙っている。
- 提案された分類は、安全性が重要なML監視における比較の明確化と評価の標準化に貢献する。
