確率的ハル生成によるニューラルネットワークの確率的検証

arXiv cs.AI / 2026/4/25

📰 ニュースIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、入力が確率分布に従う状況で安全制約を満たす確率を推定する「確率的検証」に取り組む。
安全確率について、セーフ／アンスセーフの確率的「ハル」を効率的に見つけることで、保証された安全確率の範囲を算出する枠組みを提案する。
手法は主に、(1) 回帰木による状態空間の分割、(2) 境界を意識したサンプリングで安全境界を特定しその後の回帰木構築に活用、(3) 確率的優先度付きの反復的精緻化、の3つの工夫から成る。
ACAS Xu やロケット着陸制御器などのベンチマークで、従来手法よりも明確な精度と効率の優位性が示される。

Abstract

ニューラルネットワークの確率的検証の問題は、入力が確率分布によって与えられるとき、出力空間における安全制約を満たす確率を調べる。入力が確率変数としてしばしばモデル化される外乱の影響を受ける場合、この問題に答えることは重要である。本論文では、安全な確率の保証された範囲を、安全および危険な確率的ハル（確率的包絡）を効率的に見つけることで計算する、新しいニューラルネットワーク確率的検証の枠組みを提案する。提案手法は、主に3つの革新から構成される：(1) 回帰木を用いて確率的ハルを生成する状態空間の分割戦略、(2) 後に回帰木を構築するために用いられるサンプルによって入力空間上の安全境界を特定する境界を意識したサンプリング手法、(3) 安全確率の保証された範囲を計算するための、確率的優先度付けによる反復的な改良である。我々の手法の精度と効率は、ACAS Xuおよびロケット着陸機コントローラを含むさまざまなベンチマークで評価する。その結果は、最先端手法に対する明確な優位性を示している。