不完全知覚エージェントに対する区間POMDPシールド（Interval POMDP Shielding）

要旨: 学習された知覚に依存する自律システムは、センサーの読み取りが誤分類されると、安全でない判断を下す可能性があります。本研究では、この設定に対するシールド（遮蔽）を扱います。提案された行動が与えられると、シールドは安全性を侵害し得る行動をブロックします。ここでは、システムのダイナミクスは既知である一方、知覚の不確実性は有限のラベル付きデータから推定する必要がある、一般的なケースを考えます。これらのデータから、知覚結果の確率に対する信頼区間を構築し、それを用いて、離散的な状態と行動を持つ有限の区間部部分観測マルコフ決定過程（finite Interval Partially Observable Markov Decision Process）としてシステムをモデル化します。次に、これまでに観測された内容と整合する、基礎となる状態に対する保守的な信念（belief）の集合を計算するためのアルゴリズムを提案します。
これにより、有限ホライズンの保証を備えた実行時シールドを構築できるようになります。訓練データに関して高い確率で、真の知覚不確実性の率が学習された区間内にあるならば、シールドによって許可されるすべての行動は、安全性に関する所定の下限を満たします。4つのケーススタディに関する実験により、提案するシールド手法（およびそこから導出した変種）が、最先端のベースラインと比べてシステムの安全性を改善することが示されました。