「なぜこの回避機動なのか？」人が監督する海上自律航行における対照的説明

要旨: 自動化された海上衝突回避は、当面の間、人間の監督に依存することになるでしょう。したがって、システムが状況をどのように認識し、どのような操船（マヌーバ）を計画しているのかを、透明性をもって示す必要があります。しかし、回避操船の背後にある因果的な論理はしばしば複雑であり、操船者（航海者）に伝えるのが困難です。本論文では、航海の背景を持つ監督者に向けて、これらの要因を選択的かつ理解しやすい形で説明する方法を探究します。私たちは、対比的な説明（contrastive explanations）を生成する手法を提案します。これは、システムが提案する解決策を関連する代替案と比較することで、人間中心の洞察を提供するものです。評価のために、最先端の衝突回避システムから重要な目的を抽出することを目的として、視覚的およびテキストによる手がかりを用いる枠組みを開発しました。経験豊富な海上の士官4名を対象とした探索的なユーザ調査の結果、対比的な説明はシステムの目的の理解を支援することが示唆されました。しかし本研究の知見はまた、これらの説明が複雑な多船舶遭遇において非常に価値が高い一方で、認知負荷を増大させ得ることも明らかにしています。そのため、将来の海上インタフェースでは、需要駆動型、あるいは状況（シナリオ）固有の説明戦略が、特に有益になる可能性があります。