CoAX：認知指向の帰属説明（Cognitive-Oriented Attribution eXplanation）ユーザーモデル：AIの説明に対する人間理解のモデル化

Abstract

説明可能なAI（XAI）は、AIモデルを使用する際にユーザーの理解と意思決定を改善することを目指します。しかし、XAIにおける革新があるにもかかわらず、近年のユーザー評価では、この目標はいまだとらえどころがないことが明らかになっています。人間の認知を理解することで、なぜユーザーがAIの説明を効果的に使うことに苦戦するのかを説明できる可能性があります。構造化データ（表形式）に関する推論に焦点を当て、異なるXAI手法（なし、特徴の重要度、特徴帰属）に対して、AIの意思決定を予測する意思決定課題（すなわちフォワード・シミュレーション）におけるさまざまな推論戦略を調べました。すなわち、i）形成的ユーザースタディから推論戦略を引き出し、ii）総括的ユーザースタディから意思決定を収集しました。認知モデリングを用いて、各推論戦略の背景にあるプロセスを実装し、それらが人間の意思決定とどの程度整合しているかを評価しました。その結果、提案モデルはベースラインの機械学習による代理指標よりも人間の意思決定によりよく適合し、どの推論戦略が（非）効果的であるかについての洞察を得ました。さらに、適合したモデルをどのように用いて仮説を立て、実際の参加者による研究では費用のかかる研究課題をどのように調査できるかを示します。この研究は、XAIに関する人間の理解のデバッグに貢献し、より使いやすく、より解釈可能なAI説明の将来の開発に役立てられます。