階層的で解釈可能なラベルなしコンセプト・ボトルネックモデル

概要: コンセプト・ボトルネック・モデル（CBM）は、人間が理解できる概念を用いてラベルを予測することで、ブラックボックスの深層学習モデルに解釈可能性を導入します。しかし、人間が一般的特徴と特定的特徴の両方を使って、さまざまな抽象度のレベルで対象を識別するのに対し、既存のCBMは、概念空間およびラベル空間のいずれにおいても単一の意味的レベルで動作します。そこで本研究では、CBMを階層的枠組みに拡張し、人間の認知プロセスをより密接に模倣することで解釈可能性を高める階層的・解釈可能ラベル不要コンセプト・ボトルネック・モデルであるHIL-CBMを提案します。HIL-CBMは、関係性のある概念アノテーションを必要とせずに、複数の意味的レベルにわたる分類と説明を可能にします。HIL-CBMは、概念に基づく説明の抽象度をモデル予測の抽象度に整合させ、抽象から具体へと段階的に進めます。これは、(i) 概念層が類似した空間領域に焦点を当てることを促す勾配に基づく視覚的整合性損失を導入し、(ii) 抽象度の異なる複数の特徴概念にそれぞれ動作する、デュアルの分類ヘッドを学習することで実現します。ベンチマークデータセットでの実験により、HIL-CBMは分類精度において、最先端のスパースCBMを上回ることが示されます。さらに人手による評価でも、HIL-CBMは階層的かつラベル不要な特徴概念というアプローチを維持しつつ、より解釈可能で正確な説明を提供することが示されています。