Abstract
本稿では、概念ボトルネックモデル（Concept Bottleneck Models: CBM）を設計するための、新規で柔軟かつ効率的な枠組みを提案する。これは、予測を行う際に、モデルの推論の中で概念間（C-C）および概念とタスク（C o Y）の関係についての、実務者の事前知識や信念を明示的に符号化し、それらを拡張できるようにするものである。得られる extbf{C}oncept extbf{REA}soning extbf{M}odels（CREAMs）は、相互排他性、階層的な関連付け、あるいは相関といった任意の型の C-C 関係を、さらに潜在的に疎な C o Y 関係を、建築（アーキテクチャ）として符号化する。加えて、CREAM は、概念集合が {不完全である可能性} を補完するために、正則化されたサイドチャネルを任意で組み込むことができる。これにより、概念に根差した予測を促しつつ、競争力のあるタスク性能を実現できる。このような設定で CBM を評価するために、予測が部分的にサイドチャネルに依存する場合の解釈可能性を定量化する、C o Y 非依存（agnostic）な指標を導入する。実験では、追加の計算オーバーヘッドなしに、CREAM モデルが効率的な介入を支援でき、概念リーケージを回避でき、欠落した概念下でもブラックボックス水準の性能を達成できることを示す。さらに、任意のサイドチャネルが解釈可能性および介入可能性に与える影響を分析する。重要な点として、サイドチャネルは、限られた数の概念しか利用できない状況においても、CBM を有効に保つことを可能にする。
