深掘りする: マルチレベル概念階層の学習

要旨: 概念ベースのモデルは、人間が理解できる概念で予測を説明することによって解釈性を約束する一方で、通常は網羅的な注釈に依存し、概念を平坦で独立したものとして扱います。これを回避するために、最近の研究では階層的概念埋込みモデル（HiCEMs）を導入し、概念関係を明示的にモデル化し、概念分割を用いて粗い注釈だけでサブ概念を発見します。しかし、HiCEMs と概念分割は浅い階層に限定されています。この制限を Multi-Level Concept Splitting (MLCS) によって克服します。これは、トップレベルの監視だけで多層の概念階層を発見し、Deep-HiCEMs はこれらの発見された階層を表現し、抽象度の異なる複数レベルで介入を可能にするアーキテクチャです。複数のデータセットにおける実験は、MLCS がトレーニング時には存在しなかった人間に解釈可能な概念を発見できること、そして Deep-HiCEMs が高い精度を維持しつつテスト時の概念介入をサポートしてタスク性能を改善できることを示しています。