アンサンブルベースの特徴指向分析

要旨：最近のディープニューラルネットワーク（DNN）アプリケーションは、その挙動を説明できる手法を求めています。Feature Guided Analysis（FGA）などの既存の解決策は、ニューロンの活性化に関連する説明を提供することによって、内部動作に関する規則を抽出します。文献の結果は、これらの規則がかなりの精度（すなわち、特徴の特定のクラスを正しく予測する）を有することを示していますが、リコール（すなわちこれらの規則が適用される状況の数）はより限定的です。この問題を緩和するため、本論文は「アンサンブルベースの特徴ガイド分析（EFGA）」を提示します。EFGAはFGAにより抽出された規則をアンサンブルに結合します。アンサンブルは、集約基準（規則をアンサンブルに結合する方法を規定する方針）に応じて適用性を高めるために異なる規則を集約します。本ソリューションは拡張可能で、ユーザーによって異なる集約基準を開発することができますが、本研究では3つの異なる集約基準を検討しました。基準の選択がEFGAの有効性にどのように影響するかを、2つのベンチマーク（すなわちMNISTおよびLSCデータセット）で評価し、異なる集約基準が適合率と再現率の間に代替的なトレードオフを提供することを発見しました。次にEFGAとFGAを比較します。本実験では、適合率と再現率の間で合理的なトレードオフを提供する集約基準を選択しました。私たちの結果は、EFGAがFGAより訓練データでの再現率（MNISTで+28.51%、LSCで+33.15%）およびテストデータでの再現率（MNISTで+25.76%、LSCで+30.81%）を高く示し、テストの適合率の低下はごくわずか（MNISTで-0.89%、LSCで-0.69%）であることを示しています。