因果モデルとしてのバイナリ・スパイキングニューラルネットワーク

Abstract

本稿では、Binary Spiking Neural Networks（BSNN）の振る舞いを説明するために、因果解析を提供します。私たちはBSNNを形式的に定義し、その発火（スパイク）活動を二値の因果モデルとして表現します。この因果表現のおかげで、論理ベースの手法を活用してネットワークの出力を説明できるようになります。とりわけ、この二値の因果モデルから演繹的（abductive）説明を計算するために、SATだけでなくSMTソルバも首尾よく利用できることを示します。提案手法を説明するために、標準的なMNISTデータセットでBSNNを学習し、ピクセルレベルの特徴に基づいてネットワークの分類のための演繹的説明を見つける際に、SATベースおよびSMTベースの手法を適用しました。また、見つかった説明を、説明可能AIの分野で広く使われている人気手法であるSHAPと比較しました。SHAPとは異なり、私たちのアプローチでは、見つかった説明にまったく無関係な特徴が含まれないことが保証されることを示します。