題名:DendroNN: Dendrocentric Neural Networks for Energy-Efficient Classification of Event-Based Data

要旨:時空間情報は、さまざまな感覚処理および計算タスクの中核にあります。フィードフォワードのスパイキングニューラルネットワークは、イベントベースの計算を行うことでエネルギー効率の観点から潜在的な利点を提供しつつ、これらのタスクを解決するために用いることができます。しかし、時間情報を高精度にデコードするのが難しいという問題があります。そのため、一般に再帰（recurrence）や遅延（delays）に頼って時間計算能力を高めますが、これはハードウェア効率の面で欠点をもたらします。脳において、樹状突起（dendrite）は計算能力の中核となる部位であり、こうした機械学習システムにおいてようやく認められ始めたところです。本研究では、樹状突起の分枝に存在するシーケンス検出メカニズムに注目し、それを導入することで新しい種類のニューラルネットワーク、DendroNN（dendrocentric neural network）を提案します。DendroNNは、固有の入力スパイク列を時空間特徴として識別します。本研究ではさらに、勾配（gradient）を用いずに非微分可能なスパイク列を学習するためのリワイヤリング（rewiring）フェーズも導入します。リワイヤリングの間、ネットワークは頻出するシーケンスを記憶し、加えて識別に寄与しないものは破棄します。ネットワークは、さまざまなイベントベースの時系列データセットにおいて競争力のある精度を示します。また、DendroNNのイベント駆動設計に基づく time-wheel メカニズムを用いた非同期のデジタルハードウェアアーキテクチャも提案し、遅延または再帰ベースのモデルで典型的に見られるステップごとの大域的更新を排除します。DendroNNの動的および静的な疎性（sparsity）と固有の量子化（intrinsic quantization）を活用することで、同一の音声分類タスクにおいて、同等の精度で最先端のニューロモーフィック・ハードウェアより最大4倍高い効率を達成し、時空間のイベントベース計算に適していることを示します。本研究は、イベント駆動型ハードウェア上での低消費電力な時空間処理に対する新しいアプローチを提供します。

ブックマーク

書誌情報および引用ツール

この論文に関連するコード、データ、メディア

デモ

推薦者と検索ツール