情報の継承を伴う軽量ニューラル予測器の連鎖によるロスレス圧縮

Abstract

本論文は、ニューラルネットワークを用いた確率推定による損失なしデータ圧縮に専念する。まず、ニューラル予測器の連鎖に基づく確率推定アーキテクチャを提案する。この連鎖の各ユニットは、所与の次数のマルコフ源によって生成されるデータを効率的に圧縮するのに十分であり、かつ最小可能な数の重みで定義されるニューラルネットワークである。さらに、このアーキテクチャにより、入力データの統計的性質に応じて、確率推定プロセスに参加する重みの全体数を最小化できることを示す。第二に、圧縮効率を改善するために、情報継承メカニズムを導入する。これは、低次のユニットで得られた確率推定を、次の高次のユニットで用いるものである。実験結果は、提案する連鎖型確率推定アーキテクチャを備えた損失なしデータ圧縮器が、最先端のPAC圧縮器に近い圧縮率を達成することを示す。同時に、エンコードスループットにおいてPACに対して1.2〜6.3倍優れ、デコードスループットにおいて消費者向けGPU上で2.8〜12.3倍優れている。