時系列補完モデルにおける記憶化の解明：LBRMのメンバーシップ・インファレンスと属性リークとの関連

概要: 時系列補完のための深層学習モデルは、医療、モノのインターネット（IoT）、金融などの分野で今や不可欠になっています。しかし、その導入には重大なプライバシー上の懸念が伴います。生成モデルで広く研究されてきた、よく知られた意図しない記憶（unintended memorization）の問題に加えて、本研究では、ブラックボックス設定において時系列モデルが推論攻撃に対して脆弱であることを示します。本研究では、次の2段階からなる攻撃フレームワークを導入します。: (1) 参照モデルに基づく新しいメンバーシップ推論攻撃であり、過学習に基づく攻撃に対して頑健なモデルであっても検出精度を向上させること、そして (2) 時系列補完モデルの訓練データに含まれる機微な特性を予測する、最初の属性推論攻撃です。これらの攻撃を、注意機構ベースおよびオートエンコーダ型アーキテクチャの2つのシナリオで評価します。すなわち、（訓練を最初から行う）スクラッチ学習モデルと、攻撃者が初期重みへアクセスできるファインチューニングモデルです。実験結果は、提案するメンバーシップ攻撃が、素朴な攻撃のベースラインよりも有意に高い tpr@top25% スコアで、訓練データのかなりの部分を回収できることを示しています。また、提案するメンバーシップ攻撃は、属性推論が機能するかどうかについても良い洞察を与えることを示します（一般的なケースでは78%であるのに対し、精度90%）。