LoRAは裏切る：無害なアダプタを装ってテキスト生成画像モデルへバックドアを仕込む

要旨: 低ランク適応（LoRA）は、テキストから画像への拡散モデルを効率的に微調整するための主要な手法として登場しており、オープンソースのプラットフォームにおける広範な採用が、モデル共有とカスタマイズの活気ある文化を育んできました。とはいえ、LoRAを魅力的にしている同じモジュール化されたプラグ・アンド・プレイの柔軟性は、より広い攻撃面も同時に導入します。このリスクを明確にするために、私たちはMasquerade-LoRA（MasqLoRA）を提案します。これは、独立したLoRAモジュールを攻撃媒体として活用し、テキストから画像への拡散モデルへ悪意ある挙動をステルスに注入することを可能にする、最初の体系的な攻撃フレームワークです。MasqLoRAは基盤モデルのパラメータを凍結し、少数の「トリガーワード—ターゲット画像」ペアを用いて低ランクアダプタの重みのみを更新することで動作します。これにより、攻撃者は単独のバックドアLoRAモジュールを学習でき、そのモジュールは隠されたクロスモーダルな写像を埋め込みます。すなわち、そのモジュールが読み込まれ、特定のテキスト上のトリガが与えられたとき、モデルは所定の視覚出力を生成します。そうでなければ、防benignな（無害な）モデルと見分けがつかない挙動を保ち、攻撃のステルス性を確実にします。実験結果は、MasqLoRAが最小限の計算資源オーバーヘッドで学習可能であり、攻撃成功率99.8%を達成することを示しています。MasqLoRAはAIサプライチェーンにおける深刻で独特な脅威を明らかにし、LoRA中心の共有エコシステムに対して緊急に専用の防御メカニズムが必要であることを強調しています。