深層予測モデルにおけるトロイの木馬検出: 欧州宇宙機関（ESA）の競技会から得られた洞察

要旨: 予測は、宇宙運用などの現代の安全性が極めて重要なアプリケーションで決定的な役割を果たします。しかし、深層予測モデルの利用が増えることで、訓練データにバックドアを隠す、あるいはモデルの重みに直接隠すことで実行されるトロイの木馬攻撃という新たなセキュリティリスクが生じます。埋め込まれると、バックドアはテスト時の特定のトリガーパターンによって作動し、モデルが操作された予測を出力するようになります。私たちはこの問題に \textit{Trojan Horse Hunt} データサイエンス競技会で焦点を当て、200を超えるチームが宇宙機のテレメトリ用の深層予測モデルに隠されたトリガーを識別する任務に直面しました。新規のタスク定式化、ベンチマークセット、評価プロトコル、および競技会からの最良の解法を説明します。時系列予測モデルにおけるトリガーを効果的に識別するための重要な洞察と研究方向性をさらに要約します。すべての資料は公式競技ウェブページ https://www.kaggle.com/competitions/trojan-horse-hunt-in-space で公開されています。