不正使用検知パイプラインにおける大規模言語モデル

要旨: オンラインでの虐待（abuse）は、毒性のある言語、嫌がらせ、操作、詐欺的な振る舞いにまで及び、ますます複雑化しています。静的な分類器や、労力を要するラベリングに依存する従来の機械学習アプローチでは、脅威パターンの進化や、微妙で多様なポリシー要件に追随するのが難しくなっています。大規模言語モデル（Large Language Models）は、文脈に基づく推論、ポリシーの解釈、説明文の生成、そしてクロスモーダル理解といった新たな能力を提供し、現代の安全システムの複数の段階を支えることを可能にします。本調査は、LLMが虐待検知ライフサイクル（Abuse Detection Lifecycle: ADL）へどのように統合されているかを、ライフサイクル志向で分析するものです。ここでADLは、（I）ラベル生成と特徴生成、（II）検出、（III）レビューと異議申し立て、（IV）監査とガバナンス、の4段階にわたって定義します。各段階について、萌芽的な研究と産業界の実務を統合して整理し、プロダクション導入のためのアーキテクチャ上の考慮点を示し、LLM駆動アプローチの強みと限界を検討します。最後に、遅延、費用対効果、決定性、敵対的ロバスト性、公平性といった主要な課題を概説するとともに、大規模な虐待検知およびガバナンス・システムにおいて、LLMを信頼でき、説明責任のある構成要素として運用可能にするために必要な今後の研究方向性を議論します。