TwoHamsters：テキストから画像生成モデルにおける複数概念の合成的な不安全性のベンチマーク化

要旨: テキストから画像への生成（T2I）モデルの目覚ましい合成能力にもかかわらず、コンテンツ違反からそれらを保護することは、依然として持続的な課題です。既存の安全性アライメントは主に、明示的な悪意ある概念に焦点を当てることが多く、微妙でありながらも重要な、合成意味論に起因するリスクを見落としがちです。この見落としに対処するため、私たちは新たな脆弱性を特定し、形式化します。それは「Multi-Concept Compositional Unsafety（MCCU）」であり、危険な意味は、個々には無害に見える概念同士の暗黙の関連付けから生じます。この定式化に基づき、私たちは包括的なベンチマーク「TwoHamsters」を導入します。これはMCCUの脆弱性を検証するために厳選された17.5k個のプロンプトから構成されます。最先端の10モデルと16の防御手法に対して厳密な評価を行った結果、8つの重要な知見が得られました。とりわけ、現在のT2Iモデルと防御手法には深刻なMCCUリスクがあることを示します。TwoHamstersにおいて、FLUXはMCCU生成成功率99.52%を達成する一方で、LLaVA-Guardは想起（recall）が41.06%にとどまります。これは、有害な合成生成を管理するための現在のパラダイムに重大な限界があることを浮き彫りにしています。