SafeScreen：脆弱な利用者向けパーソナライズ動画検索のための、安全第一のスクリーニング・フレームワーク

概要: オープンドメインの動画プラットフォームは、健康、介護、教育といったアプリケーションを支える可能性のある、豊富でパーソナライズされたコンテンツを提供します。しかし、エンゲージメント最適化型の推薦アルゴリズムは、脆弱なユーザを、不適切あるいは有害な素材にさらしてしまう恐れがあります。これらのリスクは、特に子ども向けやケアの場面（例：認知症ケア）において深刻であり、表示する前に、個別化された安全性の制約を満たす必要があります。私たちは、個別化された安全性の制約を強制しながら、パーソナライズされた動画を取得して提示する、安全性を最優先する動画スクリーニングの枠組みSafeScreenを提案します。SafeScreenは、関連性や人気度によって動画をランキングするのではなく、安全性を前提条件として扱い、自動化されたパイプラインを通じて候補動画を順次承認または却下します。SafeScreenは、次の3つの主要コンポーネントを統合します： (i) プロファイルに基づく個別化された安全性基準の抽出、(ii) 適応的な質問生成とマルチモーダルVideoRAG分析による、証拠に根ざした評価、(iii) コンテンツの露出（提示）の前に安全性・適切性・関連性を検証する、LLMベースの意思決定。これにより、事前に計算された安全ラベルに依存せず、キュレーションされていない動画リポジトリを、説明可能でリアルタイムにスクリーニングできます。SafeScreenは、30の合成患者プロファイルと90のテストクエリを用いた、認知症ケアの回想（reminiscence）事例のケーススタディで評価しました。その結果、SafeScreenはエンゲージメントよりも安全性を優先し、YouTubeのエンゲージメント最適化型のランキングから80〜93%のケースで逸脱することが示されました。一方で、安全性のカバレッジ、妥当性、根拠性の水準は高いままであり、LLMベースの評価と領域の専門家の両方によって検証されました。