大規模ビジョン言語モデルによる文脈的欺瞞への対抗に向けたコミュニティノートの自動生成

概要: コミュニティノートは、ソーシャルメディア上のオンライン詐欺（デセプション）に対抗するための、効果的な群衆（クラウドソース）ベースの仕組みとして登場している。しかし、人間の投稿者に依存しているため、対応の迅速性とスケーラビリティの両面で限界がある。本研究では、真正な画像に誤解を招く文脈（例：時間、主体、出来事）を結び付ける、画像ベースの文脈的詐欺に対する、自動化されたコミュニティノート生成手法を検討する。これまでの研究とは異なり、主として詐欺の検出（すなわち、投稿が真か偽かを二値で判断すること）に焦点を当てていたのに対し、コミュニティノート型のシステムは、ユーザーが失われた／修正された文脈を取り戻すのに役立つ、簡潔で根拠のあるノートを生成する必要がある。この課題は、次の3つの理由により十分に研究されていない:（i）研究を支えるデータセットが乏しい。（ii）文脈的詐欺の動的な性質に対応しなければならない。（iii）標準的な指標では、ノートが実際にユーザーの理解を改善したかどうかを捉えられないため、評価が難しい。これらのギャップに対処するため、実世界のデータセットであるXCheckを選定し、X投稿に対応するコミュニティノートと外部文脈を含める。さらに、大規模な視覚言語モデルに基づく、検索強化（retrieval-augmented）かつマルチエージェント協調の枠組みとして、ACCNote（Automated Context-Corrective Note生成）を提案する。最後に、語彙の重なりに依存するのではなく、ユーザー調査の結果と整合する新しい評価指標、Context Helpfulness Score（CHS）を導入する。XCheckデータセットに対する実験の結果、提案手法のACCNoteは、ベースラインに比べて詐欺検出とノート生成の両方の性能を改善し、商用ツールであるGPT5-miniを上回ることが示された。本データセット、手法、指標により、より責任あるオンライン社会的ネットワークに向けて、文脈を是正するノートの実用的な自動生成を前進させる。