連合型インテリジェンス検索の強化

Abstract

RAGは通常、文書への中央集約的なアクセスを前提としていますが、知識がプライベートなデータ・サイロに分散している場合には、この前提が崩れます。私たちはFlowerを用いて構築した、ローカルのサイロで検索を行い、サーバー側での集約とテキスト生成は、認証付きの秘匿コンピュート環境の中で実行する、セキュアなフェデレーテッドRAGシステムを提案します。これにより、正直だが好奇心の強い（honest-but-curious）サーバーや侵害されたサーバーが存在する状況でも、秘匿性を保ったままの機密リモートLLM推論が可能になります。また、非機密の第三者モデル（例：Amazon Nova）を補助的な文脈として組み込しつつ、機密性を弱めないことを可能にする、カスケード型推論のアプローチも提案します。