Opal: 個人向けAIのためのプライベートメモリ

概要: パーソナルAIシステムは、ドキュメント、メール、メッセージ、会議、そして周囲の録音を含む、ユーザの活動に関する長期メモリをますます保持するようになってきています。信頼できるハードウェアはこのデータをプライベートに保てますが、格納データが増えるにつれてスケールするのが難しくなります。これによりデータは外部ストレージへと押し出され、その結果、検索（取得）アクセスのパターンが露出して、プライベート情報がアプリケーション提供者へ漏えいします。オブリビアスRAM（ORAM）はこれらのパターンを隠すための暗号プリミティブですが、固定のアクセス予算を必要とし、エージェント型メモリシステムが精度のために依存する、クエリ依存のトラバーサル（走査）を妨げます。
私たちは、パーソナルAI向けのプライベートメモリシステムである Opal を提案します。鍵となる着想は、データに依存した推論を、個人データの大部分から切り離し、それを信頼できるエンクレーブに閉じ込めることです。信頼できないディスクは、固定的でオブリビアスなメモリアクセスしか見ません。このエンクレーブ常駐コンポーネントは軽量な知識グラフを用いて、意味検索だけでは取りこぼされる個人の文脈を捉え、さらにORAMアクセスのたびに再インデックスと容量管理を抱き合わせることで、継続的な取り込みに対応します。確率的な通信モデルに駆動される包括的な合成パーソナルデータのパイプラインで評価した結果、Opal は意味検索に比べて検索精度を13ポイント向上させ、また、安全なベースラインと比べてインフラコストを15分の1にしながらスループットを29倍に達成しました。Opal は主要なAIプロバイダにおいて、数百万ユーザへの展開が検討されています。