Microsoft Recallを思い出せない人は、それを繰り返す運命にあります。 

今日、それはOpenAIにも当てはまります。OpenAIはひそかに、オプトインの研究プレビュー「Chronicle」を導入しました。これは、ユーザーの画面をキャプチャし、その画像をOpenAIのCodexエージェントに渡すことで、より多くの文脈情報にアクセスできるように設計されています。

同社はドキュメントの中で、「Chronicleは、あなたの画面からの文脈でCodexのメモリを拡張します。」「Codexにプロンプトを出すと、それらのメモリによって、あなたが文脈を言い直す必要がより少なくなり、Codexがこれまであなたが何に取り組んできたのかを理解する助けになります」と説明しています。

Recallの騒動を忘れてしまった人、または騒ぎを見逃したかもしれない人のために言うと、Microsoftは2024年にWindowsの機能として、Recallと呼ばれるものを導入しました。これは、数秒ごとにユーザーのデスクトップ環境のスクリーンショットを撮り、その結果をディスクに保存するものです。発想としては、Copilotサービスにより多くの文脈情報を与えることで、サービスをより役立つものにする、ということです。

サイバーセキュリティのコミュニティはすぐに殺到し、Recallをキーロガーであり、プライバシーの悪夢であり、訴訟を誘発する材料だと説明しました。公の場で数か月間ひたすら叩かれた後、Microsoftは批判をなだめるために「いくつか修正」しました。 

返却形式: {"translated": "翻訳されたHTML"}

それでもブラウザ開発元のBraveは、Recallのスクリーンショットをブロックすることを提供し続けた。これは、想定される機密情報フィルタにもかかわらず、Recallがクレジットカード番号やパスワードの画像を保存していることを見つけた当方のテストを踏まえると、十分に取り組む価値のある試みのように見える。

OpenAIは、マイクロソフトが評判を巡って受けている追い打ちを忘れてしまったのかもしれない。あるいは、セキュリティやプライバシーに関わることを気にして邪魔をする少数の人々のニーズよりも、モデル側の要求のほうが重要だと考えているのかもしれない。別の可能性として、AI業界が、広報戦略としてマゾヒズムを受け入れている、ということも考えられる。

今週OpenAIのChronicleに関するドキュメントが登場するやいなや、セキュリティ研究者のMichael Taggartは それに注目した 。彼は「やばい、OpenAIがRecallを作り直した。でもmacOS向けにだ」と書いた。

• AnthropicはProプランからClaude Codeを外したとき、開発者がどう反応するかをテスト
• Metaの皮肉が見事。業務用PCで監視ソフトを動かすことにスタッフが不満
• GitHubは、CLIの全ユーザーを本人の意思にかかわらずテレメトリ収集に同意させる
• GrafanaはAIアシスタントを無料提供、ユーザーに“暴走しないように”警告

とはいえ良い点もある。Chronicleは自分で選ぶオプトイン方式で、利用可能なのはmacOSのCodexアプリだけだ。

それに対する懸念は、より広範に及ぶ。OpenAIのドキュメントは、これらの問題の一部を説明している。「有効化する前に、Chronicleはすぐにレート制限に引っかかり、プロンプトインジェクションのリスクが高まり、さらにメモリが暗号化されずにデバイスに保存されることに注意してください。」

つまり、Codexのレート制限をより早く消費し、悪意のある指示を含んでいる可能性のあるスクリーンキャプチャを通じて、ユーザーのプロンプトインジェクションへの露出を高め、選択したスクリーンショットのデータをOpenAIのサーバーに送って、OCRやその他の抽出コンテキストからローカルメモリを生成する。これは、あまり説得力のある売り文句とは言い難い。

少なくとも、ローカルでの画像保存は短い。OpenAIは、スクリーンショットは6時間だけ保存されると述べている。 

ただし、OCRによるテキスト抽出を通じてそこから導出されるデータは、その後も「memories（メモリ）」の中に残り得る。メモリは、後続のセッションで情報を利用可能にするテキストベースのMarkdownファイルだ。

メモリ生成プロセスに関するOpenAIの説明には、いくつかの詳細が欠けている。同社は、スクリーンキャプチャは一時的にオンデバイスで保存され、その後サーバー上で処理されて「メモリ」が生成され、そしてそのメモリが今度はオンデバイスに保存される、としている。

OpenAIに送信されたスクリーンキャプチャは、トレーニングに使われたり、保存されたりはしない――法律上必要とされない限り――とドキュメントは主張している。だが、メモリ（OCR由来のテキスト）が会社のサーバーに保存されるのか、それとも、そうするための適法な要求があれば保存され得るのかは不明だ。The RegisterはOpenAIに明確化を求め、回答があればこのストーリーを更新する。

いずれにせよ、スクリーンキャプチャが短命である一方で、メモリに保存されるテキスト（$CODEX_HOME/memories_extensions/chronicle/）は削除されるまで残る。さらに、Chronicleを使う誰かが、保存されたそれらのメモリを利用するCodexへのプロンプトを通じて、キャプチャされたコンテンツを再共有してしまう可能性がある点も押さえておく価値がある。

OpenAI自身も、Chronicleには一定のリスクがあることを認めている。「スクリーンキャプチャとメモリの両方のディレクトリには、機密情報が含まれる可能性があります。他の人にコンテンツを共有しないように注意し、このPC上の他のプログラムもこれらのファイルにアクセスできることを理解してください。」

警告は受けたはずだ。仕掛けの“足を撃つ銃（footgun）”が、あなたの足を撃つ。®

関連情報

• AI
• OpenAI
• プライバシー

これらに似た内容