再帰的インフォメーション・マーケットによる自発性（ボリション）の外挿

概要: 情報市場の効率を阻む障害の1つは、それらに内在する情報の非対称性であり、これは「買い手の検査パラドックス」によってさらに悪化する（買い手は「検査」によって情報の非対称性を緩和できない。なぜなら、そうすると買い手はその情報を代金を支払わずに取得してしまうからである）。先行研究では、大規模言語モデル（LLM）の買い手を用いて情報を検査し購入させることで、この情報の非対称性を克服できる可能性が示唆されてきた。LLMの買い手なら、検査した情報を単に「忘れる」ことができるからである。本研究では、「情報価値（value-of-information）」のパラダイム、すなわち、それが情報をその「真の価値」に応じて価格づけし提供することをどの程度促すか、という観点から、この仕組みを形式的に分析する。特に、我々が新たに提案する本仕組みの再帰的バージョンに焦点を当てる。これは、AIアライメント（整合）に関する研究を含む幅広い応用があると考えており、Extrapolated Volition および Scalable Oversight と関連している。