較正されたサプライズ:情報理論に基づく創造的品質の説明

arXiv cs.AI / 2026/4/30

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本論文は、優れた創造的な文章の本質は「較正されたサプライズ」にあると主張し、複数の制約次元が同時に作用することで実現可能な解空間が狭まり、その結果は無制約の視点からは最も予測しにくく見えると述べている。
  • 「較正」と「サプライズ」を情報理論で形式化し、較正を条件付きエントロピーが0に近づくこと、サプライズをエントロピー増大として捉え、主要指標として相互情報量を用いる。
  • 静的な見方(ethos、mythos、lexis、dianoiaという複数の制約を同時に課すと許容される選択肢が鋭く収縮する)と動的な見方(連鎖則により各選択が前後の文脈によって制約され、マクロ決定ほど情報寄与が大きくなるため手作業の重み付けが不要になる)を提示する。
  • 事例研究と、LLMのlog-probを用いた軽量な計算により、この枠組みが分析的にも運用的にも有用であることを示し、Creative Quality Alignment(CQA)と専門的評価ベンチマークの理論的基盤を与えるとしている。

Abstract

良い創作執筆の本質は「調整された驚き(calibrated surprise)」である。関連するあらゆる次元からの制約が同時に作用すると、実行可能解の空間は狭い領域へと崩壊し、生き残る選択肢は、制約のない見方からすると最も予測しにくく見える。 「調整された(calibrated)」には正確な意味がある。すなわち、著者の意図、読者の合理的な期待、そして現実の論理が、すべての次元において収束する、ということである。この3つの独立した判断があらゆる次元で一致すると、許容される執筆上の選択肢の集合は、ごく小さな領域に押し込まれる。数学的な系(コロラリー)も続く。全次元の正確さと平凡さ(mediocrity)は相互に両立しない――それらは別個の目標ではなく、同一の制約構造の両側である。 本研究では分析ツールとしてシャノンの相互情報量 I(X;Y) = H(X) - H(X|Y) を用いる。「調整された」は条件付きエントロピーがゼロへ向かうことに対応し、「驚き」はエントロピーが上がることに対応し、相互情報量がこの結合量を測る正確な指標となる。議論は二つの柱に立脚している。静的:エトス(ethos)、ミュトス(mythos)、レクシス(lexis)、ディアノイア(dianoia)からの制約を同時に課すと、許容集合は鋭く崩壊し、生き残る解は、制約のない見方からすると低確率の選択として現れる。動的:連鎖律により、各執筆上の選択はそれ以前の内容によって制約され、さらにそれは後続の内容を制約することが示される。マクロ・レベルでの決定は自然に情報のより大きな割合を担うため、手作業で調整された重み付けの必要がなくなる。 ケーススタディと軽量なLLMログ確率計算を通じて、この枠組みが分析的にも運用的にも有用であり、創作品質アラインメント(Creative Quality Alignment: CQA)と、プロの評価ベンチマークのための理論的基盤を与えることを示す。