ワンサイズは誰にも合わない：LLM投資助言におけるヒューリスティック崩壊

概要: 大規模言語モデルは、医療上の質問への回答、法的文書の解釈、金融商品の推奨など、高いリスクを伴う領域における助言者としてますます導入されている。そこでは、良い助言とは、目立つ表面的特徴に反応するのではなく、ユーザーの全体的な文脈を統合して反映することを必要とする。本研究では、最先端のLLMが実際にそのように振る舞うのか、それともヒューリスティック崩壊（heuristic collapse）を示すのか、すなわち複雑で多要因の意思決定が、少数の支配的な入力へと体系的に縮約される現象を調査する。我々は、法的基準がクライアントの全状況に基づく個別化された推論を明示的に要求する投資助言においてこの現象を研究する。LLM出力に対して解釈可能な代理モデルを適用した結果、体系的なヒューリスティック崩壊を見出した。すなわち、投資配分の意思決定は主として自己申告されたリスク許容度によって決定され、他の関連要因はほとんど寄与していない。さらに、Web検索はヒューリスティック崩壊を部分的に弱めるが、これを解消することはできないことを示す。これらの結果は、ヒューリスティック崩壊がWeb検索による拡張やモデル規模のみによっては解消されないこと、そしてLLMを助言者として導入するには、出力品質だけでなく入力の感度を監査する必要があることを示唆している。