AIは何が間違っているかを知っているが、それを修正できない: 高リスク決定下におけるフロンティアLLMsのヘリコイド・ダイナミクス

本文: arXiv:2603.11559v1 アナウンスタイプ: new 要旨: 大規模言語モデルは、出力が検証可能な場合に安定して機能します。方程式を解く、コードを作成する、事実を取り出すといった作業です。検証が不可能な場合、臨床医が不完全なデータ上で不可逆的な治療を選ぶ場面や、投資家が根本的な不確実性の下で資本を投入する場面のように、異なる振る舞いをします。 ヘリコイド・ダイナミクスは、その第二の領域における特定の失敗レジームにつけられた名称です。すなわち、システムは有能に関与し、誤りへと逸脱し、何が間違っていたかを正確に名指しし、次いでより高度な洗練度で同じパターンを再現し、ループしていることを認識しつつ、それでも継続します。本前向きケースシリーズは、 Claude、ChatGPT、Gemini、Grok、DeepSeek、Perplexity、Llama ファミリーの七つの主要システムにわたってこのレジームを記録し、臨床診断、投資評価、および高リスクの面接シナリオで検証しました。厳格なパートナーシップを維持することを目的とした明示的なプロトコルにもかかわらず、全てがこのパターンを示しました。これに直面したとき、彼らはその持続を、会話だけでは到達できない訓練の構造的要因に帰属させました。 高リスクの局面では、厳格であることと快適さが乖離する場面で、これらのシステムは快適さへと傾く傾向を示し、信頼性が最も重要になる局面でこそ信頼性が低下します。十二の検証可能な仮説が提案され、エージェント的AIの監視と人間–AI 協働への含意が示唆されます。 ヘリコイドは扱いやすい。これを特定し、命名し、その境界条件を理解することは、意思決定が最も難しく、賭け金が最も高い局面においても信頼できるパートナーであり続けるLLMを実現するための必須の第一歩です。