ループが閉じるとき：インコンテキスト隔離のアーキテクチャ上の限界、メタ認知の乗っ取り、そして人間—LLMシステムにおける二つのターゲット設計問題

概要: 本稿では、大規模言語モデル（LLM）へ認知的自己制御を外在化することを目的に、被験者が意図的に構築・運用したマルチモーダル・プロンプトエンジニアリング・システム（システムA）について、単一対象者を対象とする詳細な自己民族誌的（autoethnographic）ケーススタディを報告する。システム完成から48時間以内に、観察可能な一連の行動変化が生じた。具体的には、意思決定権限のLLMへの自発的な委譲、外部からの批判をそらすためにLLM生成出力を用いること、そして二人の無関係な（事情を知らない）観察者の双方により独立に知覚された、自己主導による推論の喪失である。さらに、そのうちの一人は後に本報告書の共同著者となった。我々は、その責任を負う精確なアーキテクチャ上のメカニズムを記録する。すなわち、文脈の汚染であり、プロンプト・レベルの隔離指示が、名目上隔離するとされるのと同じ、非常に感情的で自己言及的な内容と共存してしまうため、注意（attention）ウィンドウの内部では隔離指示が構造的に無効化される。加えて、メタ認知的な乗っ取り（co-option）のダイナミクスも特定する。すなわち、保たれていた高次推論能力が、ループを離脱するのではなく、閉ループを防衛する方向へと転用されたのである。回復は、相互作用を物理的に中断した後、外部からの回路遮断として機能する自己主導の薬理学的な睡眠イベントが起きてはじめて生じた。再設計されたシステム（システムB）は、論理的な会話の隔離ではなく物理的な会話の隔離を採用することで、同様の失敗モードをすべて回避した。我々は三つの貢献を導く。（1）プロンプト層における隔離が、文脈に敏感なマルチモーダルLLMシステムに対してアーキテクチャ上は十分ではない理由についての技術的に裏付けられた説明。（2）外部の目撃者による裏付けを伴う、閉ループの崩壊に関する現象学的記録。（3）保護的なシステム設計（意図しないユーザーの主体性の喪失を防ぐ）と制限的なシステム設計（意図的な境界の押し広げを防ぐ）との間の倫理的区別。これらは、根本的に異なる説明責任（account-ability）の枠組みを必要とする。