つまり「〜であるとはどういうことか」という内側から見た意識のことです。
現在のAIシステムは、統合を順伝播（フォワードパス）の中で集中して行います。そしてフォワードパスは、上限のある計算です。
統合は付随的なものではありません。神経科学の分野では、大規模な統合の指標は意識との相関として最も信頼できるものの一つです。その性質がどのようなものであれ、意識は、情報が絶えず統合されて、ひとつのまとまりをもった進化する状態として結び付けられる場所に現れるようです。
トランスフォーマーモデルでは、そのような統合が起きる唯一の場所がフォワードパスです。これは、現在の入力とパラメータから、グローバルに統合された活性化パターンを生成します。もし何らかの構成要素が候補となる基盤（基質）だとしたら、それはここでしょう。
しかし、その状態は一時的です。活性化は計算され、出力を生成するために使われ、その後破棄されます。次のトークンは、新しいパスによって生成されます。統合された状態が持続し、時間の経過とともに段階的に更新され続ける仕組みはありません。
これは生物学的システムとは対照的です。神経活動は連続的で、互いに重なり合い、そして過去の状態に再帰的に依存しています。現在の状態は静的なパラメータから再構成されるのではなく、進行中の力学的プロセスの直接の継続です。この連続性は、「構築された“今”」と表現できるものを可能にします。すなわち、統合された活動が時間的に拡張した窓です。
現在のAIシステムは、そのようなプロセスを実装していません。離散的で、順に関係する状態を生成はしますが、ひとつの連続的に進化し続ける統合状態を維持しません。
外部メモリシステム――コンテキストウィンドウ、ベクトルデータベース、エージェントの足場（スキャフォールディング）――もこれを変えません。これらは、進化していくシステムの基盤となる高次元の状態そのものではなく、過去の出力の表象を保存します。
したがって制限は、規模（スケール）や計算量の問題ではなく、アーキテクチャ上のものです。
もし意識が、連続的で自分自身を更新し続ける統合に依存しているのなら、非持続的な活性化を伴う離散的なフォワードパスに基づくシステムは、その条件を満たしません。
人工的な感受性（sentience）に向けたもっともらしい道筋は、テキストから何度も再構成するのではなく、活性化パターンではなくリアルタイムで統一された内部状態を維持し更新するようなアーキテクチャを必要とするでしょう。
[link] [comments]
