変分言語モデルにおけるエージェンティック制御

要旨: 本研究では、変分言語モデルが、自身の内部証拠に基づく最小かつ測定可能な形のエージェンティックな制御を支えられるかどうかを検討する。提案モデルは、局所的な変分隠れ計算（EVE）、恒常性（ホームオスタシス）に基づく潜在レギュレータ、構造を考慮したチェックポイント保持、および保持されたモデルの上で動作する校正済みの不確実性を考慮したコントローラを組み合わせる。予測の後に測定される受動的な診断として不確実性を扱うのではなく、不確実性を運用上の信号として扱い、学習の調整、チェックポイント保持の支援、推論時の介入の指針に用いる。本研究で得られる枠組みは意図的に焦点を絞っている。すなわち、構造的および予測的な信号が実行可能（actionable）になるような、閉ループ型の内部制御の形式を扱う。実験的には、変分のバックボーンは言語モデリング課題において、対応する決定論的な参照モデルよりも性能が向上するだけでなく、より豊かで、より使いやすい不確実性プロファイルも示す。このバックボーンの上において、校正済みコントローラは引き続きアクティブであり、完全なエージェンティック評価のもとで複数のアクションを用い、正の品質—コストのトレードオフをもたらす。これらの結果は、次の精密な主張を支持する。すなわち、内部の不確実性は、変分言語モデルの記述的な特性であるだけでなく、調整、チェックポイント保持、最小限のエージェンティックなルーティングのための実用的な制御インターフェースとしても機能し得る。