AI Navigate

エージェントシステムにおける実行境界は実際にはどこにあるべきか?

Reddit r/artificial / 2026/3/22

💬 オピニオンDeveloper Stack & InfrastructureIdeas & Deep AnalysisTools & Practical Usage

要点

  • ほとんどの制御は実行後に行われる(リトライ、状態チェック、監視、冪等性のパッチなど)、一方で実際に実行を決定する判断は多くの場合暗黙的である。
  • 多くのシステムでは、能力(can call)と権限(allowed to execute)は分離されているが、エージェントはこれらを1つの概念に統合してしまう傾向がある。
  • 核心的な問題は、許可/拒否の決定をどこに置くべきかである。エージェントループの内部、ツールラッパーの内部、集中型ポリシー層、それとも別の場所か。
  • いずれの選択肢であっても、それはエージェントシステムの安全性、ガバナンス、そしてエージェントシステムの組み合わせ可能性に影響を及ぼすが、まだ合意には至っていない。
  • この投稿は、エージェントアーキテクチャにおける実行境界をどこに置くべきかについて、継続的な議論を促している。

以前の議論の続きとして

現実のシステムに頻繁に現れるパターン:

制御のほとんどは実行後に起こる

- 再試行

- 状態チェック

- 監視

- 冪等性パッチ

ただし実行するかどうかの実際の決定は多くの場合暗黙的です

エージェントがツールを呼び出せる場合、そのアクションは実行されます

他の多くのシステムでは、次のように分離します:

- 能力(呼び出し可能)

- 権限(実行を許可)

エージェントは通常、それらを1つに統合します

したがって質問は次のようになります:

実際の許可/拒否の決定はどこに置くべきですか?

- エージェントのループ内ですか?

- ツールラッパーの内部ですか?

- 集中化されたポリシーレイヤーとして?

- まったく別の場所ですか?

それとも私たちはまだエージェントに決定させ、事後に修正しているだけですか?

投稿者 /u/docybo
[リンク] [コメント]