AIエージェントと破壊的な操作の間に人はどんな制御レイヤーを置いているのか？

最近、AIのコーディングエージェントが数秒でデータベースを消してしまったケースを見かけました。

そこで、ほとんどのエージェント設定がどう組み立てられているかを考えました。つまり、エージェントが判断 → クエリを実行 → 完了、という流れです。

通常はログやトレーシングがありますが、それらはすべてアクションの後に起きます。

もしあなたのエージェントがDBのようなシステムにアクセスできるなら、あなたは:

読み取り専用に制限していますか？

すべてをステージング／サンドボックスで実行していますか？

プロンプトレベルのセーフガードに頼っていますか？

それとも、その間に何らかの制御レイヤーを入れていますか？