監視者または「マネージャー」AIエージェントは、AIを制御する正しい方法ではない

ますます多くの企業が、AIが生み出す幻覚・ドリフト・ミスを減らすために、それらの上に監督者または管理者AIを追加して、それらのAIエージェントが行っているすべてのことを審査するようにすると言っているのを私は目にします。

それが解決策の道のようです。

もう一つ見かけるのは、出力を評価する複数のAIジャッジを追加することで、そうした企業は低い偽陽性率やミスを自慢して歩き回っています。

AIエージェントの上に追加のAIエージェントを重ねてミスを減らすことは、濡れた毛布で自分を包み、さらに毛布を重ねて凍えるときに自分を温かく保つようなものです。

あなたは凍えるでしょう。時間はかかるだけで、多くの毛布を使うことになります。

理解できません。純粋なAIソリューションの盲目的な戦艦のようなものです。我々には決定性を達成できるソフトウェアがあります。私たちはこれを知っています。

AIとソフトウェアのハイブリッド解決策こそが、前進する唯一の道です。