自分のAIエージェントを実際に数か月かけて作ろうとしているうちに考えていたのは、この領域で最大の罠は技術的なものではない、ということです。罠は「ジャービス幻想」です。
ジャービス幻想とは、1つのエージェントがあなたの人生を丸ごと動かしてくれると頭の中で思い描く瞬間のことです。受信トレイを処理し、カレンダーを管理し、ニュースレターを書き、タスクを仕分けし、眠っている間に問題を考えてくれる。第1週目から完成品としてそのまま手に入る、といったイメージです。
これは罠です。私はそこにかなり深くはまってしまいましたし、他の人がエージェント作りを始めるのを見ていても、同じ罠に落ちているのが分かります。あなたをつかむときに実際に起きていることは、たぶんこうです：
- 1つずつ追加して落ち着かせるのではなく、一度に5つの機能を追加するように促される。
- 基本がまだ安定していないのに、完全自律へと背中を押される。そうして何かがズレたとき、どの層をデバッグすべきか分からなくなる。
- エージェントがすべてを自分で理解してくれるはずだと前提してしまうが、実際に必要なのは、より明確な境界線と、より単純な仕事だ。
- 「到達すべき終状態（end state）」を「出発点（starting point）」と取り違える。手に入れるまでに身につけていないのに、最終的な形を欲しがってしまう。
本当に機能するバージョンは、私の考えでは漸進的（インクリメンタル）です。まずは小さな1つのタスク。次に、その次。次に。たとえば、前夜のメールの朝の要約。次に、日次のプラン作成者（ドラフター）。次に、受信トレイの仕分け。やがて、たくさんの小さな部品が、結果的に少しずつジャービスっぽく見えてくることはあります。でもそれは、目標としてそうなるのではなく、土台がしっかりしている副産物としてそうなるのです。
私が最も助けられた再フレーミングは、エージェントを「解く人（ソルバー）」ではなく「パートナー」として考えることです。退屈な作業をあなたの手から取り除き、面白い意思決定のほうへあなたを連れていく存在。あなたをループから完全に外してしまう存在ではありません。
（少なくとも私にとって）より深い洞察はこうです。「AIがこれをできるかどうか」が問題ではない、ということ。問題はもう少し -> 身につけてもいないのに、到達すべき終状態を先に欲しがってしまうことかもしれません。それは人間のミスであって、AIのミスではありません。
[link] [comments]
