The Agent Energy Gap
エージェントは、1タスクで136倍の電力を食べる。
同じ「AIに聞く」でも、チャットで一問一答するのと、エージェントに任せて自律的に動かすのとでは、消費エネルギーの桁がまるで違います。KAISTの新しい計測では、その差は最大 136.5倍——単純推論の話ではもう済みません。
What Changed
「1問1答」の物差しは、
もう当てにならない
KAIST の研究チームが公表した最新の計測では、AI エージェントは同種のチャットボットに比べ、1タスクあたり最大 136.5 倍のエネルギーを消費することがわかりました。ツール呼び出し・複数ステップの推論・失敗時の再試行——ひとつひとつは軽くても、合算で重くなる構造です。
これまで AI コストは「1リクエスト = 1回の推論」で計算されがちでした。しかしエージェント運用が広がると、1タスクの裏で10〜100 回の推論が動くことが珍しくなくなります。「単価×回数」ではなく「タスクあたりの合計」で見るモデルに移行する必要があります。
By The Numbers
3つの目安
Where The Cost Goes
電力を食っているのはどこか
エージェントは「賢く回り道」をします。その回り道が、そのまま消費電力です。
ツール呼び出しの往復
検索・DB照会・API連携——ひとつのツール呼び出しごとに前後の推論が発生し、往復するたび計算が積み上がります。
思考の連鎖（Chain of Thought）
途中で自己検証や再計画を挟むと、内部推論の長さが加速度的に伸びます。長い chain ほど質は上がりますが、電力も比例します。
失敗と再試行
API エラー、ツールの空返却、判断の揺れなどで再試行が起きると、同じタスクを2〜3回やり直すことも珍しくありません。
Rethink The Budget
予算・電力の見立て直し方
単発推論の見積もりのまま全社展開すると、数ヶ月後に大幅なコスト超過が起きます。
| これまでの見積もり | エージェント時代の見立て |
|---|---|
| 推論単価 × 月間クエリ数 | タスク単価 × タスク数（推論回数はタスク内で吸収） |
| GPU利用は「秒」単位で概算 | 「タスク完了時間」ベースで枠取り、上限を明示 |
| 電力・冷却は運用インフラの固定費 | エージェント数の伸びに比例する変動費として扱う |
| 失敗率は無視できる誤差 | 10-30% の retry を織り込んで予算化 |
So What
いま打てる手
短期の実装上の打ち手は3つ。タスク単位のコストダッシュボードを用意する（1リクエスト単価ではなく、1タスク合計で可視化）。安全上限を仕込む（再試行回数・最大チェーン長で頭打ちを設定）。そして難易度ルーティングを入れる（低難度は軽量モデルで、複雑なタスクだけフラッグシップに回す）。
中期では、電力調達（PPA）や冷却設備の設計にもこの単位が波及します。「1タスク＝100推論」を前提に、契約更新のリズムを合わせておくと計画外の追加調達を減らせます。
そして「速さより静けさ」——重い問題は落ち着いて回すという設計哲学が、いま経済的にも合理的になってきています。