エンタープライズAIは新しいフェーズに入っています。中心となる問いが「何を作れるか」ではなく、「AI投資を最大限に活かすにはどうすればいいか」になる局面です。
VentureBeatの最新AI Impact Tourセッションで、Red Hatのポートフォリオ戦略ディレクターであるBrian Gracely氏は、大企業の内部で現実に起きていることを説明しました。AIのスプロール（利用の拡散）、推論コストの上昇、そして、それらの投資が実際に何をもたらしているのかが見えにくいという状況です。
これは「Day 2」の瞬間です。パイロットが本番へ移行する中で、コスト、ガバナンス、サステナビリティが、そもそもシステムを作ることよりも難しくなっていきます。
"私たちが見てきたのは、こう言う顧客です。「Copilotのライセンスを5万件持っている。でも、人がそれで何を得ているのかはよく分からない。けれども、世界で最も高価な計算を買っているのは分かる。GPUだからです」" Gracely氏はそう述べました。"「どうやってそれを制御できるのか？」"
エンタープライズAIのコストが今や取締役会レベルの問題になっている理由
ここ2年ほどの多くの間、生成AIを評価する組織にとって、コストは主要な懸念ではありませんでした。実験フェーズでは、チームが自由に支出するための後ろ盾があり、生産性向上の期待が大胆な投資を正当化していましたが、そのダイナミクスは、企業がAIを含む2度目・3度目の予算サイクルに入ることで変化しつつあります。焦点は「何かを作れるか」から「支払った分に見合うものを得ているか」へと移っています。
早期にマネージドAIサービスへ大きな賭けをした企業は、それらの投資が測定可能な価値を提供しているのかについて、厳しい見直しを行っています。問題は単に、GPU計算が高価だということだけではありません。多くの組織には、支出と成果を結びつけるための計装（インストルメンテーション）が欠けているため、更新や拡大を、責任ある形で正当化することがほぼ不可能になっているのです。
トークンの消費者からトークンの生産者への戦略的なシフト
ここ数年で支配的だったAIの調達モデルは、シンプルでした。トークン単位、シート単位、またはAPIコール単位でベンダーに支払い、インフラは別の誰かに管理させる。そのモデルは出発点としては理にかなっていましたが、代替案を比較できるだけの経験を持つ組織から、ますます疑問視されるようになっています。
1度AIサイクルを経験した企業が、そのモデルを見直し始めています。
"純粋なトークン消費者でいるのではなく、どうすればトークン生成者として振る舞い始められるのでしょうか？" Gracely氏は述べました。"自分がより多くを所有すべきで、筋の良いユースケースやワークロードはあるのでしょうか。GPUの運用が必要になるかもしれません。GPUをレンタルすることになるかもしれません。そして次にこう問いかけるんです。『そのワークロードには、最先端の状態のモデルが本当に必要なのか？ より能力の高いオープンモデルや、より小さなモデルで適合できないのか？』"
判断は二択ではありません。正解は、ワークロード、組織、そして関与するリスク許容度によって変わります。ただし、DeepSeekから、クラウドのマーケットプレイス経由で今利用できるモデルまで、能力のあるオープンモデルの数が増えるにつれて、計算はますます複雑になっています。今や企業は、2年前に市場を支配していた数少ない提供者以外にも、現実的な選択肢を持てるようになっています。
AIコストの低下と利用の増加が、エンタープライズ予算に逆説を生む
一部のエンタープライズのリーダーは、今のインフラ投資にロックインすることは、長期的には大幅に過払いにつながりかねないと主張し、AnthropicのCEOであるDario Amodeiの発言を引き合いに出しています。AIの推論コストは、年あたりおおよそ60%減少している、という内容です。
DeepSeekなどのオープンソースモデルの登場は、過去3年の間に基盤となるインフラへ投資する用意がある企業に対して、戦略的に利用できる選択肢を大きく広げました。
しかし、トークンあたりのコストが下がっている一方で、利用は効率化の利益を上回る速度で加速しています。これは、リソース効率の改善が総消費量を減らすのではなく増やしてしまう傾向がある、経済学上の原理であるJevonsのパラドックスの一種です。つまり、コストが下がることで、より広い採用が可能になり、結果として消費が増えるのです。
エンタープライズの予算計画者にとって、これは、単位コストが下がっても総額の請求が下がるとは限らないことを意味します。AIの利用を3倍にして、コストが半分になったとしても、結局は以前より多く支払うことになります。重要になるのは、最も能力が高く、最も高価なモデルを本当に必要とするワークロードはどれか、そしてそれ以外は小さくて安い代替手段で十分に対応できるか、という見極めです。
AIインフラの柔軟性に投資するためのビジネス上の根拠
処方箋は、AI投資を止めることではありません。むしろ、柔軟性を最優先の考え方として組み立てることです。勝てるのは、必ずしも最も速く動く、あるいは最も多くを費やす組織ではありません。次に予期しない展開が起きたとき、それを吸収できるインフラと運用モデルを構築できる組織です。
"いくつかの抽象化を作り、自分たちに柔軟性を持たせられるほど、コストを膨らませずに、しかもビジネスを危うくすることなく、より多くの実験ができるようになります。それは、『今の時点でベストプラクティスをすべて実行できているか』を問うのと同じくらい重要なことです" とGracely氏は説明しました。
しかし、エンタープライズの計画サイクルにおけるAI議論がどれほど根付いていても、ほとんどの組織が実際に得ている経験は、まだ数年単位で測られるのが実情です。数十年ではありません。
"ずっと前からやっているように感じます。3年間ずっとやってきたんです" とGracely氏は付け加えました。"まだ初期段階で、しかも非常に速いペースで進んでいます。次に何が来るかは分かりません。でも、次に来るものの特徴――それがどんなものか、ある程度イメージできているはずです"
AI投資戦略をなお調整しているエンタープライズのリーダーにとって、最も実行可能な示唆はこれかもしれません。目的は、今日のコスト構造に最適化することではなく、変化したとき（それがいつ来るかに関わらず、必ずまた変わるとき）に適応できるよう、組織的および技術的な柔軟性を構築することです。
