かつて開発者がLLMアプリケーションを出荷するために必要としていた足場レイヤー――インデックス層、クエリエンジン、リトリーバルのパイプライン、入念にオーケストレーションされたエージェントのループ――が崩れつつあります。そして、LlamaIndexの共同創業者兼CEOであるJerry Liuによれば、それは問題ではありません。むしろ目的です。
「その結果、ユーザーがこれらの決定論的なワークフローを、軽く浅い形で組み立てられるように実際に支援するためのフレームワークの必要性は、より少なくなっています」と、LlamaIndexの共同創業者兼CEOであるJerry Liuは、新しいVentureBeat Beyond the Pilotポッドキャストで説明しています。
状況（コンテキスト）が「堀」になってきている
LiuのLlamaIndexは、プライベートでカスタムされた、あるいはドメイン固有のデータをLLMに接続する、代表的なリトリーバル拡張生成（RAG）フレームワークの1つです。ですが、彼自身も、こうしたタイプのフレームワークが以前ほど重要ではなくなってきていることを認めています。
新しいリリースが出るたびに、モデルは「大量の」非構造化データを推論するための能力を段階的に示しており、彼はそれが人間よりも良くなっていると指摘しています。広範に推論し、自己修正し、複数ステップの計画を実行できると信頼できます。さらに、Modern Context Protocol（MCP）やClaude Agent Skillsのプラグインによって、モデルは、1つひとつの統合を個別に要求されることなくツールを発見し、それを使えるようになります。
エージェントのパターンは、Liuが「managed agent diagram」と呼ぶものへと統合されつつあります。つまり、あらゆるワークフローごとにカスタムでオーケストレーションを作り込むのではなく、ハーネス（制御）層とツール、MCPコネクタ、スキル・プラグインを組み合わせる、という形です。
加えて、コーディング・エージェントはコードを書くことに長けています。つまり、開発者は広範なライブラリに頼る必要がありません。実際、LlamaIndexのコードの約95%はAIによって生成されています。「エンジニアは実際の“本物のコード”を書いているわけではないんです」とLiuは言いました。「みんながやっているのは、自然言語で打ち込むことです。」そのため、プログラマーとノンプログラマーの間にある層が崩れています。「新しいプログラミング言語は、基本的に英語だから」です。
手作業でコーディングしたり、APIやドキュメント統合を理解するのに苦労したりする代わりに、開発者はClaude Codeにそれを指示するだけで済みます。「こういう類のものは、以前は極端に非効率だったか、あるいは3年前ならエージェントが壊れてしまうようなものだったんです」とLiuは述べました。「極めて単純なプリミティブで、比較的高度なリトリーバルでも人が作れるようになるので、ずっと簡単です。」
では、スタックが崩れるときのコアとなる差別化要因は何でしょうか？
Liuによれば、それはコンテキストです。エージェントは、適切な情報を取り出すために、ファイル形式を読み解ける必要があります。精度を高め、より安価なパースを提供できることが重要になり、そしてLlamaIndexは、光学文字認識（OCR）によるエージェント的なドキュメント処理に関する開発があるため、この点でうまく位置づけられている、と彼は主張します。
「私たちは、これらのファイル形式のコンテナの中に、どこかに閉じ込められている基本的なデータセットがあることを、はっきり特定しました」と彼は言いました。最終的には、「OpenAI Codexを使うのかClaude Codeを使うのかは、実はあまり本質的ではありません。彼らがすべてに必要としているのは、コンテキストです。」
スタックをモジュール化したままにする
Anthropicのようなビルダーがセッションデータにロックインしてしまうことへの懸念が高まっています。こうした状況を踏まえ、Liuはモジュール性と不可知性（アグノスティシズム）の重要性を強調します。ビルダーは、どれか1つのフロンティアモデルに賭けるべきではありませんし、スタックの構成要素を過度に複雑にしてしまう形で作り込みすぎてもいけません。
リトリーバルは、彼の言葉では「エージェント＋サンドボックス」へと進化しており、企業は、自社のコードベースがテックデット（技術的負債）なしで、変化するパターンに適応できる状態になっていることを保証しなければなりません。また、スタックの一部は、当然のこととして最終的に捨てる必要が出てくることも認める必要があります。
「新しいモデルのリリースがあるたびに、だいたい“勝ち役”になる別のモデルが必ず出てくるからです」とLiuは言いました。「だから、それを活かすための柔軟性を実際に用意しておく必要があります。」
ポッドキャストを聴いて、さらに次のことを聞いてください：
最初は精度が約40%程度しかなかった“おもちゃのプロジェクト”としてのLlamaIndexの始まり；
SaaS企業が、平均的な知識労働者にとって標準化され、再現可能でなければならない複雑なワークフローを活用する方法；
縦型AI企業がなぜ立ち上がっているのか、そしてエージェントの時代において「作るか買うか（build versus buy）」が依然として非常に妥当な問いである理由。
また、Beyond the PilotをSpotify、Apple、あるいはあなたがポッドキャストを聴ける場所ならどこでも聴いて、購読することもできます。
