私はローカルLLMソリューションの開発者で、最近、ヨーロッパの小規模な政府の1つのAI技術責任者と1時間話す機会がありました。彼の役割は、国内のビジネスコミュニティ内でAIを推進し、地域のAI研究やプロジェクトなどを後押しすることです。
技術的な観点でつながりました。というのも彼は（私と同じく）年配で、私と同様の技術的バックグラウンドがあり、同じようなグローバルIT組織で働いてきたからです。彼は、私がクライアント向けに開発しているAIプロダクトについて厳しく質問してきて、かなり踏み込んで問い合わせていました。ですので、政府関係者というよりは明らかにそれ以上に詳しいのだと思います。これは彼の初めての政府での任命ですが、テック業界では非常に経験豊富です。
しかし、私が強く感じたのは、地域のAIに対する認識の薄さでした。彼は、人々がLLMをd/lして動かせることは理解していましたが、誰か、あるいは企業がそれをやりたいと思う理由が何なのかについては認識がありませんでした。私がデータの主権（データソヴァレイニティ）の問題を説明すると、彼は「Copilotのデータ保護に関する契約」と反論しました。私が、法律事務所は大手AI技術企業の大きな契約を読んだうえで、それが気に入らないため、自前のローカルAIスタックを構築していること、そしてそのためにローカルLLMソリューションで自分たちのデータを確保していることを説明すると、彼はそれに対してそうした認識を示したのです。
またAPIコストのリスクについても話しました。もし企業が、OpenAI/AnthropicなどへのAPI呼び出しに依存する形でAIスタックを自社のビジネスに組み込むなら、APIコストを企業側が大幅に引き上げられる可能性があり、その場合ビジネスは身動きが取れなくなるため、ビジネスリスクを作ってしまっています。さらに、最前線のモデル企業は、利用負荷やモデル変更などの内部事情のせいで、モデルへのアクセスを絶えず変えているのに加え、そもそも一貫性がありません。同じプロンプトをAPI経由で2回送れば、2通りの異なる回答が返ってくることすらあります。これはビジネス上の懸念です。
彼はまた、大手AI技術企業への反発について、そしてどれだけ多くの組織が、自分たちと異なる価値観や政治的スタンスを持つ企業とは取引をしたくないのか、という点についても、どうやら認識がないようでした。もちろんグリーン（環境）面の問題もあります。私は、ローカルLLMが特定のユースケースに対してそうした課題を解決し、より多くの企業がAIに取り組むようになると説明しました。
会話は和やかで、彼は理解したいという意欲がありました。ですが、多くのビジネスユースケースにおいて、ローカルLLMを選択肢としてどう使えるのかについての理解があまりにも乏しいことに私は失望しました。彼は、企業に大手の米国AI企業へAPI呼び出しを送らせることにだけ焦点を当てているように見えます。そして彼はCopilotを繰り返し持ち出してきたので、思わず身構えてしまいました。
ローカルLLMの利用者として、私たちはローカルLLMを、特定のユースケースに対する本格的なビジネスソリューションとして宣伝する必要があると思います。AIのリーダーたちがローカルLLMを可能な解決策として挙げ始めてくれれば、このソリューションスタックを、大手AIに代わる現実的な選択肢として位置づける投資を、より多く獲得できるかもしれません。
皆さんは、ローカルLLMについて上級の政府関係者と話していますか？どんな会話をしていますか？
[link] [comments]
