LLMベースの環境分析におけるエネルギー・フットプリント：LLMとドメイン製品

概要: 大規模言語モデル（LLM）は、気候変動や環境研究を含む領域特化型のアプリケーションでますます利用されるようになっているため、そのエネルギー負荷（フットプリント）を理解することが重要な懸念となっています。気候領域に特化した分析のための検索拡張生成（RAG）システムの導入が進むにつれ、重要な問いが浮上します。すなわち、領域特化型のRAGワークフローのエネルギー消費は、直接的な汎用LLMの使用と比べてどのようになるのでしょうか。先行研究では、単独のモデル呼び出しや粗いトークンベースの推定に焦点が当てられてきた一方で、実際に展開されたアプリケーションのワークフローにおけるエネルギー的な影響は十分に理解されていません。本論文では、2つのLLMベースの気候分析チャットボット（ChatNetZeroおよびChatNDC）について、汎用のGPT-4o-miniモデルと比較しながら、推論時のエネルギー消費を評価します。各ワークフローを、検索、生成、そして幻覚（ハルシネーション）のチェックの各コンポーネントに分解することで、実際のユーザー質問に基づくエネルギー使用量を推定します。また、1日の異なる時間帯や地理的なアクセス地点にまたがって検証も行います。その結果、領域特化型RAGシステムのエネルギー消費は、その設計に強く依存することが分かりました。よりエージェント的なパイプラインは、追加の精度向上や検証チェックのために用いられる場合、とりわけ推論時のエネルギー使用を大幅に増やしますが、一方で応答品質の向上がそれに比例して得られるとは限りません。より頑健に、モデル、環境、プロンプト構造にわたってこれらの初期の知見を追加検証するためにはさらなる研究が必要ですが、本研究は、領域特化型LLMプロダクトの設計がエネルギーフットプリントと出力品質の両方にどのように影響するのかについて、新たな理解を提供します。