スケールの再考：エージェント・パラダイム下での小型言語モデルのデプロイにおけるトレードオフ

概要: 大規模言語モデルの印象的な能力にもかかわらず、その大きな計算コスト、レイテンシ、そしてプライバシー上のリスクが、現実のアプリケーションへの広範な導入を妨げています。100億パラメータ未満のSmall Language Models（SLM） は、有望な代替手段を提供しますが、その内在する知識・推論上の限界により有効性が制約されます。既存の研究は主として、スケーリング則やファインチューニング戦略によって SLM を強化することに焦点を当てており、小型モデルの内在する弱点を体系的に補うために、ツール利用やマルチエージェント協調といったエージェント・パラダイムを用いる可能性を見落としています。このギャップに対処するため、本論文では、3つのパラダイムのもとで<10Bのオープンソースモデルを対象とした初の大規模かつ包括的な研究を提示します：（1）基盤モデル、（2）ツールを備えた単一エージェント、（3）協調能力を持つマルチエージェント・システム。実験結果は、単一エージェント・システムが性能とコストの最良のバランスを達成する一方で、マルチエージェント構成ではオーバーヘッドが増えるものの得られる効果は限定的であることを示しています。これらの知見は、資源が制約された環境における効率的かつ信頼できる導入のために、エージェント中心の設計が重要であることを強調しています。