トークンからエージェントへ: 大規模言語モデルを理解するための研究者向けガイド

要約: 研究者は重大な選択を迫られる。大規模言語モデルを研究においてどのように活用するか、あるいは活用しないか。これらを適切に活用するには、LLMsが何をでき、何をできないかを形作る仕組みを理解する必要がある。本章は技術的専門知識を必要とせずにLLMsを理解可能にし、6つの重要な要素を分解する。事前学習データ、トークン化と埋め込み、トランスフォーマーアーキテクチャ、確率的生成、アラインメント、そしてエージェント的能力。各要素は技術的基盤と研究への影響の両面から分析され、具体的な利点と制約を特定する。指示的なガイダンスというより、本章はLLMsが特定の研究ニーズに適合するかどうか、そしてどのように適合するかを批判的に検討するための枠組みを構築し、最後にはLLMベースのエージェントを用いたソーシャルメディア動態のシミュレーションという拡張ケーススタディを通じて示されます。