LLMはツールの無用性を知っているのか？ツール呼び出しにおける構造的アライメントバイアスを解明する
arXiv cs.CL / 2026/4/14
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、LLMがしばしば外部ツールが無関係であるにもかかわらずそれらを呼び出してしまう理由を調査し、その要因として「ツール拒否行動」における機械論的欠陥である構造的アライメントバイアスを特定する。
- 構造的アライメント（パラメータの適合性）とセマンティックな関連性（そのツールがユーザの目的に実際に役立つかどうか）を分離する新しいデータセットSABEvalを提案し、このバイアスを体系的に研究できるようにする。
- 著者らは、構造的アライメントバイアスが深刻なツール呼び出しの誤りを引き起こし、既存の評価手法ではほとんど見落とされていることを見出す。
- 内部の意思決定プロセスを説明するために、対比的注意帰属（Contrastive Attention Attribution）を導入し、セマンティックな確認と構造的なマッチングのための2つの競合する経路が、ツールが呼び出されるかどうかを共同で決定することを示す。
- さらに、全体としてのツール利用パフォーマンスを損なうことなく、実験において構造的アライメントバイアスを低減するリバランシング（再バランス）による緩和戦略も提案する。
