多様な出力形式に対するバイオメディカル固有表現認識での軽量LLMの分析

Abstract

優れた言語能力にもかかわらず、大規模言語モデル（LLM）は計算コストが高く、微調整のために多大なリソースを必要とします。しかしこれは、多くの医療現場が抱えるプライバシーおよび予算の制約に適していません。そこで本研究では、軽量なLLMを用いた生物医学的固有表現認識（BioMed Named Entity Recognition）に焦点を当てた実験的分析を提示し、モデル性能に対する異なる出力形式の影響を評価します。結果は、軽量なLLMがより大規模なモデルと競争力のある性能を達成できることを示しており、生物医学的情報抽出のための「軽量だが効果的な」代替手段としての可能性を強調しています。さらに本分析では、多数の異なる形式に対するインストラクション・チューニングは性能を向上させない一方で、より良い性能と一貫して関連付けられるいくつかの形式を特定することを示します。