ポルトガル語における臨床固有表現認識：現代的BERTモデルとLLMのベンチマーク

概要: 臨床ノートには有用な非構造化情報が含まれています。固有表現認識（NER）により医療概念の自動抽出が可能になりますが、ポルトガル語に関するベンチマークは依然として乏しいのが現状です。本研究では、ポルトガル語の臨床NERに対するBERTベースモデルおよび大規模言語モデル（LLM）を評価し、多ラベルの不均衡に対処するための戦略を検証することを目的としました。BioBERTpt、BERTimbau、ModernBERT、mmBERTを、GPT-5やGemini-2.5のようなLLMと比較しました。使用したデータは公開のSemClinBrコーパスと、非公開の乳がんデータセットです。モデルは同一条件で学習し、適合率（precision）、再現率（recall）、F1スコアで評価しました。クラス不均衡を緩和するために、反復的層化（iterative stratification）、重み付き損失（weighted loss）、オーバーサンプリング（oversampling）を検討しました。mmBERT-baseモデルが最良の性能を達成しました（micro F1 = 0.76）。これは他のすべてのモデルを上回ります。反復的層化によりクラスのバランスが改善され、全体的な性能も向上しました。多言語BERTモデル、特にmmBERTはポルトガル語の臨床NERに対して強力な性能を発揮し、限られた計算資源でもローカルで実行できます。バランスを考慮したデータ分割戦略は、さらに性能を高めます。