ELM: 人口ベースのがん登録データベースにおける自動腫瘍グループ分類のための言語モデルのハイブリッドアンサンブル

Abstract

要旨: 背景: 人口ベースのがん登録簿（PBCRs）は、非構造化病理報告書からデータを手作業で抽出します。これは労働集約的な過程で、約100,000件の報告を中規模の登録機関で年に約900人時を要します。現在の自動ルールベースのシステムは、この分類タスクの言語的な複雑さに対処できません。 材料と方法: 我々は、ELM（Ensemble of Language Models：言語モデルのアンサンブル）、小型のエンコーダ専用モデルと大規模言語モデル（LLMs）を組み合わせた新しいハイブリッド手法を提示します。ELMは、6つの微調整済みエンコーダ専用モデルのアンサンブルを用います：各報告書の上部を分析する3つと下部を分析する3つのモデルが、トークン制限を考慮してテキストのカバレッジを最大化します。6モデルのうち少なくとも5つが同意した場合に腫瘍グループが割り当てられます。そうでない場合、推定される腫瘍グループに制限を設けた慎重に選定されたプロンプトを用いてLLMが仲裁します。 結果: 19の腫瘍グループにまたがる2,058件の病理報告書を対象としたホールドアウトのテストセットで、ELMは加重適合率と再現率を0.94と達成し、エンコーダー専用のアンサンブル（F1スコア0.91）に対して統計的に有意な改善（p<0.001）を示し、ルールベースのアプローチを大幅に上回ります。ELMは、難易度の高いカテゴリである白血病（F1：0.76→0.88）、リンパ腫（0.76→0.89）、皮膚がん（0.44→0.58）において特に向上を示します。 考察: ブリティッシュコロンビアがん登録機構での本番運用に投入されたELMは、手動審査の要件を約60–70%削減し、年間約900人時を節約しつつデータ品質基準を維持しています。 結論: ELMは、実世界のPBCR環境における腫瘍グループ分類のための、ハイブリッドな小型エンコーダ専用モデルとLLMアーキテクチャの初の成功した展開を示しており、言語モデルの戦略的な組み合わせが高い精度と運用効率の両立を達成できることを示しています。