LLMベースの医療予測における効率的かつ効果的な内部メモリ検索

Abstract

大規模言語モデル（LLM）は医療分野に大きな可能性をもたらす一方で、高リスクな臨床環境における信頼性は、幻覚やきめ細かな医療文脈の欠如によってしばしば損なわれます。Retrieval Augmented Generation（RAG）はこれらの問題を軽減できますが、標準的な教師ありパイプラインでは大規模な外部知識ベースに対する計算コストの高い検索が必要となり、その結果生じる高いレイテンシは、時間に敏感なケアには現実的ではありません。そこで本研究では、外部検索を内部のキー（鍵）ベースの知識アクセスで置き換える新しい枠組み「Keys to Knowledge（K2K）」を提案します。重要な臨床情報をモデルのパラメータ空間に直接符号化することで、K2Kは推論時のオーバーヘッドなしに、内部のキー・バリュー・メモリから高速に検索できるようになります。さらに、アクティベーションに導かれたプローブの構築とクロスアテンションによる再ランキングによって検索品質を高めます。実験結果は、K2Kが4つのベンチマーク医療アウトカム予測データセットすべてにおいて最先端の性能を達成することを示しています。