LLMによるテキスト分類に向けた、重み付き構文・意味文脈評価（wSSAS）の活用

Abstract

テキスト分類など、信頼性の高いエンタープライズ品質の分析に大規模言語モデル（LLM）を用いることは、多くの場合、注意（attention）メカニズムの確率的な性質や、それによって分析精度および再現性が損なわれるノイズへの感受性によって妨げられます。これらの技術的摩擦を解消するために、本論文では、混沌とした大規模データセットに対してデータ完全性を強制することを目的とした決定論的フレームワークである Weighted Syntactic and Semantic Context Assessment Summary（wSSAS）を提案します。本研究では、まず生のテキストを、テーマ（Themes）、ストーリー（Stories）、クラスタ（Clusters）を含む階層的な分類構造に整理する、二段階の検証フレームワークを提案します。次に、信号対雑音比（Signal-to-Noise Ratio: SNR）を用いて価値の高い意味的特徴を優先し、モデルの注意が最も代表的なデータ点に焦点を当てたままになるようにします。さらに、このスコアリング機構を Summary-of-Summaries（SoS）アーキテクチャに組み込むことで、フレームワークは重要情報を効果的に分離し、データ集約の際に背景ノイズを低減します。 Google Business のレビュー、Amazon の製品レビュー、Goodreads の書籍レビューなど、多様なデータセットに対して Gemini 2.0 Flash Lite を用いて行った実験結果により、wSSAS がクラスタリングの整合性および分類精度を大幅に向上させることが示されています。本研究の結果は、wSSAS が分類エントロピーを低減し、大規模テキスト分類における高精度で決定論的なプロセスに基づく、LLM による要約改善のための再現可能な道筋を提供することを示唆しています。