SenseAI：RLHF整合のための金融センチメント推論におけるヒューマン・イン・ザ・ループ（HITL）データセット
arXiv cs.CL / 2026/4/8
📰 ニュースSignals & Early TrendsIdeas & Deep AnalysisModels & Research
要点
- 本論文は、モデル出力とその背後にある推論プロセスの両方を含めることを目指して設計された、ヒューマン・イン・ザ・ループ（HITL）の金融センチメント・データセット「SenseAI」を紹介し、RLHFのワークフローに整合させます。
- SenseAIには、米国上場株40銘柄と金融カテゴリ13種を対象とした1,439件のラベル付き例が含まれ、推論チェーン、信頼度スコア、人的な修正シグナル、そして実世界の市場アウトカムへのリンクが提供されます。
- 分析により、金融推論におけるLLMの体系的な振る舞いが特定されます。そこでは、新たに記述される失敗モード「Latent Reasoning Drift（潜在推論ドリフト）」が、モデルが根拠のない情報を付け加えてしまう現象として示されます。
- 本研究では、信頼度の誤校正（ミスキャリブレーション）と、先行予測（フォワード・プロジェクション）への傾向が一貫して観測されたことも報告されます。さらに、金融推論の誤りはランダムではなく構造化されているため、より修正可能だと論じます。
- 著者らは、SenseAIを用いて、評価と整合（アライメント）を含む、構造化されたHITLデータにもとづく金融AIシステムのターゲット型改善に活用することを提案しています。
