多様な生成型常識推論モデルの訓練のための合成データ生成

要旨: 対話エージェントは、ユーザーに対して高品質な（すなわち常識に基づく）応答を提供するだけでなく、複数のもっともあり得る代替シナリオを考慮し、回答の多様性を反映させる必要があります。多様な常識推論生成モデルを訓練するニーズが高まる一方で、この分野の進展は、大規模で高品質かつ多様な常識訓練データセットの不足によって著しく阻害されています。高いアノテーションコストのため、既存の Generative Commonsense Reasoning (GCR) データセットは、少数の人間アノテータを用いて作成され、カバーする常識シナリオの範囲は狭いものにとどまっています。この訓練リソースのギャップに対処するため、初の多様化（GCR）向け合成データセット CommonSyn を作成する二段階法を提案します。私たちの合成データでファインチューニングしたモデルは、従来のモデル（バニラモデル）および人手で作成されたデータセットでファインチューニングされたモデルと比較して、生成の多様性と品質の両方を同時に向上させ、さまざまなサイズの大規模言語モデル（LLMs）にわたって改善します。返却形式: {"translated": "翻訳されたHTML"}