[MIT] RLCR：AIモデルに「わからない」を言わせる方法

自信は説得力がある。しかし、AIシステムにおいてはしばしば誤解を招く。

現在最も能力の高い推論モデルの多くは、部屋で最も大きな声の持ち主が備えている特性を共有している。つまり、それが正しいのか当て推量なのかにかかわらず、すべての回答を同じ揺るぎない確信をもって提示するのだ。MITの計算機科学・人工知能研究所（CSAIL）の研究者たちは、この過度の自信が、これらのモデルが訓練される方法にある特定の欠陥に起因していることを、いまや突き止めた。そして、精度を一切犠牲にすることなくそれを修正する手法を開発した。