マルチエキスパート・ラーニング・トゥ・ディファーにおける拡張アグメンテッド・アクション・サロゲートの先へ

要旨: 学習によるディファー（Learning-to-Defer）は、各入力を期待コストが最小となる専門家（expert）へ振り分けますが、意思決定時点で各専門家が利用可能な情報は固定であると仮定しています。多くの現代的なシステムはこの仮定を破っています。すなわち、専門家を選択した後に、その専門家へ追加でどのような情報を与えるか（取得した文書、ツールの出力、エスカレーションの文脈など）も選べることがあります。本研究ではこの問題を扱い、「助言付きの学習によるディファー（Learning-to-Defer with advice）」と呼びます。ルーティングと助言を、それぞれ異なるヘッドで学習する、広範な自然な分離型サロゲートの族が、最小の自明でない設定においてさえも一貫性を欠く（inconsistent）ことを示します。次に、専門家--助言の複合アクション空間上で動作する拡張サロゲートを導入し、mathcal{H}-一貫性の保証と過剰リスクの転移（excess-risk transfer）境界を併せて証明します。これにより、極限においてベイズ最適方策を回復できることを示します。表形式、言語、およびマルチモーダルの課題に関する実験では、その結果得られる手法が標準の Learning-to-Defer を改善し、コストの体制に応じて助言の取得行動を適応させることが示されます。合成ベンチマークでは、分離型サロゲートで予測される故障モードの失敗が確認されます。