インセンティブ・コラプス・パラドックスの克服

概要: AI支援によるタスク委任はますます一般的になっている一方で、こうしたシステムにおける人間の労力はコストがかかり、通常は観測されません。BastaniとCachon（2025）; Sambasivanら（2021）による最近の研究は、精度に基づく支払いスキームがインセンティブの崩壊に悩まされることを示しています。すなわち、AIの精度が向上するほど、望ましい（正の）人間の労力を維持するために必要な支払いが無限に大きくなるのです。本研究では、観測されない労力に依存して出力精度が決まる、戦略的な人間エージェントをもつ、予算制約付きのプリンシパル＝エージェント枠組みにおいてこの問題を調べます。私たちは、AIの精度に依存しない、有限コストで、厳密に正で制御可能な水準の人間の労力を強制するセンチネル監査（sentinel-auditing）の支払いメカニズムを提案します。このインセンティブに頑健な基盤に基づき、監査の（i）監査率と（ii）難易度の異なるタスク間でのアクティブなサンプリングおよび予算配分を共同で最適化する、インセンティブを考慮した能動的統計的推論の枠組みを開発します。これにより、単一の予算のもとで最終的な統計的損失を最小化します。実験の結果、標準的な能動学習および監査のみのベースラインと比べて、費用と誤差のトレードオフが改善されることが示されます。