AICO：教師あり学習に対する特徴の重要性の検定

要旨: 機械学習は現代の科学・産業・政策において中核的ですが、その予測能力はしばしば透明性を犠牲にする形で得られます。すなわち、モデルの予測を本当に左右している入力特徴量が何であるかを私たちはほとんど知りません。このような理解がないと、研究者は信頼できる結論を導けず、実務者は公平性や説明責任を保証できず、政策立案者はモデルに基づく意思決定を信頼したり統治したりできません。
特徴量の影響を評価する既存のツールには限界があります。多くは統計的保証を欠いており、また多くの場合、高価な再学習やサロゲートモデリングを要求するため、大規模な現代モデルでは実用的ではありません。我々は、機械解釈可能性を効率的な統計的作業へと変える、広く適用可能な枠組みAICOを提案します。AICOは、それぞれの特徴量が情報をマスクしたときに生じる変化を測ることで、その特徴量が本当に予測性能を向上させるかを検定します。
この手法は、単純な非漸近的仮説検定手順によって、特徴量重要度に関する正確な有限標本の特徴量p値と信頼区間を提供します。再学習、サロゲートモデリング、あるいは分布に関する仮定は不要であるため、大規模なアルゴリズムでも実行可能です。統制された実験と実運用の双方で、クレジットスコアリングから住宅ローンの行動予測まで、AICOはモデルの挙動を駆動する変数を確実に特定し、透明で信頼できる機械学習への、スケーラブルで統計的に筋の通った道筋を提供します。