私はAIセキュリティとコンプライアンスの分野で働いています。
これが少し気になっています。保険の請求、採用、クレジット、防衛用途など、人の生活を変える決定の前にAIシステムを置くことです。誰かが「ちょっと待って、なぜシステムはそれをしたの？」と尋ねたとき、基本的に法廷で通用するようなものがこちらには何もありません。
今ある説明可能性ツールはどうかというと？ SHAP、LIME、注意（アテンション）マップですが、あれらは研究ツールです。証拠ではありません。研究者たちは、見た目は完璧にきれいな説明を出しながら、積極的に差別するモデルを構築できることを示しています。誤差は際限がなく、実行のたびに別の答えが出てしまい、相手方の弁護士が仕事を独立して検証する方法もありません。これはDaubert基準を満たそうとしているなら問題になります。
そして規制側の動きも同じくらい速いです。EU AI Actでは記録保持の要件が導入されつつあります。FY26 NDAAには、2026年半ばまでに実装が求められるAIサイバーセキュリティの枠組みの条項があります。州ごとにそれぞれ独自の動きをしています。裁判所もFRE 702のもとでAIの証拠に対し、実際に押し返し始めています。
AIの可観測性（オブザーバビリティ）ツールは大量にあります。運用には良いです。ガバナンス基盤もあります。政策には良いです。ですが、相手側の弁護士がそれを徹底的に壊そうとしているような、実際に法医学レベルのもの、そして、ベンダーをただ信じるだけではなく第三者が何が起きたかを独立して検証できるようなものとなると、私はそれが見当たりません。
私は何を見落としているのでしょうか？
[link] [comments]
