サプライチェーン依存がAI採用におけるバイアス測定と説明責任の帰属を複雑にする

要旨: 採用におけるAIシステムの導入が進むにつれ、アルゴリズムのバイアスと説明責任に関する懸念が高まり、EU AI Act、NYC Local Law 144、コロラドのAI Actを含む規制対応が促されている。既存の研究は、技術的または規制的な観点からバイアスを検討しているものの、いずれの観点も本質的な課題を見落としている。すなわち、現代のAI採用システムは、データベンダ、モデル開発者、プラットフォーム提供者、導入（デプロイ）組織に責任が分散する複雑なサプライチェーンの中で機能しているという点である。本論文では、これらの依存関係の連鎖が、バイアス評価と説明責任の帰属をいかに複雑にするかを検証する。文献レビューおよび規制分析に基づき、責任の断片化が2つの重要な問題を生み出すことを示す。第一に、バイアスは個別の要素からではなく構成要素間の相互作用から生じるが、プロプライエタリな構成のために統合的な評価が妨げられる。履歴書パーサは単独ではバイアスなく機能しているかもしれないが、特定のランキング・アルゴリズムやフィルタリングのしきい値と統合されると、差別に寄与しうる。第二に、情報の非対称性により、導入組織はベンダから供給されるアルゴリズムに関する技術的な可視性を欠いたまま法的責任を負う一方で、ベンダは実装を制御しつつ、実質的な開示要件は課されていない。各利害関係者は自分たちが遵守していると考え得るが、それでも統合されたシステムは偏った結果を生み出しうる。実装上の曖昧さに関する分析は、これらの課題が実務においてどのように現れるかを明らかにする。本研究では、システムレベルの監査、ベンダ向けガイドライン、継続的な監視メカニズム、ならびに依存関係の連鎖にまたがるドキュメント化を含む、複層的な介入を提案する。以上の知見は、分散した開発環境において意味のある説明責任を確立するには、技術、組織、規制の各領域にまたがる連携した行動が必要であることを示している。