英国の警察は、監視リストデータベースで黒人を特定する可能性が統計的に高いことが分かったという研究を受けて、ライブ顔認識（LFR）技術の運用を停止しました。

エセックス警察は、アルゴリズムソフトウェア提供者の協力を得てシステムを更新するために技術の使用を一時停止したと述べた。別の同様の研究では偏りは認められなかったと述べている。

ケンブリッジ大学の研究者による報告は、エセックス警察のシステムは男性を女性より正しく識別する可能性が高く、他の民族グループの参加者の中で黒人の参加者を正しく識別する可能性が統計的に有意に高いことを示した。

マイクロソフトは警察によるAzure AIを用いた顔認識を望んでいません

続きを読む

警察は、事前に設定された監視リスト上の人物を特定するためにLFRを使用することができ、通常は犯罪者、関心のある人物、または行方不明の脆弱な人々で構成されます。

その研究 [PDF] は、実際の警察展開中の制御された野外実験で、188人のボランティアを公衆の一員として参加させた。研究者が誰が参加しているかを正確に知っていたため、正確な識別と見逃しの識別の両方を測定することが可能だった。

エセックス警察が使用している「現在の運用設定」において、監視リスト上の人々のうちカメラを通過した人々を約半数が正しく識別し、誤認識は「極めてまれ」であった。

"このテストで観察された6件の偽陽性識別のうち4件は黒人個人を含んでいた。黒人被験者の観察がサンプルの536/2,251（23.8パーセント）を占めることを踏まえると、観察された不均衡は偶然だけによるものとは考えにくいが、これは偽陽性イベントの数が限られていることを反映している可能性があり、真の体系的な効果を反映しているとは限らない。」と述べた。

この発見は示唆的であるべきで、決定的ではないと付け加えた。

エセックス警察のスポークスマンは、公的部門の平等義務への取り組みの一環として、学術界によって完了した二つの独立した研究を委託していたと語った。"このうち最初の研究は正の識別率に潜在的な偏りがあることを示し、二つ目は結果に統計的に関連する偏りがないことを示唆している。"

偏りの可能性があるという事実に基づき、同警察は結果を見直し、アルゴリズムソフトウェア提供者と協力して結果を検討し、ソフトウェアの更新を図るための展開を一時停止することを決定した。

• スマイル！アンクル・サムは出入りの際にあなたの顔をスキャンしたい
• 英国初の恒久的な顔認識カメラが南ロンドンに設置された
• 警察は顔認識を好むが、使用についての情報を裁判所へ開示していない
• Metaのアルゴリズムは黒人をより高額な大学へ押しやる傾向があるとする研究

同警察は付け加えた。"この作業の結果として、私たちは方針と手順を改訂し、この重要な技術を追跡・逮捕に用いる警察活動の一部として開始できると自信を持っています。私たちはコミュニティのいかなるセクションに対しても偏りが生じないよう、すべての結果を引き続き監視します。"

今年初め、英国政府は、英格ランドとウェールズの警察が、法執行機関を改革する政府の幅広い計画の下で、ライブ顔認識（LFR）と人工知能（AI）の使用を拡大するべきだと決定した。

白書 [PDF] では、内務省はすでに使用中の10台に加えて、40台のLFR搭載バンを資金提供する計画を打ち出した。それらは「市街中心部と犯罪が高発生する地域」で使用される予定で、政府は全国的な顔認識システムに2600万ポンド超、LFR能力には1160万ポンド超を支出する計画だと述べた。 ®

詳しく知る

• アルゴリズム
• 差別
• 顔認識