自動運転AIに新たな懸念：「暗い肌の色」だと検出精度7.5％低下

自動運転車で用いられるソフトウェアが歩行者を検知する際、肌の色により検知精度に開きが出るという研究結果が、このほど発表された。

英国のキングス・カレッジ・ロンドンと中国の北京大学の研究者が発表した論文によると、「light-skin」（ライトスキン：明るい肌の色）と「dark-skin」（ダークスキン：暗い肌の色）では検知精度に7.52％の開きがあり、ダークスキンの方が精度が低くなるという。

▼Dark-Skin Individuals Are at More Risk on the Street: Unmasking Fairness Issues of Autonomous Driving Systems
https://www.researchgate.net/publication/372962079

■ライトスキンの方が検出精度が7.52％高い

研究者グループは8つのAI（人工知能）歩行者検知器を用いて、歩行者の年齢、性別、肌の色調でどのように検知に差が出るかというテストを行った。

その結果、ライトスキンの人はダークスキンの人より7.52％、大人は子どもより19.67％、検知精度が高いということが分かったという。性別による検知精度の差はわずか1.1％で、ほとんど差がなかった。

また、ダークスキンの人の誤検知率は日中が7.14％だが、夜間は9.86％に上昇した。それに加え、自動運転システムがダークスキンの歩行者を検知する能力は、道路照明の状況によってはさらに低下するという。

■研究者が懸念する「危険性」とは

海外メディアによると、今回の論文の研究者からは、自動運転車による検知が意図的であろうとなかろうと、歩行者認識において肌の色で「差別」を生み出すのであれば、大変危険なことだという指摘が出ている。

そのため、肌の色での検出率に偏りの無い形でシステムが実装されていることを確認するため、特別なガイドラインや法律が必要だと主張している。

ダークスキンの歩行者のほうが、ライトスキンの歩行者より検知精度が低くなるという今回の研究結果は、現状のAIシステムの技術的な問題から出てくる差と認識していいと思うが、今後、自動運転AIに判断を担わせる過程で、悪意を持って何らかの差別的な意図が組み込まれるケースが起きる可能性もゼロではない。

そのためにも、こうした検出の差に関する調査は、今後も必要とされていくことになりそうだ。