自動運転AIに「道徳観」を搭載！歩行者の危険度半減　最新研究

自動運転車の「社会的・道徳的な判断」を可能にする新しいAI（人工知能）技術が登場した。この技術を開発したのは、香港科技大学（HKUST）の研究チームだ。

研究者たちは、人間がリスクを評価し、社会的に配慮した意思決定を行う方法を模倣した「認知エンコーディング」の枠組みを開発した。このシステムを搭載した自動運転車は、歩行者や自転車へのリスクが51.7％減少するというシミュレーション結果が出ている。

■全体の交通リスクを26.3％削減

HKUSTで土木・環境工学科の主任教授を務める楊海（Yang Hai）教授が率いる研究チームは、「社会的感受性（social sensitivity）」と呼ばれる道徳的判断を自動運転車が模倣する技術を開発した。楊教授の研究分野は、交通経済学・交通工学・交通システムのモデル化だ。

このシステムを搭載した自動運転車について、実環境を想定した2,000件のシミュレーション交通シナリオでテストしたところ、全体の交通リスクを26.3％削減することが分かった。また歩行者や自転車利用者に対するリスクは51.7％減少し、自動運転車自体のリスクも8.3％低下した。

特筆すべき点は、これらの成果は自動運転車のパフォーマンスを低減させることなく達成したということだ。自動運転車は、運転タスクを平均で13.9％速いスピードで完了することができたという。

▼Empowering safer socially sensitive autonomous vehicles using human-plausible cognitive encoding
https://www.pnas.org/doi/10.1073/pnas.2401626122

■人間に着想を得た「道徳的AI」

HKUSTの研究チームによると、現在の自動運転車は、リスクを「1対1」で評価しているという。つまり、車両や人といった2つの対象を比較して判断しており、そのため交差点や通学路などでの複数の要素が絡む複雑な環境における対応能力が、人間の運転に比べ劣っていた。

それに対し人間のドライバーは、自分の行動を遅らせたり、他の小さなリスクを受け入れたりしてでも、歩行者や自転車の安全を優先するということを自然に行っている。研究チームは、このような人間の道徳的判断を模倣するシステムを開発した。

人間のような判断を再現するために、まずは自動運転車の周囲にいる全ての道路利用者（歩行者、自転車利用者、バイク、周囲の車両など）を分析するところからスタートした。それぞれの行動パターンや移動速度、予測難易度を把握する。道路の端を歩く子どもであれば、即座に高リスク対象として分類される。

次に、自動運転車は全てのリスクを一律に扱うのではなく、その脆弱性に応じてリスクのランク付けを行う。これにより、意思決定には人間のような「社会的・倫理的な視点」が加わることになる。それにより、たとえ交通ルール上は進行可能な状況でも、自動運転車は歩行者のために停止や道を譲るといった方法を選ぶことができるようになる。

さらに、開発されたシステムでは先を見据えた判断を行うことも可能だ。例えば、自動運転車が次に車線変更や急な右左折といった動作を行うと、他の車両に急ブレーキを踏ませたり、渋滞を引き起こしたりといった可能性がある場合は、その動作しないようにしてより安全で円滑な方法を選ぶことができるという。

■より一層、安全度が高く･･･

楊教授はこの技術の開発について「人間が持つ包括的なリスク処理能力と道徳的判断力を模倣することで、混雑した交差点や学校周辺といった倫理的に曖昧な状況でも、自動運転車がより責任ある行動を取れるようになる」と自信を見せている。また、このシステムは「one-size-fits-all（一律適用）」ではないため、地域ごとの運転マナーや法律に合わせて調整できる点についても強調している。

世界で初めて自動運転タクシー（ロボタクシー）を実用化したGoogle系の自動運転開発企業Waymoは、人間のドライバーを比較すると、同社の自動運転システムは歩行者の場合、負傷事故を92％減少することができるという研究結果を2025年5月に発表している。

人間のドライバーのようなヒューマンエラーを決して起こすことはないというのが、自動運転車の最大の長所だ。ただしシステムの指令通りの動きしかできないため、想定外の状況などでは交通トラブルを起こす場合があることが弱点でもあった。

今回開発された道徳的AIを搭載した自動運転車は、その弱点を補うことができ、より一層、自動運転車の安全性を高めることができそうだ。