自動運転AIの「トロッコ問題」とは？（2024年最新版）

自動運転の根幹を成すともいわれるAI（人工知能）。トヨタをはじめとする大手自動車メーカーや米Google系Waymoなど、世界の既存の大手企業からスタートアップ・ベンチャー企業などがこぞって開発に力を入れている。

そもそもAIとは何か。なぜ自動運転にAIが必要なのかといった基本的な部分を掘り下げ、最新情報をもとに開発の必要性に迫りつつ、自動運転とAIに関する議論でよく話題になる「トロッコ問題」について解説する。

■AI（人工知能）の定義とは？

AIは、人間の脳がおこなっている「記憶」「判断」「学習」「推測」といった作業をコンピュータがおこない、再現するソフトウェアやシステムのことだ。厳密な定義は定まっていないが、要するに人間同様の知能を人工的に再現する試みやシステムを指す。

近年では掃除機やエアコンといった身近な家電製品にも広く導入され始めているほか、将棋や囲碁のプロを打ち負かすプログラムも開発されている。

従来のAIは、豊富なデータと人間の指示により学習・分析をしていたが、現在開発が進められているのは、判断するポイントまでも自ら学習する「ディープラーニング（深層学習）」という手法を用いたものだ。

例えるなら、従来は教科書と家庭教師の指導・管理のもと学習を進めていたが、現在は教科書を読むだけで自ら試験対策をおこなえるようになる、といった具合だ。このディープラーニングの導入により、AIは飛躍的な進化を遂げている。

■自動運転に欠かせないAIの役割

自動運転は人間による運転をAIの活用によって無人化するという技術だ。AIは、カメラやレーダー、光を使ったセンシング技術を活用する「LiDAR（ライダー）」などのセンシング情報、自車の位置情報、マップデータなどを横断的に分析し、要はAIが「運転手の脳」の役割を担っているわけだ。

自車位置を特定する技術は日々進化しており、マップデータも充実しつつある中、AIに自動運転を担わせる環境が徐々に整いつつある。

たとえばマップデータに関して言えば、「高精度3次元（3D）地図」と「ダイナミックマップ」の作製がアメリカや欧州、中国、日本などで積極的に進められている。道路や建物といった物理的な構造物のデータが含まれる高精度3次元（3D）地図に、周辺車両の走行状況や天候状況、事故情報など刻一刻と変化する情報を付加したのがダイナミックマップだ。

■自動運転向けなどにAIを開発している主な企業

自動運転車向けのAIは日本企業を始め、世界各国の企業が開発に取り組んでいる。自動運転車の裾野産業の中でも特にスタートアップやベンチャー企業が多い分野だ。

■「トロッコ問題」とは？

倫理学の有名な思考実験に「トロッコ問題」がある。「ある人を助けるために他の人を犠牲にするのは許されるか？」といったものだ。

自動運転においても「急に道路上に5人が飛び出してきた場合、それを避けるためには歩道を歩いている1人に向かってハンドルを切らなければならない」といった形で、議論が行われている。元々事故に遭うはずだった5人を助けるために1人を犠牲にしても良いのだろうか。

このトロッコ問題の結論が出なければ、こうした状況でAIにどう判断させるのか、人間側がシステム定義によってAIを誘導することができない、という考え方がある。現時点では、このトロッコ問題の結論はまだ出ていない。

■AIの進化とトロッコ問題の結論が今後求められる

自動運転が高度化していくためには、AIの進化はもちろん、トロッコ問題においても何らかの結論が求められると言える。その両方に、引き続き注目していきたい。

■関連FAQ

トロッコ問題とは？

「ある人を助けるために他の人を犠牲にするのは許されるか？」といった命題・思考実験のことを指す。

トロッコ問題の別名は？

「トロリー問題」と呼ばれることもある。トロッコは鉄道などで使われる貨車のことだ。

よくあるトロッコ問題の例題は？

「急に道路上に5人が飛び出してきた場合、それを避けるためには歩道を歩いている1人に向かってハンドルを切らなければならない」といったものだ。元々歩道を歩いていた1人には非がないが、ハンドルを切ると5人が助かる。あなたにとっての正解はどちらだろうか。

トロッコ問題には結論が出ている？

現時点ではこのトロッコ問題の結論はまだ出ていないが、AIに自動運転をさせるなら人間がAIに「回答」をあらかじめインプットしておく必要がある。AIに倫理的判断を委ねるわけにはいかないからだ。

（初稿公開日：2018年5月3日／最終更新日：2024年4月17日）