自動運転とELSI（エルシー）の主な論点

自動運転社会実現に向けた取り組みが大きく加速し始めている。E2E技術が実用域に達すれば、おそらく社会受容を上回る速度で自動運転社会の構築が進んでいくものと思われる。

法整備や心理的・社会的な受け入れ態勢が遅れ、さまざまな問題が後から噴出することが懸念されるが、こうした課題に対応する観点の一つとして「ELSI」が挙げられる。

諸問題を精査し、社会変化を円滑に進めるために欠かせない研究分野と言える。ELSIとはどのようなものなのか。自動運転分野におけるELSI研究について解説していこう。

編集部おすすめサービス＜PR＞
自動車保険 スクエアbang！（一括見積もり） 「最も安い」自動車保険を選べる！見直すなら今！
新車定額！リースナブル（車のカーリース） お好きな車が月1万円台！頭金・初期費用なし！
車業界への転職はパソナで！（転職エージェント） 転職後の平均年収837〜1,015万円！今すぐ無料登録を
タクシーアプリは「DiDi」（配車アプリ） クーポン超充実！「無料」のチャンスも！

編集部おすすめサービス＜PR＞
スクエアbang！
「最も安い」自動車保険を提案！
リースナブル
新車が月々2万円から！
パソナキャリア
転職後の平均年収837〜1,015万円
タクシーアプリDiDi
クーポンが充実！「乗車無料」チャンス

■ELSIとは？

イノベーションの裏側に潜む倫理的・法的・社会的課題を精査

ELSIは、「Ethical, Legal and Social Issues」の頭文字をとった頭字語で、「エルシー」と読む。直訳すると「倫理的・法的・社会的課題」を意味する。社会にイノベーションを起こすような最新の研究や技術が社会実装されることに際し、技術的課題以外でどのような影響や課題があるかを予見・究明する研究分野だ。

1990年前後、遺伝情報を扱うヒトゲノムプロジェクトにおいてELSI研究の重要性について提唱され、以後、倫理や現行法の枠に収まりきらない最先端技術の研究において踏襲されてきたようだ。

自動運転は、人間のドライバーに代わってコンピュータが周囲の認知、それに伴う判断、車両制御を行う。人間による手動運転を前提としたこれまでの法体系とはなじまない面が出始め、それは保安基準などの技術・装備面に留まらず、交通事故など有事の際の責任関係にも及ぶ。

また、どのような基準でアルゴリズムを設計あるいはAIが判断を下すのか……という点において、正解のない倫理的観点を含む場合がある。詳細は後段に委ねるが、判断の是非はケースバイケースでセンシティブな面を含むところ、あらかじめ判断基準を構築しなければならない自動運転車はどのように設計されるべきか……といった課題がある。

社会的課題に関しては、周囲の交通参加者との意思疎通や雇用への影響、無人車両が絶対多数となる時代における社会変化など、さまざまな観点からアプローチする必要がありそうだ。

これらの課題は、実用化とともに知見が蓄えられていくことで徐々に解決に向かうが、事前にしっかりと研究し、課題を浮き彫りにして精査することで、安全に社会実装を推進することができる。

人やモノの移動を担う自動運転は社会への影響力が非常に高く、ともすれば人命をも左右する。ELSI研究が欠かせない重要分野と言えるだろう。

なお、日本でも国立研究開発法人科学技術振興機構のもと、「ELSIを踏まえた自動運転技術の現場に即した社会実装手法の構築」の研究が2020年から4カ年にわたり行われたほか、日本学術会議も2023年、「自動運転における倫理・法律・社会的課題」として見解を取りまとめている。

▼JSTのプロジェクト
https://projectdb.jst.go.jp/grant/JST-PROJECT-20348062/
▼日本学術会議の見解
https://www.scj.go.jp/ja/info/kohyo/pdf/kohyo-25-k230526.pdf

■自動運転におけるELSIの論点

責任の所在

自動運転車が事故を起こした際の責任の所在は、ドライバーレスにより複雑化する。従来、事故が発生した際は、ドライバーの過失の有無や車両そのものの瑕疵、外部要因などを考慮して責任の所在が明確にされる。

車両に設計上の欠陥などがあり、それに起因して事故が発生したと認められる際は、製造物責任法（PL法）に基づきメーカーが損害賠償を負う。

ドライバーなどの運行供用者は、その欠陥を証明できた場合、事故に関する運行供用者責任（自賠法）が免責されることがある。一方、日ごろの整備不良などに起因するものであれば、運行供用者に責任がのしかかる。

漫然運転や過信などドライバーに過失が認められた場合は、当然ドライバーがその責を負う。事故の大半はこれに起因する。また、当たり屋レベルの急な歩行者の飛び出しや、道路の陥没などインフラに問題があった場合などは、ドライバーの過失が減免されることがある。

ドライバー不在の自動運転の場合、従来のドライバーの過失に相当する部分の取り扱いが課題を抱えている。自動運転システムの過失により事故が発生した場合、誰がどのような責任を負うか……という観点だ。

自動運転システムには、国際基準上「有能で注意深い人間のドライバーと同等以上」であることが求められる。システム設計上、道路交通法を遵守し、危険が予測されるシーンでは常に安全確保を念頭に自動車を制御することが必須となる。

システムが正常に作動している限りにおいて、自動運転車が第一当事者となるような事故はほぼない……と思いきや、そうでもない。世界の先頭を走るWaymoでも、第一当事者となる事故は幾度も経験している。

深刻な人身事故における第一当事者はほぼないものと思われるが、歩行者の急な飛び出しによる接触事故や、システム欠陥による得体のしれない制御での物損事故などは事実発生している。その都度ソフトウェアを改善し、安全性を高めているのだ。

つまり、どんなに優秀な自動運転システムでも事故を起こすことはあるのだ。これは、有能で注意深いドライバーも同様だろう。どんなに注意深く運転していても100％事故を起こさないと断定できるドライバーは存在しない。少なからず、ほぼもらい事故ながら1～2割の過失がつく事態を完全に避けることはできないのだ。

その際、センサーの不具合によるものなのか、アルゴリズムの設計にミスがあったのか、車両の物理的な制御面に問題が発生していたのか……など、細かに要因を探っていくことになるが、現状、行政罰や民事、刑事における各責任は体系化されていない。

今のところ、事故の責任に関しては、特定自動運行の主体となる者がまず道路交通法上の責任を負うことになる。しかし、タクシー事業者などの運行主体者は、自動運転システムを作っているわけではない。

調査の結果、事故や違反の原因がシステムにあることが判明すれば、開発者や自動車製造者などに民事上の責任が発生することになる。人身事故などで刑事責任が発生した場合、プログラムを書いたエンジニアやセンサー開発者など、さらに細かに責任の所在を追求していくような形になるものと思われる。

総体としては、「自動運転車」を完成品として開発・提供する事業者に多くの責がのしかかる形になるものと思われるが、民事上の責任は保険でまかなうことができるものの、刑事上の責任はそうはいかない。

明らかな欠陥についてはしっかりとその責を負うべきだが、軽微なものまで一つひとつ負っていたら、会社が持たない。繰り返すが、有能で注意深いドライバーでもミスは犯す。安全運転絶対主義者でも、道交法を100％遵守できている人はほぼいない。

開発サイドを過度に萎縮させてしまうと、自動運転によるイノベーションは未遂で終わり、事故の多い手動運転時代が継続されることになる。

実際の事故においても、具体的予見可能性や回避可能性が認められない場合、刑事責任は認められない。それゆえ、あらかじめ決めた一定基準を満たす限り、法的責任や罰則、法令違反を問われないセーフハーバーとなる線引き・仕組みが必要とする論も強い。

自動運転レベル4の世界共通ルールが日本主導でついに決定

事故時の補償や保険制度

基本的には、自動運転車の事故にも保険制度が適用されることになる。自賠法における損害賠償責任については、これまでの議論でレベル4までの自動運転に関しては従来の運行供用者責任を維持することと整理されている。

ただ、車両製造者と自動運転システム開発者、運行管理者がそれぞれ異なるケースなど自動運転を取り巻く環境は複雑化し始めている。自動運転車の普及とともにビジネスモデルも多角化していくため、継続的な議論が必要と思われる。

物損などの民事を賄う任意保険については、すでに保険各社が商品化している。今後、自家用車におけるレベル4時代も到来することが想定されるが、個人向けの任意保険で自動運転時の事故をどのように取り扱い、補償していくかがポイントとなりそうだ。

なお、レベル3向けの保険商品では、自動運転時の事故は等級を下げない――といった内容のものもある。今後、搭載車両の増加とともに事故も増加するものと思われるが、手動運転と比べどこまで事故を抑止することができるか、その実績次第で扱いは変わっていきそうだ。

自動運転の事故責任は誰にある？保険はどうなる？

個人データの取り扱い

自動運転車においては、個人情報の取り扱いにも焦点があてられる。目下のポイントは、車載カメラ画像の取り扱いだ。

自動運転車は常時カメラで車外の映像を記録しながら走行する。実証時も同様で、このデータをもとに自動運転システムの開発を進めている。

しかし、そのデータには周囲の歩行者の映像も記録される。現状、プライバシー保護の観点から、実証を行う各社は個人情報の取扱いに関する指針を公表し、実証エリアを細かに発表するなどの対策を講じている。

車載カメラの映像くらい……と思われるかもしれないが、オーストリアやポルトガルなどでは、ドライブレコーダーの常時使用が禁止されるなど、厳格な国も存在する。

また、自動運転サービスにおいては、利用者情報がどんどん蓄積されていくものと推測されるが、個人を識別しない形でさまざまな情報を蓄積し、サービス改善につなげていくのも一般的なものと思われるが、そのうち意図的かどうかを問わず間違ったデータ活用を行う事業者が出てくることも想定される。こうした面でも指針が必要となりそうだ。

AIの意思決定における倫理・公平性

倫理に関する問題も頻繁に重要課題に挙げられる。倫理は、社会生活において正しい行いとは何か、その道理を問うものであり、人間の行動規範となるものだ。この倫理観は人それぞれであるため、社会を円滑なものとするため普遍的な基準となる法律が制定される。

人間による手動運転にも、倫理観は影響する。例えば、走行速度だ。道交法で定められた制限速度を遵守し安全を最優先することに信を置く人もいれば、安全上問題がなければ制限速度よりもやや速い実勢速度で走行した方が円滑な交通を築ける……とする人もいる。

この場合、法律を前提に前者が正しい行いとされることは言うまでもないが、見通しがよくほぼ事故が起こらない道路においては、後者が円滑な交通の実現に資することも事実だろう。

現行の自動運転車の場合、この倫理観はアルゴリズムを構築するエンジニアに依存する。エンジニアは道交法をもとにアルゴリズムを構築するため、自動運転車は基本的に前者スタイルとなる。

では、法律に定めのない選択を迫られた場合はどうするのか。良く持ち出されるのがトロッコ問題（トロリー問題）だ。例えば、道路上に子どもが急に飛び出し、停止が間に合わないと判断した場合、どのような行動をとるかだ。

ハンドルを左に切ってガードレールにクルマをぶつければ、子どもは助かる。しかし、乗員が大けがを負う可能性が出てくる。右にハンドルを切り対向車線に出ても、子どもは助かる。対向車の対応次第では衝突を避けられる可能性もゼロではないが、対向車の反応が遅れれば双方に多大な犠牲者が及ぶ。ハンドルを切らず、ギリギリまでブレーキを踏んで可能な限り子どものダメージを最小化する考えもある。

咄嗟の出来事のため実際は判断余地がないだろうが、何を優先するかはドライバーの倫理に基づいて判断されることになる。「飛び出した子どもが悪いからブレーキ対応」とする人もいれば、最も死亡者が出にくい「左ハンドル」を選択する人もいるかもしれない。もしかしたら、一か八かで対向車線に飛び出す人もいるかもしれない。

こうした判断基準は法律で示されておらず、エンジニアに委ねられることになる。自動運転車によって判断が分かれることになるが、社会としてどのような選択が望まれるかを明確にしなければならないケースが恐らく出てくるだろう。

また、最新のE2E AIのように、AI自らが学習を積み重ねていく自動運転システムでは、こうした判断もAIに委ねられることとなる。AIがどのような倫理観を養うか……は一概に語ることはできない。倫理観や道徳観といったものは、事故に限らず「進路を先に譲る」場合など他の交通参加者との関係にも影響する。

倫理に関する一定の指針もやはり必要となりそうだが、人命に優劣をつけることなく、どのような判断基準を見出すことができるか。世論に左右される可能性も高く、今後の議論を見守りたいところだ。

倫理面における論点

倫理面に関しては、自動運転技術の軍事利用の是非も挙げられるだろう。すでにドローンの導入が進み、偵察や攻撃、防衛などさまざまな面で実用化されているが、この技術が陸上車両などにも導入されると、戦争の態様も変わってくる。

無人機同士でやり合うのは構わないが、必ず兵士や民間に被害が出る。せめて、防衛限定での利用を……と願いたいところだが、これも日本的な倫理観に過ぎないのかもしれない。

自動運転AIに「道徳観」を搭載！歩行者の危険度半減　最新研究

社会に対する影響

自動運転車の普及による社会への影響は計り知れない。持続可能な公共交通の維持や移動コストの低減、物流安定化やコスト低減、道路交通の安全性向上など、まずメリットが取りざたされる。実際、これらのメリットによるイノベーションのプラスの効果は計り知れない。

一方で、職業ドライバーを中心に雇用面にはさまざまな影響が発生しそうだ。バスやタクシー、トラックなどの職業ドライバーは慢性的に不足しており、それゆえ自動運転による無人化は各業界にプラスとなるが、自動運転技術が予想以上の速さで成熟した場合、現存ドライバーの雇用を奪う可能性も考えられる。

非常に高精度なレベル5技術が確立されれば、職業ドライバーは控えめに見ても9割以上必要無くなるのではないだろうか。ラストマイル配送など現状人手が必要なタスクはあるものの、こうしたものも最新技術で一定程度解決できる。

代わって、遠隔監視オペレーターや有事の際の現場スタッフなどの仕事は一時的に増えそうだが、これらも技術の進化により最小化されていくことが予想される。

無人化技術やAIの普及が今後雇用にどのような変化をもたらし、それが社会にどのような影響を及ぼすことになるのか。こうした点も注目すべきものとなりそうだ。

▼AI時代における自動運転車の社会的ルールの在り方検討サブワーキンググループ報告書
https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/1fd724f2-4206-4998-a4c0-60395fd0fa95/9979bca8/20240523_meeting_mobility-subworking-group_outline_04%20.pdf

■【まとめ】イノベーションの裏側に潜む課題を見逃すな！！

このほかにも、都市構造への影響やライフスタイルへの影響など、派生的に影響が広がっていくことが想定される。すべてを正しく予測できるわけではなく、また正答を導き出せるものではないかもしれないが、こうした変化から新たな課題が発生し、生活にさらなる影響を及ぼす。

イノベーションにより利便性が増す中、その裏側ではさまざまな課題・問題が発生しているかもしれない。目立たないかもしれないが、こうした研究が人知れず進められ、最新技術の円滑な社会実装に貢献している――ということも忘れてはならない。