米国・中国を中心に実用化が進む自動運転技術。自家用車でもレベル3搭載車両が増加し、その機能を徐々に高め始めている。
安全なモビリティとして市民権を得始めた自動運転だが、最新技術・サービス故のリスクも隣り合わせと言える。自動運転には現状どのような弱点やリスクが存在するのか、解説していく。
・2025年6月10日：「リスク」の側面も追記
・2022年8月12日：記事を公開
記事の目次
| 編集部おすすめサービス＜PR＞ | |
| 車業界への転職はパソナで！（転職エージェント） 転職後の平均年収837〜1,015万円！今すぐ無料登録を |  |
| タクシーアプリなら「GO」（配車アプリ） クーポン超充実！「実質無料」のチャンスも！ | |
| 新車に定額で乗ろう！MOTA（車のカーリース） お好きな車が月1万円台！頭金・初期費用なし！ | |
| 自動車保険 スクエアbang！（一括見積もり） 「最も安い」自動車保険を選べる！見直すなら今！ | |
| 編集部おすすめサービス＜PR＞ | |
| パソナキャリア |  |
| 転職後の平均年収837〜1,015万円 | |
| タクシーアプリ GO | |
| クーポンが充実！「乗車無料」のチャンス | |
| MOTAカーリース | |
| お好きな車が月々1万円台から！ | |
| スクエアbang！ | |
| 「最も安い」自動車保険を提案！ | |
■サイバー攻撃のリスク
独ダイムラー（現メルセデス・ベンツ）とBMWグループのカーシェアサービス「Share Now」の車両が2019年、米国でハッキングされ、100台以上が盗難される事件が発生した。IoT化・コネクテッド化された自動車は、常にサイバー攻撃のリスクにさらされることを象徴するかのような事件だ。
ほぼすべての自動運転車も常時通信を行い、インターネットでつながる存在となる。遠隔監視システムやインフラ協調システム、車車間通信、サーバーとのデータ送受信などさまざまな用途で通信を行い、自動運転システムの精度向上やサービス向上を図るのだ。
IoT化された自動運転車は、多くの利便性を生み出す一方、パソコンなどと同様常にハッキングの脅威にさらされることになる。
万が一自動運転車がハッキングされた場合、その被害はデータの流出などに留まらない。車両を乗っ取り、暴走させることなども可能となり、その被害は人命に直結する。
開発各社はあの手この手で対策を講じサイバーセキュリティの強化を図っているが、攻撃を仕掛ける側も目ざとくウィークポイントを探し、侵入を図ってくる。イタチごっこになりやすいため、弱点克服に向け常に気を配らなければならない領域だ。
【参考】Share Nowのハッキング事件については「悪夢、ついに…カーシェア車両、ハッキングで100台以上盗難 ダイムラーとBMWの「Share Now」」も参照。
悪夢、ついに…カーシェア車両、ハッキングで100台以上盗難 ダイムラーとBMWの「Share Now」
■車載センサーも攻撃対象に
自動運転車の目となるカメラやLiDARも攻撃対象となり得る。レーザー光などを用い、オブジェクトを誤認識させることや、センサーそのものを使用不能にすることもある。
各種研究において、道路標識にノイズ交じりの光線を照射することで標識内容を誤認識させる実証や、LiDARのレーザー発射周波数よりも高い周波数でレーザーパルスを大量に発射することで計測を妨害する実証などが世界各地で行われており、成功事例が次々と報告されている。
物理的な攻撃やAIによるパーセプション能力を脅かすものなど、さまざまなリスクが想定される。
また、攻撃ではないが、車載LiDARを撮影したところ、レーザー光によりスマートフォンのカメラが壊れたという事例も報告されており、これもセンサーの脆弱性につながる事案と言える。
目に見えない物理的な攻撃への対応もしっかりと考えなければならなそうだ。
【参考】センサーに対する攻撃については「慶応の学生ら、走行中の自動運転センサーを無効化 「脆弱性」を発見」も参照。
■コンピュータであるが故のリスク
各種センサーが目、AIが脳の役割の担う自動運転システムにより自律走行を実現する自動運転車は、もはやコンピュータだ。機械的に制御される部分も当然残っているが、重要な機能はすべてソフトウェアで制御されるのだ。
パソコンやスマートフォンなどと同様、各ソフトウェアは適時アップデートされ、機能や安全性を向上させていくことになるが、このソフトウェア制御にリスクが潜んでいる。
パソコンでは、何らかのソフトウェアエラーを体験したことがある人がほぼすべてだと思う。アップデートなど特段の操作を行っていなくても、なぜかエラーは発生するのだ。昔ほどではないが、突如フリーズしたり、ブラックアウトしたり……なども付きものと言える。
すぐに解決可能なものやいつの間にか直っていたもの、だましだまし使用しているものなどいろいろありそうだが、これと同じ現象が自動運転車で起こると厄介だ。
無人走行中に得も知れぬソフトウェアエラーが起きた場合、その内容によって自動運転車は走行し続けるかただちに停車するかを判断しなければならない。
コンピュータゆえ、突然フリーズするケースなども想定しなければならない。車道上で停止したまま動かない……といったトラブルは、大きなリスクとなり得る。ソフトウェアにエラーは付きものと考え、さまざまな対策を講じておく必要がありそうだ。
■ヒューマンエラーも介在する
ドライバーの役割をコンピュータ担うことで無人走行を可能にする自動運転技術だが、日々のメンテナンスや調整、設定は人間が行わなければならない。
コンピュータがエラーを起こすものであることと同様、人間もエラーを起こす存在であることに変わりはない。特に、特段の技能を必要としない簡易な確認や設定作業など要注意だ。
マニュアル通りにやれば誰でもできるレベルの作業は、ダブルチェックを省きがちで、担当者の注意力も低下しがちなためかえってミスが発生しやすい。
実際、2020年には、茨城県日立市内のひたちBRT路線で実証中の自動運転バスがガードレールに接触する事案が発生したが、その原因は機器の再起動をし忘れた……というものだった。
自動運転とは言え、水面下で人間が介在する部分は多く残されている。こうした人間に起因するヒューマンエラーも自動運転におけるリスクと言えるだろう。
【参考】自動運転におけるヒューマンエラーについては「自動運転、ヒューマンエラーによる事故パターン」も参照。
■通信不良によるリスク
ハッキングの項で触れたが、自動運転車は常時通信を行いながら走行する。移動することが前提となる自動運転車においては、5Gをはじめとしたモバイル通信が中心となるが、この通信をいかに高速低遅延で大容量かつ安定的に行うかが重要となる。
万が一通信が途絶えた場合、自動運転車はどうなるか。結論から言うと、多くの場合走行不能となるが、すぐに危険を伴う状況に陥ることもない。レベル4の場合、通信が途絶えた時点でODD（運行設計領域）外となり、車両自ら路肩に停止するなど安全策を講じるシステムが導入されている。レベル3であれば、ドライバー（オペレーター）が即座に対応できるだろう。
【参考】関連記事としては「自動運転とODD」も参照。
ただし、路肩などへの停止状況によっては、交通の妨げや二次的事故といったリスクを招きかねず、迅速な対応を求められることになる。通信障害は単一の車両に発生するケースと大規模に発生するケースがあり、後者の影響・リスクは計り知れない。
類似した事案として、サーバーの不具合などが挙げられる。管理サーバーなどに不具合が発生することで、フリート全体が走行不能に陥るケースもある。
米GM・Cruiseの自動運転車は2022年6月、サーバー障害によって一時約60台が正常な挙動を失い、道路上を占拠した。フォールバックシステムにもエラーが発生し、遠隔オペレーターは車両の位置を特定できず対応に苦慮したようだ。通信障害が発生した際も、このような状況に陥る可能性がある。
自動運転においては、通信システムやサーバー管理システムなどの冗長化も必須となりそうだ。
【参考】関連記事としては「住民唖然！Cruiseの自動運転タクシー、深夜の「道路封鎖」」も参照。
■製造コストが高くなりやすい
最先端技術が結集した自動運転車は、当然ながら製造コストが高くなりやすい。高性能なセンサー群や高速処理を可能にするコンピュータなどは日進月歩で技術が向上し、最新製品は高価格帯を維持する。
こうした高い製造コストは、当然販売価格やリース・レンタル価格などに反映され、利用者の懐を圧迫する。多くはビジネス用途のため、導入には費用対効果がつきまとう。
また、新たなモビリティ導入においては、新たな運行管理システムの導入なども必要となる。本格的な普及段階を迎えるまでは、こうしたコスト面は自動運転におけるビジネス上のリスクとなりそうだ。
ただ、中国の百度（Baidu）は、2022年時点で自動運転車の製造コスト1台あたり約500万円を実現したという。レベル4機能などのクオリティが気になるところだが、早くも低価格路線の実現にかじを切っている点は特筆ものだ。
自動運転車の製造・販売価格への注目度は今後大きく高まることは間違いない。普及期を迎える段階でどの水準となるのか、引き続き要注目だ。
【参考】百度の取り組みについては「百度、製造費500万円の自動運転車 無人タクシーで使用」も参照。
■AI技術の対応力に課題
自動運転の高度化に欠かせないAI（人工知能）技術が、将来どこまで対応可能なものへと進化していくかは大きな課題だ。
自動運転においてAIは、センサーが検知したオブジェクトの認識・解析や、その結果に伴う車両制御判断といった重責を担う。最重要と言って過言ではない開発分野だ。
一般的に、AIの学習には歩行者や他の車両など道路交通を取り巻くさまざまなオブジェクトが写った膨大な数の画像を使用し、正確に認識できるレベルまで学ばせ続ける。この作業を繰り返し行うことで、AIは周囲を走行する車両やトラック、自転車、歩行者、信号機などを即座に認識・検知できるようになる。類似したオブジェクトを識別できる領域まで達することが求められる。
では、未知の物体やセンサーが誤検出しやすい物体への対応や、AIを意図的に誤認させるような仕掛けへの対応はできるのか。未知の物体に関しては、正体不明の障害物として取り扱い、そのサイズや場所に応じて回避行動をとれば大体は対応可能かもしれない。
では、透明度の高いガラスのような障害物が道に落ちていた場合、どのような判断を下すのか。LiDARのレーザーは反射し物体を検知する一方、カメラは物体を認識できないかもしれない。センサー間で異なる結果が出た場合の判断基準なども細かく規定していかなければならない。
現実問題そうそうあり得ないが、道路上にだまし絵が描かれた場合、AIはどのような判断を下すのか。例えば、大きな岩が道路上に転がっているだまし絵が描かれていた場合、LiDARは認識しない一方、カメラは騙される可能性が高い。AIはカメラの情報を重視し、不安定な制御を行う可能性がある。
道路交通の安全は性善説のもとでは成り立たない。ハッキングなどと同様、悪意のある行為に対しどこまでAIが対応できるかといった観点は、現状のAIが抱える弱点と言えそうだ。
また、AIによる学習過程が自動化されればされるほど、その学習内容から人の目が離れるリスクも想定される。AIがいつの間にか間違った学習をしても気づきにくくなるのだ。
AIの能力と信頼性が高まれば高まるほど、人間のチェックが行き届かなくなる可能性は十分考えられる。こうしたリスクも近い将来顕在化してくるかもしれない。
■自動運転から手動運転への委譲にもリスクが内在する
ホンダ「レジェンド」を皮切りに普及が始まった自動運転レベル3。一定条件下で自動運転を実現し、ODD外から外れる際や作動継続困難と判断した際などにドライバーへ運転交代を要請する（テイクオーバーリクエスト）。
この要請に対し、ドライバーは迅速に応答しなければならないが、自動運転システムから見ればこの権限委譲は不確定要素となる。
ドライバーが反応しなかった場合、システムはリスクを最小限にすべく緊急措置として車両を路肩などに停止させる。この制御は、必ずしもレベル3ではなく、システムによってはレベル2状態で行われるものもある。その際に事故が発生する可能性は思いのほか高い。
ドライバーは意識がないか、あるいは自動運転を妄信している可能性があり、また後続車両などが当該自動運転車の挙動を予測できるか――など考えると、リスクとなり得る要素が山積している。
また、テイクオーバーリクエストに正しくドライバーが反応したとしても、周囲の車両の状況や現在どこを走行しているか――といった情報把握が追い付かない可能性も考えられる。自動運転によって一度運転から切り離されたドライバーの脳が再び運転モードに切り替わり、状況を把握するには若干とはいえ時間を要する。
テイクオーバーリクエストにどれだけの余裕をもたせることができるかなど、まだまだ不安は尽きない。
ただ、BMWのレベル3はレベル2＋システムも搭載しており、レベル3からハンズオフ運転に移行できるようだ。こうした高度なADASを介することも、リスク低減に大きく貢献するものと思われる。
【参考】レベル3については「自動運転レベル3とは？定義は？ホンダ、トヨタ、日産の動きは？」も参照。
■社会受容性の向上も必要に
自動運転システムそのものの弱点ではないが、社会における自動運転の位置付けも現状課題を抱えている印象が強い。
米国では、Uberの自動運転実証中の事故などを背景に、自動運転車を毛嫌う層が一定数存在する。まちなかを走行する自動運転車に攻撃する事件も実際に発生している。自動運転車の存在を危険なものと認識しているのだろう。
また、自動運転車は制限速度を厳密に守り、場合によっては制限速度未満で安全走行を行う。特に初期の技術においては、きびきびとした運転ではなく慎重すぎる運転になりがちだが、こうした安全運転があおり運転を誘発する可能性も考えられる。これもリスクと言えるだろう。
自動運転に対する正しい効用と知識が広く普及し、その位置付けがしっかりと認められるまでは、不要な事故・事件に巻き込まれる可能性も否定できないだろう。
【参考】自動運転車への攻撃については「Waymoの自動運転車を狙った犯行？歩行者の襲撃受ける」も参照。
■ドライバーレスに潜むリスク
ドライバーレスにより車内無人がウリとなる自動運転車だが、無人ゆえのリスクも生まれている。Waymoの自動運転タクシーに乗車中の女性が2024年、ナンパに遭遇し、車両の前に立ちふさがられたことで立ち往生し、恐怖を感じた……という事案が発生している。
また、反自動運転派などから自動運転車両が攻撃されることもあるが、無人であることでこうした犯罪行為が行われやすいという面も否めない。センサーによる監視は万全であるにもかかわらず、人間の直接的監視がないことで犯罪対象になりやすい……という側面だ。
絶対的な対策を施すのは難しそうだが、乗客に危害が及ぶものに関しては防止しなければならない。さまざまなケースを想定し、できる限りの対策を望みたいところだ。
【参考】ドライバーレスに潜むリスクについては「Googleの無人タクシー、男2人組が女性客を「窓越しにナンパ」 ”運転手不在”につけこむ」も参照。
■【まとめ】リスクは常に存在する
さまざまなリスクを紹介したが、「だから自動運転は危険」というわけではない。自家用車や既存タクシー、バスにも常にリスクは付きまとっており、自動運転車にも特有のリスクが潜んでいる……ということだ。
技術的・社会的に解決可能なものもあるが、永遠とつきまとうリスクも存在する。リスクは常に存在するという前提のもとリスクと正しく向き合い、開発・実用化を推し進めていく姿勢が重要なのだ。
【参考】関連記事としては「自動運転はいつ実用化される？レベル・モビリティ別に解説」も参照。
■関連FAQ
複数ある。「ハッキングの恐れが高まること」「通信不調の重大性が高まること」「製造コストが高くなりやすいこと」「AI技術の対応力の課題」「手動運転への委譲の不安要素」「社会受容性の向上」などだ。これらを克服することで、安全で安心な自動運転技術となっていく。
自動運転車が抱えるウィークポイントを発見し、それらを攻撃されないようにシステムやソフトウェアのアップデートを続ける必要がある。ホワイトハッカーなどを導入し、悪意あるハッカーにハッキングされる前に脆弱性を見つける取り組みなどが重要だ。
通信状況やサーバーに問題が発生しても通信が途絶えないよう、何重かの「セーフティネット」的な取り組みが求められる。自動運転技術が高度化していくにつれ、通信の重要性が増すため、こうした取り組みは必須だ。
当初は自動運転車の製造コストは非常に高いものとなる。搭載するセンサーやパーツがまだ大量生産されていないこともあり、調達コストが高くなることが車体価格に直結するからだ。しかし、ある程度こうしたセンサーやパーツが大量生産されるようになれば、車体価格も低下していくものと思われる。
自動運転AIは「学習」を通じて運転性能を高めていく。もちろん、現実世界の道路での実証実験も不可欠だが、仮想空間、たとえばデジタルツインとした環境で実証実験を行えば、24時間365日、さまざまな道路シーンを試すことができ、自動運転AIの飛躍的な能力向上につながる。
（初稿公開日：2022年8月12日／最終更新日：2025年6月10日）
