Amazonが犯罪！？自動運転車向け「バグコマンド」を大量生成

米Amazonのエンジニアが「隠された悪意あるコマンド」を大量に生成する技術を開発している。自動運転車が道路上のトラブルなどに巻き込まれた際にソフトウェアをテストし、脆弱性やその他のセキュリティ上の欠陥を特定していくためだ。

これを開発したのは、Amazon傘下の自動運転開発企業Zoox（ズークス）のエンジニアだ。自社で開発中の自動運転車のセキュリティを高めるため、ファジング（Fuzzing)フレームワークを使用し、危険なレアケースを発見することができたという。

■セキュリティのファジング技術

Zooxでプロダクトセキュリティエンジニアを務めるZhisheng Hu氏は、自動運転車の走行中に「もし攻撃者がハンドルを奪ったら何が起こるのか？」という疑問を解決するための技術を開発した。

自動運転車は、AI（人工知能）やセンサー類によりドライバーレスでの走行を可能にし、遠隔操作で制御されている。しかし不意に現れる障害物やイレギュラーな事故などに巻き込まれた場合は、オペレーターに指示を求める場合がある。

ただしその際、人間のオペレーターがもしも間違った指示を出したら、自動運転車は安全性に欠けるコマンドを拒否できるのだろうか。自動運転車が安全性とセキュリティの両方を満たして適切な判断を下せるかということについては、厳密なテストを行う必要がある。

そのためHu氏はファジングフレームワークを使用し、自動運転車をテストすることにした。これは、ソフトウェアやOSの脆弱性やバグを洗い出すため、意図的に予測不能で混乱を招くような入力を大量に生成し、問題のある抜け穴を発見するという品質保証手法だ。

テスト対象となるシステムに大量のランダムなデータを入力し、あえてクラッシュを誘発させる流れだ。

■手法は成功

報道によれば、この手法を用いて、より危険なケースを発見することができたという。悪質なコマンドは最初は無害に見えても、ある条件下では危険になるものもあるという。

Hu氏は「ループを繰り返すごとにfuzzer（ファジングで使用されるツール）は賢くなり、最終的には隠された悪意あるコマンドを発見する手助けとなった」と語っている。

■年内にラスベガスでロボタクシー

Zooxは2025年後半に、ネバダ州ラスベガスでロボタクシーサービスを開始する。その後、2026年にはカリフォルニア州サンフランシスコ、テキサス州オースティン、フロリダ州マイアミにサービスを拡大予定だ。

2025年6月には、ロボタクシーの量産工場をカリフォルニア州ヘイワードに開設したことを発表している。年間1万台以上のロボタクシーを組み立てる能力を持つ施設になるという。

世界で初めてロボタクシーを商用化したGoogle系の自動運転開発企業Waymoなどは、他社製車両に自社開発の自動運転システムを搭載した自動運転車を開発している。それに対しZooxは、専用設計のロボタクシーを自社で保有、運用、組み立てを行っている。

サービス開始に向け、さまざまな角度から安心・安全な自動運転技術の開発に取り組むZooxに引き続き注目したい。