Revatron社、「攻撃パッチ」特定するスマートカメラ発表 AI認識システムの誤認識防止、自動運転でも活躍

もしもハッカーが赤信号を青信号と誤認識させたら…


もしもハッカーが自動運転システムを欺き、赤信号を青信号と誤認識させたら——。AI(人工知能)ソリューションの開発を手掛けるRevatron株式会社(本社:東京都中央区/代表取締役:浅田麻衣子)は2018年11月22日、こうした悪質なサイバー攻撃を防ぐ新型スマートカメラを発表した。発表によれば、最新のサイバー攻撃の一つである「攻撃パッチ」を特定することで、AI認識システムが誤認識をすることを防ぐ。







  1. 【インタビュー】LiDARに代替するスマートカメラを発表 Revatron浅田麻衣子社長 自動運転車における距離計測と立体認識を可能に
  2. ADAS活用も想定した「USB 3Dカメラ」発表 ネクステッジテクノロジー社
  3. OTSL、赤外線やカメラに対応した自動運転向けシミュレータの発売開始
  4. 半導体商社UKC、自動運転向けAIカメラシステムを開発

同社によれば、この攻撃パッチをAIシステムを誤認識させるためにテロリストが使用する可能性があるという懸念について指摘。一例として自動運転システムにおける信号の色の誤認識を挙げているほか、「あるはずのない停止信号が路上に存在すると思わせる」という攻撃手法についても説明している。

【参考】攻撃パッチとは、機械学習システムを欺くことで、システムに誤った分類に認識させることを可能とする画像パッチのことを表す。

Revatron社が新たに発表したスマートカメラが攻撃パッチを無効にできるのは、周囲のオブジェクトの3D構造を学習するリアルタイムAIエンジンを使用しているからだ。2Dデータではなく3D情報に基づいてオブジェクトを分類することなどから、平面上の模様だと認識された攻撃パッチを排除することが可能になっているという。

発表によれば、この原理はRevatronのダイレクトオブジェクト指向リアリティシステム「DOORs」技術に基づいている。同社はこのDOORsの展示をパシフィコ横浜で12月5日(水)から7日(金)の3日間開催される「国際画像機器展」で展示するという。6日(木)午後3時10分からは、浅田社長のセミナーも予定している。







関連記事