自動運転車「電車とバスを間違えた！」を防げ！NIIが新技術発表

情報・システム研究機構「国立情報学研究所」（NII）の研究チームは2023年3月17日、九州大学の研究チームとともに画像識別AI（人工知能）の誤識別リスクを低減する技術を開発したと発表した。

画像認識・識別技術は自動運転で必須となるコア技術だが、開発段階においてAIが識別を間違うことは珍しいものではない。こうした1つひとつの間違いを修正し、精度を高めていかなければならないが、この修正作業において発生するリスクを低減する技術という。

画像識別AIの誤識別リスクを低減する技術とはどういったものか。その内容を解説していく。

■技術の概要

NIIと九州大などが研究

今回の研究成果は、NIIのアーキテクチャ科学研究系准教授の石川冬樹氏らの研究チームと、九州大学大学院システム情報科学研究院情報知能工学部門准教の授馬雷氏らの研究チームによるもの。科学技術振興機構（JST）の未来社会創造事業「Engineerable AIプロジェクト（eAIプロジェクト）」のもと、NIIと九大、富士通が中心となって産業界における異なるユースケース・要求を踏まえた「AI修正ツール」の開発を進めてきた。

画像に映ったオブジェクトを識別するAI開発には、ディープラーニング（深層学習）が用いられることが多い。何百万もの数のパラメータを持つ深層ニューラルネットワーク（DNN）と呼ばれる計算モデルに対し、あらかじめ用意した正解データを用いて学習を繰り返すことで、パラメータの値を自動的に設定し、画像内の物体識別を実現する。

自動運転のように誤識別が大きなリスクに直結するような場合、誤識別リスクが十分小さいことを示さなければならず、さまざまな識別対象や環境条件においてAIの誤識別による事故リスクを評価し、低減していくことが必要になる。

しかし、従来のDNN技術ではこの誤識別に対する修正が難しく、リスクを狙い通りに低減できないという課題があるという。

修正によって他のパラメータに影響が及ぶリスク

例えば、学習の結果得られたDNNにおいて「歩行者を別の物体と間違える」といった誤識別の発生率が高く、この誤識別の低減を図る場合、一般的にはその誤識別を正すための学習データを収集し、DNNに追加して再学習を行っていく。

しかし、再学習の結果、DNNの数百万を超えるパラメータ値が再設定されるため、識別性能が期待通りに変化しないことや、他の識別結果に意図しない低下を発生させ、今まで正常に識別できていたものが識別できなくなることがあるという。

つまり、「A」に対する誤識別を修正するため手を加えたら、「B」に影響するパラメータも変動し、「B」に対する識別能力が変化する――といった感じだろうか。

誤識別の要因となるパラメータを探索

そこで研究チームは、さまざまな誤識別を分類し、タイプごとに要因となるパラメータ群を探索することで、問題解決するDNN修正技術を開発した。

はじめに「歩行者をバイク搭乗者と間違える」「電車をバスと間違える」といったそれぞれの誤識別タイプに対し、その要因となるパラメータ群を欠陥局所化という技術をベースにした方法で絞り込む。次に、その誤りを修正するためのパラメータ変更のパターンを探索する。

そして最後に、異なる誤識別のタイプそれぞれに対し効果的な修正候補を見出した上で、各リスクの大きさを踏まえて修正候補を統合することで、リスクの効果的・効率的な低減を実現できるという。

富士通も識別性能の低下を抑制する技術

同技術に関しては、自動車企業などを交えたワーキンググループにおいて定めた安全性ベンチマークのプロトタイプによってリスク低減効果を評価し、従来では困難だった複数タイプの認識別を踏まえた修正が可能となることが実証されたという。

また、富士通との協働のもと、重要な識別対象に対する意図せぬ識別性能の低下を抑制する技術も開発した。パラメータ修正と誤識別改善の履歴情報を利用することで、重要な対象に対する識別性能の低下を抑制する。

誤った識別のみに影響するパラメータ群を特定してパラメータ値を最適化する際、他の識別性能に影響を及ぼさず、対象とする識別動作において理想的な識別結果との誤差を最小化するパラメータ値を探索することで性能低下を抑制できる――といった技術だ。

富士通は2024年度中に同技術の実用化を目指す方針で、AIの精度劣化を自動修復する技術「High Durability Learning（ハイ・デュラビリティー・ラーニング）」をはじめとしたAI品質技術の1つとして、さまざまな現場への適用に向け実証を行っていくとしている。

■【まとめ】AI研究の積み重ねが完全自動運転を実現する

画像認識・識別技術は、自動運転において絶対的に必要とされる最重要技術と言っても過言ではない。その開発には膨大な時間と労力を要するが、こうした開発を効率的かつ効果的なものへと変えていく技術のようだ。

まだまだ測り知れないAIのポテンシャルを少しずつ引き出し、そして高めていくこうした研究の積み重ねの先に、完全自動運転があるのだろう。