グーグル、AIの禁止4原則公表 自動運転タクシーの兵器化、どう防ぐ

社員の反対運動後押し


米グーグルのスンダー・ピチャイ最高経営責任者(CEO)=出典:google社Press Corner

米グーグルのスンダー・ピチャイ最高経営責任者(CEO)は2018年6月7日(現地時間)、自身のブログでAI(人工知能)の開発・利用指針を明らかにした。社会的貢献への利用や軍事利用の禁止などについて盛り込んでいる。グーグル社では2018年3〜5月頃にかけて、社員約3600人がAIの平和的利用に関する嘆願書に署名し、ピチャイCEOに提出していた。このことも今回の指針発表を後押ししたものとみられる。

【参考】スンダー・ピチャイ最高経営責任者が公表した指針全文は同氏のブログ記事「AI at Google: our principles(GoogleのAI:我々の原則)」を参照。







ピチャイCEOはブログの中で、AI利用と開発について「我々はAI業界におけるリーダーとして重大な責任を感じている」と明言。その上で下記7点のポリシーを発表している。

  1. 社会に資する
  2. 不公平な偏見を生んだり助長したりする利用を避ける
  3. 安全を意識して開発・試験する
  4. 人々への説明責任を果たす
  5. プライバシーの保護する
  6. 高い科学的美徳を維持する
  7. これらの原則に沿って利用する

その上でAI利用について4つの禁止領域を明らかにしている。

  1. 全般的に害を引き起こす恐れのある技術
  2. 人に傷つけることを目的とした兵器と関連する技術
  3. 広く受け入れられている国際法や人権の原則に違反する技術
  4. 国際法規範に反する監視技術

今回のピチャイCEOによる発表の背景には、グーグル社が米軍のドローン開発に対して協力したことに端を発する社内の抗議運動がある。グーグルは社内プロジェクト「Project Maven」で、軍事用ドローンに利用するためのソフトウェア開発を行っており、社員がピチャイCEOに抗議活動を行った形だ。

出典:google社Press Corner
■もしウェイモの自動運転タクシーが軍事目的で制御されたら

グーグル系ウェイモは自動運転技術の開発を加速させている。そして自動運転車の根幹となる技術がAI(人工知能)だ。もしウェイモの自動運転タクシーが将来、世界で何十万台と出回り、それが軍事的な目的で制御され、何かしらの攻撃を意図した挙動したらどうなるだろう。そうした自体が引き起こる可能性は決してゼロではない。

AIは世界的に開発競争が繰り広げられている先端技術だ。先端技術の軍事利用としては、これまでにもロボット技術に関する議論が巻き起こっている。AIもロボットと同じように汎用性が高い多用途技術であると言え、人に危害を与える利用をどう防ぐかが課題となる。企業側にとっても、どうやってこうした犯罪への利用や軍事転用を防ぐかが、今後大きな課題として横たわっている。







関連記事