AI面接官が性差別、顔認識AIが議員を犯罪者扱い!? AI時代への備えは「AI事件簿」に学べ!

ビジネス

2019/3/24

『悪のAI論 あなたはここまで支配されている』(平和博/朝日新聞出版)

 いよいよAI時代の本格的な幕開けだ。就活生はすでに知っているだろうが、日本の就職試験において(まだごく一部の企業だが)、第一関門はAI 面接官によるES(エントリーシート)選考なのである。

 東洋経済オンラインの記事(2018年6月21日付)によれば、2017年にソフトバンクがIBM Watsonを活用して、ES選考の処理時間を75%も削減したという。同記事によれば、サッポロビールは同様のシステムを昨年から導入したそうだが、AI面接官を導入する企業はさらに増えていくだろう。

 現在はまだAI面接官も“試用期間”なので、AIがNG判定をしても、人事担当者が確認するシステムになっているという。しかし今後AIが独り立ちした際にも、不安な点はいろいろとある。

■アマゾンがAI人材採用システムの開発を断念した理由とは?

 というのも、『悪のAI論 あなたはここまで支配されている』(平和博/朝日新聞出版)には、こんな事例が出ているからだ。

 2017年、アマゾンがAI人材採用システムの開発を断念したという。その理由はAIの「女性嫌い」だった。原因は、AIに学習させる際に既存のアマゾン社員の履歴書を使用したため、対象がほとんどが男性で、女性の履歴書が少なかったそうだ。

 その結果、履歴書に「女性」の文字があるだけで評価を下げてしまったという。その後システムには修正を加えたものの、それ以外にも差別を生んでしまう危険性を考えて正式な導入を断念したという。

 つまり本書によれば、AIの課題のひとつは、学習のさせ方にあるという。どんなデータを元に学ばせるかによって、AIはいくらでも「偏見に満ちた差別主義者」になってしまうのだ。

 朝日新聞のIT専門記者による本書は、このような近年起こったAIがらみの「事件簿」をさまざまに紹介しつつ、AI開発・活用の最新情報に加えて、「AIが抱える課題」をクローズアップした内容だ。

 本書では、「監視される」(AI監視社会)、「差別される」(AI評価社会)、「殺される」(AI軍事社会)、「騙される」(AIポルノ社会)の各章でジャンルごとの事件が紹介され、最後に「AIを邪悪にしないために」という提言でまとめられている。

■顔認識AIにより「逮捕歴のある犯罪者」にされてしまう!?

 では、誰にとっても身近な「監視される」(AI監視社会)から、ある事件を紹介しよう。

 まず、「顔認識AI」である。昨年数万人が集まった渋谷のハロウィンで、騒ぎを起こした4人が逮捕された事件に驚いた人は多いだろう。

 本書によれば、この逮捕劇の裏には、43人の捜査員と「顔認識AI」の活躍があった。防犯監視カメラ270台、通行人たちがSNSにアップした画像・動画などを丹念に分析したのだ。このケースは犯罪者の逮捕につながった成功事例である。

 しかし、昨年7月、米国ではアマゾンの顔認識AI「レコグニション」が、実証実験で28人の米連邦議会議員を、あろうことか「逮捕歴のある犯罪者と認識する」という大失態を演じている。

 さらに著者は、このサービス料金が1400円と安価だったことに触れ、「これが監視ツールとして広がったら? そして、人違いで犯罪者と間違われたら?」と懸念する。

 また、アマゾンついでにもうひとつ。最近、テレビCMでもよく見かけるアマゾンのAI「アレクサ」を搭載した、スマートスピーカー「アマゾンエコー」の誤作動問題について紹介しておこう。

■スマートスピーカーの音声認識AIがテロリストになる!?

 昨年8月、「アマゾンエコー」の愛用者だったある一家に起こった問題だ。夫婦の会話をアマゾンエコーが勝手に録音し、そのファイルを夫婦の知り合いに勝手にメール送信してしまったという。

 音声ファイルの送信自体は、アマゾンエコーの機能のひとつだが、問題はその指示をしていないのに「勝手にやった」ことだった。この件は結局、「誤作動」で処理されたという。

 ただし、著者は「スマートスピーカーなどの音声認識AIに意図的にサイバー攻撃を仕掛け、乗っ取りを行うことも可能」という研究結果も本書で明かし、その危険性を警告する。

 今後、身の回りに倍増し始めるさまざまなAIとどう付き合ったらいいのか。それを考えるために必要なAI開発・活用の最新事情と、関連する事件簿から、まずは情報で武装をしてみてはいかがだろうか。ちなみに本書は、AIに関する詳しい知識などはなくても、誰にでも気軽に読めるものだ。

 AIはうまく付き合えば、よき友、頼れる相手ともなるはずだ。そのための方策を、今のうちから考えておこう。

文=町田光