【無料】AIの倫理的課題に関する調査

1. 設計不足によるAIのインシデント

事例１

Target(米大手スーパー)がクレジットカードに紐づいたIDをもとに購買データからベビーグッズのチラシを女子高生に送付

  • 親は妊娠していない娘にチラシ送るなと店に抗議
  • 後日、女子高生の妊娠が発覚

[ 問題 ]

  •  チラシは定期的に家に送付されていたが、広告のランダム感を出しながら巧妙にベビー関連の織り交ぜた
    • 妊娠が進むにつれベビー広告が増えた
    • Targetは意図的であったという
  • 本人より先に企業が健康問題を熟知してしまっている
  • 妊娠の事実は親が知っていたわけではない
    • 第三者が公表するものではい。家族関係に響く恐れがある
    • 同意が取れてたわけではない
  • ストーキングされた気持ちになるから、Targetでの購買不安が当時広がった

（出典）How Target Figured Out A Teen Girl Was Pregnant Before Her Father Did (forbes.com)


事例２

Facebook AI research (FAIR) が交渉用のAIを開発

  • AI同士で交渉が進むにつれ、英語の文法から逸脱してく
    • しまいには、記号を用いながら交渉を進める
    • 交渉はできているが、人間にはやり取りはわからない
  • AIの判断では、英語は冗長的で交渉に適さない言語である
    • 設計当初は英語の用いるようにと指定していなかった
      • 言語までが最適化された

[ 問題 ]

  • AI開発する上で、何を出力したいかが綿密に定義されないと回答が揺らいでしまう例である。

参考：AI Is Inventing Languages Humans Can’t Understand. Should We Stop It?


事例３

AI言語を推し進めるべきかを説いている


事例４

AIの音声合成により、電話越しで220,000ユーロの不正送金が行われた

  • 有償の音声合成ソフトを用いて、エネルギー系会社（英）の代表に親会社の役員のふりをして送金を指示
  • 本事件はディープフェイクにあたり、ヨーロッパ警察連盟の見解ではますます悪用がふえると見ている
    • セキュリティ会社ではディープフェイクを区別するソフトに着手している

（出典）Fraudsters Used AI to Mimic CEO’s Voice in Unusual Cybercrime Case - WSJ

 

事例５

美空ひばりAIが開発

  • 美空ひばりの往年のファンにこたえる形で昭和歌謡界を代表する歌手をAIで蘇らせるという挑戦的な取り組みをした

[ 問題 ]

  • 若年層にも美空ひばりに興味を持ってもらえる可能性がある一方で、故人の遺志はどこまで尊重されるか議論の途中である


（開発者）美空ひばり VOCALOID:AI™ - AIに関する取り組み - ヤマハ株式会社 (yamaha.com)
（出典）「ＡＩ美空ひばり」に賛否　故人の「再現」議論の契機に：東京新聞 TOKYO Web (tokyo-np.co.jp)
（参考）A history of AI incidents that got me thinking about AI and ethics. | by Kai | LSC PSD | Medium

  • 世界で特に話題になった設計不足によるAIのインシデントのまとめ


2. AI倫理に関する研究

  • AI Ethics Issues in Real World: Evidence from AI Incident Database
    • AI開発においてインシデントを調査
    • AIの開発・利用に各国がガイドラインを制定しているが、インシデントが絶えない
      • ガイドラインではまだカバーしていない非倫理的な事象があるのでないかと提唱している
  • ガイドラインとインシデントを比較しAI活用失敗のまとめ、再発防止策を講じたガイドラインを提案している
  • 特に透明性の確保が重要である


3. AI倫理課題をどう乗り越えるか？

  • IEEEやEUのAIガイドラインを筆頭にAIの倫理的な利活用が議論されている（7月のレポートを参照）
  • AI開発者の多くは先進国の男性が多いため、バイアスを最小化するために開発者の属性を多様にすべきの主張がある
    • ハーバード大学で多様な人材育成の取組がされているが、効果は限定的

（出典）Home (aiandinclusion.org)
（出典）Top 9 Ethical Dilemmas of AI and How to Navigate Them in 2022 (aimultiple.com)

 

視聴済みにして続ける