AmazonのAI音声アシスタント「アレクサ」が、性差別的な返答をしたと批判を受けている。
8月16日の女子サッカーワールドカップ「イングランド対オーストラリア戦」の試合結果を尋ねられ、奇妙な回答をしたからだ。
試合はイングランドがオーストラリアに3対1で勝利し、決勝進出を決めた。注目度が高く、国内の多くの著名人らも応援していた。
しかし、この国中の熱狂は、AmazonのAI音声アシスタント「アレクサ」には届いていなかったようだ。
試合のあった日に、「今日のイングランド対オーストラリアのサッカーの試合結果は？」とアレクサに質問したが、「そのような試合はなかった」と回答したという。
Amazonの広報担当者はBBCに対し、「これはエラーであり、修正されました」と述べたという。
しかし、ケント・メデウェイ医科大学の上級講師で精神科医のジョアン・ロッダ氏はアレクサの返答について、「サッカーにおける性差別がアレクサに組み込まれていることを示している」とBBCに話した。
ロッダ氏は、「イングランド対オーストラリアの女子のサッカー試合」と質問してやっと反応が得られたと加えた。
Amazonが「エラーを修正した」と発表した後、ロッダ氏は「女子ワールドカップのサッカーを単にサッカーと認識するようアルゴリズムを修正するのが今になったことは、かなり悲しい」と述べた。
彼女はまた、「エラー修正」が行われたとされる後に、今度は他の質問をしてみたという。
今回はイングランドの女子サッカートップリーグである「ウィメンズ・スーパーリーグ」に焦点を当て、「アーセナルは10月にどこと対戦する？」と質問したところ、男子チームについてしか答えなかったという。
また、女子チームについて質問しても、具体的に回答することができなかった。
人工知能（AI）は既存社会で見られる偏見、つまりボットが採掘するデータからの偏見を受け継いでしまうのではないかという懸念はすでにあった。
男子スポーツは選手の性別を明記せずただスポーツの名前だけで記されるのに対し、女子スポーツは多くの場合「女子」の前置きされることに、多くの人が不満を抱いている。
批判する人たちは、こうした表現のしかたが、男子スポーツがメインイベントであるという考え方を助長していると主張する。
2022年に欧州チャンピオンとなったイングランド代表に対する回答は、どれだけアスリートが成功しても、スポーツにおける性差別がどれだけ根深いかを繰り返し示している。
Amazon社によると、アレクサはAmazon上や、ライセンスされたコンテンツ提供者、そしてウェブサイトを通じて答えを探し出しているという。
多くのAIシステム同様、アレクサも時間と共に改善することを目指しており、質問の文脈で正しい情報を特定するのを助けるチームも存在する。
しかし、これらのシステムが偏見を持つようになることへの懸念はとても深刻な問題であり、AIを扱う開発者が特に対処すべき問題だ。なぜなら、AIに一度学習したことを忘れさせるのは困難だからだ。
ハフポストUK版の記事を翻訳・編集しました。