ヤフーは12月23日、「Yahoo!ニュース」のコメント欄や「Yahoo!知恵袋」などでの個人を誹謗中傷する投稿に対し、AIを用いた自動削除などの措置を強化すると発表した。
プロレスラーの木村花さんがネットで中傷された後に死去したことなどを受け、ヤフーは6月に有識者会議を設置していて、今回の措置は会議の提言を反映する形で実施される。
■対応強化と救済のバランス
ヤフーが6月に設置した有識者会議「プラットフォームサービスの運営の在り方検討会」（座長：慶應義塾大学大学院・山本龍彦教授）は22日、誹謗中傷対策をまとめた提言書をヤフー側に提出した。
ヤフーはこれまでにも専門チームの目視によるパトロールを投稿系のサービス全般で実施してきた。これに加えニュースのコメント欄では、暴力的・差別的なコメントなどをAIで自動検出し削除するなどしていた。
また「知恵袋」では、誹謗中傷や回答になっていないと判断されたコメントをAIが検出し、優先的に人の目によるパトロール対象にするなどの対策をとってきた。
提言書では「AIの自動判定における投稿の削除などの対象範囲を広げ、またその精度を向上させる必要がある」と指摘。一方で、AIの判断基準に関係する「アルゴリズム」が合理的に生成されていることが分かるよう説明を尽くすことを求めた。また、不当にコメントを削除されたと主張するユーザーに対し、救済窓口を整備することなども提案した。
■知恵袋も削除対象に
こうした提言を受け、ヤフーは23日に対応方針を発表。AIを活用した誹謗中傷などのコメント削除については「さらなる積極的な活用」として対象範囲を広げるほか、「知恵袋」にも導入する方向で検討に入る。
また、削除された場合の問い合わせ窓口の設置や、理由の開示方法についても併せて検討する。
そのほか、削除件数や社内体制などを明確にした透明性レポートを2021年春以降、定期的に公表していくことも盛り込んだ。
ヤフーの川邊健太郎代表取締役社長は「AIなどのテクノロジーを活用した方法を積極的に取り入れ、誹謗中傷投稿の抑止と削減に全力を尽くしていきます。ヤフーのみならず、業界全体で安全性および健全性を高めていくために、ヤフーがリーディングカンパニーとして積極的にスタンダードを作っていきます」とコメントしている。