Facebookが、自殺をほのめかす投稿をAIで検知する機能を世界各国に展開すると発表しました。この検知システムは米国内で試験導入されていたもので、Facebook Liveといった動画形式の投稿でも機能します。
この機能が有効になると、自殺をほのめかす投稿やビデオの発言を検出した際、必要に応じてその投稿に最初に応答するユーザーにも状況を知らせ、問題を改善すべく提案を行うようになります。
Facebookは従来からオペレーターによる自殺検出に取り組んでいますが、AIの稼働によって警戒すべき投稿にはフラグが建てられ、オペレーターにも発見されやすくなります。米国内ではすでに試験導入されており、今年10月の1か月間で、自殺の気配を検知した投稿に関しその応答者である家族や友人へ100件以上の警告を出すことができたとのことです。
Facebookのプロダクトマネジメント部門責任者ガイ・ローゼン氏は、「アルゴリズムの改善だけでなく"大丈夫？" や、"何か手助けできる？"といった気遣いのコメントが付く投稿を検出対象に含めることで、これまで発見しづらかったライブ動画なども発見できるようになった」としました。
Facebook CEOのマーク・ザッカーバーグ氏は「AIの発達が引き起こす危機的な未来が話題になっているけれど、AIがいま現在、実際に人々の助けになっているのは良いこと」だと自身のFacebookページに投稿しています。
なお、Facebookは新機能を世界各国に展開すると言いつつ、具体的にどの国に導入するかまでは示しませんでした。ただ、プライバシーに関する規制が厳しいEU諸国は含まれないとのことです。
ちなみに、SNSを通じた自殺に関する対策はFacebookだけが取り組んでいるわけではありません。たとえばGoogleはユーザーが自殺に関連するワードが検索された場合、然るべき相談機関の連絡先を表示するようになっています。またTwitterもこの11月3日に行った規約変更により、自殺や自傷行動を助長、扇動するツイートを禁止。該当するツイートが報告された場合は、ユーザーに対してメンタルヘルス相談者の連絡先を伝えるといった対応をするようになっています。
（2017年11月28日「Facebook、自殺ほのめかす投稿の自動検出AIを世界展開。米国ではすでに月間100件の実績」より転載）