アルゴリズムが残酷な仕打ちをする事例が、また明らかになった。

声を上げたのは、ワシントン・ポストのビデオエディター、ジリアン・ブロッケル氏。

死産を経験したブロッケル氏に、ソーシャルメディアがベビー用品の広告を出し続けたのだという。

By Joe Shlabotnik (CC BY 2.0)

さらにフェイスブックでそれらの広告の配信を停止させようとしたところ、今度は養子縁組の斡旋業者の広告が表示されるようになったという。

アルゴリズムは、人の気持ちに配慮することができない。

そしてソーシャルメディア企業も、それをハンドリングできていない。

●テクノロジー企業への公開書簡

ブロッケル氏がツイッターに公開書簡を投稿したのは１２月１１日。宛先は、フェイスブック、ツイッター、インスタグラム、そして信用情報会社「エクスペリアン」の４社だ。

An open letter to @Facebook, @Twitter, @Instagram and @Experian regarding algorithms and my son's birth: pic.twitter.com/o8SuLMuLNv

— Gillian Brockell (@gbrockell) 2018年12月11日

さらに同趣旨の文面を、ワシントン・ポストのサイトにも掲載している。

ブロッケル氏は、来年１月２４日が出産予定日だったが、１１月３０日には妊娠していた男の赤ちゃんが死産であることをツイッターで明らかにしている。

Some sad personal news pic.twitter.com/ZkBOB7oqUq

— Gillian Brockell (@gbrockell) 2018年11月30日

失意の中で自宅に戻ったブロッケル氏は、ソーシャルメディアに、なお赤ちゃんが元気であるかのように、ベビー用品の広告が掲載され続ける状況を目にする。

そして、私たちのような失意にある数百万人の人々が、何とか「この広告を非表示にする」をクリックしても、「非表示にする理由」に答えることになる。そこで「自分に関係ない」という残酷な事実を選ぶことになる。テクノロジー企業の人々は、自分たちのアルゴリズムがどんな判断を下しているのか、わかっているのだろうか。

ブロッケル氏は、確かに「＃妊娠３０週」「＃ベビーバンプ（大きくなったおなか）」といったハッシュタグでインスタグラムに投稿していたこと、フェイスブックに表示されたマタニティウェアの広告をクリックしたことはあった、と認める。理想的な「エンゲージメント」をするユーザーだった、と。

だが、その後、状況は変わる。

投稿には、「失意」「問題」「死産」などの表現が含まれ、友人たちも涙の顔文字でリアクションをしている。「それらを追跡することはできなかったのだろうか？」とブロッケル氏。

さらに、宛名に信用情報会社「エクスペリアン」が入っている理由も述べている。

「エクルペリアン」から迷惑メールが届いたのだという。「あなたの赤ちゃんの登録を」と信用情報登録を売り込む内容だったという。

テクノロジー企業のみなさん、どうかお願いします：私が妊娠していた、あるいは出産に臨んだことがわかるほど、あなた方のアルゴリズムが賢いのなら、私の赤ちゃんが亡くなったことも理解できるぐらい十分に賢いものにしてほしい。そして、それにふさわしい広告にしてもらいたい。あるいは、もしできるなら、広告など一切表示しないで。

●フェイスブック副社長の回答

お悔やみを申し上げるとともに、私どものプロダクトによって、つらいご経験をされたこと、お詫び申し上げます。私どもは、子育てなど、皆様が苦痛に感じる話題についての広告をブロックできる設定をご用意しています。なお改善が必要ですが、どうぞ私どもがこの問題に取り組んでいるということはご承知おきください。フィードバックを頂戴しありがとうございました。

I am so sorry for your loss and your painful experience with our products. We have a setting available that can block ads about some topics people may find painful - including parenting. It still needs improvement, but please know that we're working on it & welcome your feedback.

— Rob Goldman (@robjective) 2018年12月12日

これに対し、ブロッケル氏は、こう答える。

私の投稿を受けて、妊娠／子育ての広告を非表示にする設定方法を教えてくれる人がいた。数日前に、試してみようとしたけれど、悲しみに暮れている人間にとっては、あまりにわかりにくいものだった。だから、「死産」といったキーワードをトリガーに、広告配信を止めて欲しいといっているんです。

Thank you for responding. Since I posted this, someone showed me where in my settings to turn off pregnancy/parenting ads. I tried to find it a few days ago, but it's too confusing when you're grieving. That's why I was suggesting a keyword like "stillborn" triggering an ad break

— Gillian Brockell (@gbrockell) 2018年12月12日

すると、フェイスブックのゴールドマン氏。

"設定＞広告設定＞広告トピックを非表示にする"で見つかりますよ。

You can find it under "Settings>Ad Preferences>Hide ad topics"

— Rob Goldman (@robjective) 2018年12月12日

そして、ブロッケル氏がフェイスブックの広告設定で「子育て」を非表示にしたところ、出てきたのは、「１２月３１日までに養子助成金の申請を」とうたった養子縁組斡旋業者の広告だったという。

And here's a look at how effective it is when you finally do find the corner of Facebook where you can turn off parenting ads. Just came up in my feed. (And no, I have not been googling about adoption. I am miles away from anything but grieving.) cc @robjectivepic.twitter.com/bHxcPIoYfW

— Gillian Brockell (@gbrockell) 2018年12月12日

●「アルゴリズムの残酷さ」再び

ちょうど４年前にも、フェイスブックによる「アルゴリズムの残酷さ」が指摘された。

※参照：フェイスブックの「不用意なアルゴリズムの残酷さ」が心を深く傷つける（12/27/2014）

舞台となったのはフェイスブックが行っている、「今年のまとめ（Year in Review）」という１年間の投稿をまとめてグリーティングカードにするサービス。

そのサービスのプレビュー画面が、半年前に亡くなった娘の写真とともに繰り返し表示された、とウェブデザイナーのエリック・メイヤー氏がブログで明かしていた。

今回のブロッケル氏のツイッター投稿に対し、そのメイヤー氏からも「２０１４年の古い投稿だけど、何かのお役に立てば」と「今年のまとめ」の一件を紹介するコメントがあった。

Please also feel free to share this late 2014 post and its followup. https://t.co/RQudwCi8fA

— Eric Meyer (@meyerweb) 2018年12月11日

４年という時間が流れても、状況はあまり変わっていないようだ。

--------

■新刊『信じてはいけない　民主主義を壊すフェイクニュースの正体』（朝日新書）

（2018年12月19日「新聞紙学的」より転載）