「アルゴリズムがユーザーを不安にさせるネットの『不気味の谷』」でアルゴリズムの不気味さを取り上げたばかりだが、実際に人の心を深く傷つけていたとは思わなかった。
フェイスブックが行っている、「今年のまとめ（Year in Review）」という１年間の投稿をまとめてグリーティングカードにするサービス。
そのサービスのプレビュー画面が、半年前に亡くなった娘の写真とともに繰り返し表示された、とウェブデザイナーのエリック・メイヤーさんがブログで明かしていた。
確かに、今のところアルゴリズムは、人の心までは理解できない。
●陽気な１年
そのメイヤーさんがクリスマスイブの２４日、ブログに「不用意なアルゴリズムの残酷さ」と題した投稿をしていた。
今日の午後、私は悲しみを探しに行ったわけではないのに、いずれにしてもそれは向こうからやってきた。そのことについて、デザイナーやプログラマーたちに礼を言わなくては。この場合、そのデザイナーとプログラマーはフェイスブックのどこかにいるはずだ。
メイヤーさんは、そんな静かな怒りが感じられる書き出しで、ブログを綴っている。
「今年のまとめ」のプレビュー画面には、何パターンかの陽気なイラストの背景と、その年の投稿写真からアルゴリズムが選んだ１枚が表示される。
マーク・ザッカーバーグさんが公開している「今年のまとめ」はこんな感じだ。
●レベッカ・パープル
２０１３年８月、メイヤーさんの娘、レベッカさんに、脳腫瘍が見つかった。
メイヤーさんは以来、レベッカさんの闘病の経過を、ブログで報告し続けた。
そして今年６月７日、６歳の誕生日を迎えた日にレベッカさんは亡くなったという。
レベッカさんは、パープルがお気に入りだったという。
そこでネット上では、レベッカさんが好きだったパープルの、ウェブの色指定で使うコード（#663399）と、レベッカさんの愛称（Becca）を組み合わせたハッシュタグ（#663399becca）で、その死を悼むキャンペーンも展開されたという。
当初、その名前は愛称の方の「ベッカ」をとって、「ベッカ・パープル」とすることで検討されていたようだ。
だが、レベッカさん自身が亡くなる数週間前、６歳になれば、もうちゃんとした女の子だから、誕生日がきたら赤ちゃんっぽい「ベッカ」ではなく、みんなに「レベッカ」と呼んでほしい、と話していたという。
だから、「レベッカ・パープル」になったのだと。
●振り返りたくない年
フェイスブックの「今年のまとめ」の写真が意図的でないことは、メイヤーさんも理解しているという。
しかし、最愛の家族の死や、長期間の病院暮らし、あるいは離婚、失業、災害で痛手を被った我々のような人間たちは、今年１年を振り返りたいとは思っていないかもしれないのだ。
「今年のあなたはこんな感じ！」というフレーズとともに、賑やかなイラストの真ん中に、亡くなった娘の写真。それが繰り返し表示されるのは、「驚くとともに、胸の張り裂ける思いだ」とメイヤーさんは書いている。
アルゴリズムは本質的に無分別なものだ。
メイヤーさんはそう述べる。
そして、このアプリは幸せなユーザーだけを想定したデザインの失敗だ、と指摘する。
そこで、メイヤーさんは２つの改善点を提案している。
第１に、ユーザーが今年の写真を見たいということを確認するまでは、プレビューに示しないこと。第２に、このアプリをユーザーに押しつけるのではなく、アプリのプレビューを試したいかどうかを、シンプルに「イエス」か「ノー」かで尋ねること。もし「ノー」なら、あとで再び尋ねてもいいか、もう一切やめてほしいかを選んでもらうこと。
そして、最後にこう結んでいる。
もし私が、この業界でたった一つ修正することができるとすれば、それはこの点：「故障モード」「エッジケース」「最悪のシナリオ」についての、関心と心遣いを高めていくことだ。私自身もそうするつもりだ。
●フェイスブックが謝罪する
ワシントン・ポストによると、「今年のまとめ」アプリのプロダクトマネージャー、ジョナサン・ゲラーさんは、メイヤーさんに連絡を取り、個人的に謝罪をしたという。
そして、こうコメントしている。
（アプリは）多くの人に喜んでもらえたが、このケースでは明らかに、彼に喜びより悲しみをもたらすことになってしまった。
「今年のまとめ」の写真を選ぶ際のアルゴリズムは、その反響の数をもとにしていたのだ、という。
心遣いは、欠けていたようだ。
【追記】
メイヤーさんは、このブログ投稿を自分の周囲の友人や同僚など２００～３００人に読んでもらえればいいと思っていたというが、ワシントン・ポストに取り上げられるなど、反響が予想外に大きかったようだ。
特にネット上で、フェイスブックに対する容赦ない批判が起きたことに動揺しているといい、こんなフォローアップの投稿をしている。
確かに、彼らのデザインは、私のような状況にいるユーザーの取り扱いに失敗した。しかしこれは彼らだけの問題ではない。このようなことはウェブのいたるところで、想像できる限りのあらゆるコンテクストで、常に起きている。「最悪のシナリオ」を考えるというのは、ウェブデザインが苦手とすることであり、通常は全く考慮すらされていない。私がフェイスブックの「今年のまとめ」を取り上げたのは、あくまで一例であって、より大きな問題についての議論の土台として、時宜を得たものだったからだ。
(2014年12月27日「新聞紙学的」より転載)