3月のある忙しい日、テキサス州に住む28歳のケイトさんは同僚に慌てた感じで肩を叩かれた。同僚は彼女に、ある動画を見せたいと言った。
彼のパソコンを覗き込んだケイトさんはショックを受けた。スクリーンにうつっていたのは、裸になってソファに寝そべる彼女自身だった。両足を開き、男とセックスをしていた。
ケイトさんは気分が悪くなった。何が起きたのかと集まってきた同僚たちは、動画を見て沈黙してしまった。映像はとてもリアルで、しかも女性の名前はケイトと表示されていた。
しかしケイトさんには、それが自分ではない確信があった。ポルノに出たことはないし、女性の体が自分の体とは違ったからだ。顔だけが、ケイトさんだった。これはでっち上げに違いない……とケイトさんは思った。だけど他の人は信じてくれるだろうか？
「とても恐ろしかったです」とケイトさんは動画を見た時の気持ちを、ハフポストUS版に語った。「今まで見たことがないような動画でした」。動画は今でもネット上に存在し、何万回も再生されている。
こういった動画はディープフェイクと呼ばれる。
ディープフェイクポルノ、一般女性もターゲットに
ディープフェイクとは、AIソフトウェアを使って不正に加工した動画だ。人を動かして、本当は話していないことを、あたかも口にしたかのように見せる。ディープフェイクは、個人の動画や画像を重ね合わせたり、操作したりして、顔の仮想モデルを作る。ケイトさんの場合は、頭部をポルノ女優の頭と交換された。
「フォトショップ加工された画像は静止画なので、本物でないことがすぐにわかります」とケイトさんは話す。「しかし、（ディープフェイクは）顔が勝手に動いたり反応したりしていて、しかも自分でコントロールできない。パニックになります」
ディープフェイクポルノが作られ始めたばかりの頃、ターゲットになっていた女性は、ほとんどがテレビや映画から素材が山ほど手に入る有名人だった。
しかし、多くの人がテクノロジーを使えるようになった今、写真や動画を少しだけしかネット上で公開していない一般の女性たちも、ターゲットになっている。
ハフポストUS版は、同意なしにディープフェイクポルノに自分の顔を使われた女性たちに話を聞いた。プライバシーを守るため、名前は仮名だ。未だ闇の中に放置されているディープフェイクポルノの問題を知ってもらうために、かれらは自分たちの体験を話してくれた。
ディープフェイクが女性たちにとって脅威となっている一方で、ディープフェイクについての議論は、これまでのところ政治的なものが多い。
大統領選を翌年に控え、政治家たちは候補者たちがディープフェイクを使って勝手に何か発言させられないかとヒヤヒヤしている。
これまでアーノルド・シュワルツェネッガーやマーク・ザッカーバーグのディープフェイクが注目を集め、この技術の恐ろしさについて警鐘を鳴らしてきた。
ディープフェイクが女性の脅威となっているのに、メディアによる報道はまだほとんどなく、被害者救済も行われていない。
「こういった形で女性が性的なモノとして扱われることが、女性を脅かしています。なぜ、ディープフェイクポルノが始まったのか、そして女性をどう守らなければいけないかについての議論ができていません」と話すのは、マイアミ大学法学部教授で、オンライン上の嫌がらせ対策をする団体「サイバー・シビル・ライツ・イニシアチブ」代表のマリー・アン・フランクス氏だ。
ディープフェイクは、ミソジニーに根差している
ディープフェイクポルノは、存在する限り女性にとって脅威となる。
「ディープフェイク」という言葉が作られたのは2017年。匿名のRedditユーザーが、「ワンダー・ウーマン」の主役を演じたガル・ガドットなどのセレブリティの顔を不正に細工したポルノ動画を、シェアしたことから始まった。
主要なポルノサイトの多くは、ディープフェイクを禁止すると明言しているにも関わらず、多くのディープフェイクポルノを載せている。
その他のプラットフォームでは、ディープフェイクポルノに対する対応はわかれる。偽情報として根絶するサイトもあれば、表現の自由として守ろうとするサイトもある。
政治家の中にはこの問題について警鐘を鳴らそうとする議員たちも現れ始めている。わずかではあるが、ディープフェイクを取り締まる法案を提案した議員もいる。しかし、実際に形になったものはない。
効果的な取り締まり方法や政策がない中、ディープフェイクポルノはインターネット上で安全な場所を確保し、繁栄を続けている。
ディープフェイクポルノを簡単に作れるアプリのほか、画像検索エンジンも存在する。検索エンジンでは、特定の個人の写真をアップロードして、顔の作りの似たポルノ女優を探せる。
また、ディープフェイクポルノの作成を取り引きするためのフォーラム（インターネット上の掲示板）もある。
発注者は、特定の女性のディープフェイクポルノを注文し、画像ソースとしてその女性のSNSのリンクをシェアする。ハフポストUS版がこのフォーラムを確認したところ、TwitchやYouTube、Instagramのインフルエンサーたち、そして同僚や友人、元パートナーのディーブフェイクポルノを注文する書き込みがあった。
そういったフォーラムの一つで3月、ある人物が24歳のカナダ人女性ティナさんのセックス動画を注文した。その人物は作り手に、ティナさんのYouTubeチャンネルのリンクを伝えた。
それから4日後、ティナさんのセックス動画が現れた。ベッドの上で裸になってかがむティナさんの後ろから一人の男性がペニスを挿入し、別の男性がペニスを彼女の頭に打ち付けていた。動画に不自然な部分はなく、今でもネット上で何千回も再生されている。
視聴者に動画のリンクを送ってもらったティナさんは、「ショックで気が動転した」とハフポストUS版に打ち明けた。「私の顔があるべきではない場所にあるのを見るのは、本当に奇妙で気持ちが悪かったです」
プロフィールによると、動画を投稿した人物と作ったと主張する人物は、中年の男性だ。ティナさんは、どちらも知らない人物だと話す。動画を取り下げてもらうことも考えたが、すでに他のウェブサイトにもシェアされたことを考えると、取り下げても何も変わらないと思った。
「インターネットがどんなものかご存知だと思います。一度アップロードされたら、もう決して削除できない。拡散され続けるのです」
誰にでも、起こりうる
ディープフェイクスタイルの動画は、最近までかなり高い技術を持った動画編集者しか作れなかった。
例えば、ハリウッドの映画制作者たちが、デジタル技術を使って亡くなった俳優を映画に登場させる、といったケースだ。その場合も、俳優の顔素材が大量に必要だった。
しかしテクノロジーが急速に進化し、今では誰もがディープフェイクのような動画編集技術を使えるようになった。素人であっても、わずかな写真を使って、ディーフェイクポルノを作れる。そして、女性たちが犠牲になっている。
ハフポストUS版は、自らディープフェイクポルノのクリエイターだと名乗る人物に話を聞いた。その人物は25歳のギリシア人男性で、自分の名前は明かさなかった。彼は自らを、「いくつかのフォーラムでディープフェイクポルノを最初に始めた一人」と説明する。男性曰く、彼が作成した動画はのべ30万回以上再生されている。
「ディープフェイクはフォトショップの修正やイラストと変わらない」と男性は言う。これまでセックス動画を削除するよう頼まれたことがあるか尋ねると、「削除はしない」と答えた。
女性のプライバシーは無視しているにも関わらず、男性は自分のプライバシーを守ることには熱心だった。「報酬は、ビットコインやそのほかの暗号化された通貨のみ（ペイパル、クレジットカードはプライバシー保護の観点から受け付けない）」と彼の投稿には書かれている。ネット上で彼の提示する値段は1本あたり15〜40ドル（約1600〜4300円）だ。
「女性は男性に『あなたとはデートしたくありません、あなたのことを知りたいとは思わないし、あなたのために服を脱ぎたくない』と言えます。しかし今、男性は『そうか、じゃあ無理やりやってもらうよ。それがリアルでできないのなら、バーチャルでね』と言えるのです」とフランクス氏は話す。「女性が自分を守るための手段は何もありません。インターネットをやめる以外には」
フランクス氏は、社会がもっとディープフェイク、特にディープフェイクポルノを問題視して、ネット上で目にするものに懐疑的な目を向けて欲しいと話す。
「もし希望と呼べるものがあるのなら、それは多くの人がディープフェイクの存在を知り、目にしているものが本物だろうかと疑うようになることです」
しかし現実は、ディープフェイクはリベンジポルノや合意しないポルノの脅威を広げている。悪意に満ちたディープフェイクの注文者や作成者たちは、自分に見向きもしなかった女性のヌードやセックス動画を必要としない。必要なのはその女性のFacebookやInstagramの写真だけだ。ディープフェイクポルノは簡単に作れるだけでなく、それが偽物であることを見破るのも難しい。
ロサンゼルスで事業経営者をするエイミーさんは、他の多くの女性たちと同じように、画像を悪用されオンライン上で嫌がらせをされた一人だ。
彼女の顔をしている女性がセックスをする画像が出回り、「売女」と罵られていた。
しかし修正が雑だったため、画像は明らかにフェイクだとわかるものだった。コメント欄には、匿名の作成者の信ぴょう性を疑問視する声も書き込まれていた。
この画像を作られるまで、エイミーさんはディープフェイクのことを知らなかった。
「画像を組み合わせるテクノロジーやスキルが向上して、合成がスムーズに見えるようになるまで、（ディープフェイク）は大きな問題ではありませんでした」
「しかしそれは、周りをだませるほど技術が進歩するまでの話です。動画だったら、本物だと信じてしまいます」と、エイミーさんは話す。
アメリカ国防省の機関である国防総省高等研究計画局（DARPA）は近年、ディープフェイクを含む改ざんされた動画を見分けるための、アルゴリズムを開発している。
大きな課題の一つは、進化し続けるディープフェイクのソフトウェアの技術についていくことだ。
「ツールを利用して動画がどんどん洗練されていくのにあわせて、我々も技術も洗練し続けなければいけません」と、DARPAの研究者であり、パデュー大学で映像や画像処理の専門研究に携わるエドワード・デルプ氏は話す。「激しい競争になっています」
被害者に、選択肢はない
ロサンゼルスに住む29歳のマヤさんは、ハフポストUSが連絡を取るまで、自分のディープフェイクポルノが存在することに気がつかなかった。
動画を知って、彼女は愕然としていた。動画には、マヤさんの名前を名乗る女性が、マスターベーションしている姿がうつっていた。
しかしマヤさんにとって、動画は青天の霹靂ではなかった。最近、見知らぬ人からセックスをしたいというメールを受け取っていたからだ。
「こんな方法で、自分のプライバシーが侵されるのはなんとも言えない気持ちです」とマヤさんはハフポストUS版に話す。「誰かに性的な対象として見られていると思うと、自分が望まない注目を浴びていて人として敬意を払われいない、それに安全ではないという気持ちになります」
さらに嘆かわしいのは、マヤさんやその他の被害者女性に、動画に対処する手段がほとんどないことだ。
まず、訴訟には莫大なお金がかかる。さらに、ハラスメントやなりすまし、名誉毀損、画像の不正流用で裁判を起こすためには、訴える相手が誰かわからないといけない。他のディープフェイクポルノ同様、マヤさんは誰が動画を作って、投稿したのかを知るすべがない。
そして 巨大ソーシャルメディアやディープフェイクポルノのフォーラムを含むオンラインの仲介媒体は、『通信品位法』230条のおかげで、第三者のコンテンツの責任から守られているため、動画を載せているサイトを訴えても無駄だ。
230条によると、プラットフォームはユーザーが投稿したものに対して法的な責任を追わず、削除の責任も追わない。つまり、コンテンツをオンライン上から取り除こうとしてもほとんど、効果がない。
「残念なことに、被害者にはほとんど選択肢がないのです」と、性プライバシーを専門にする弁護士、キャリー・ゴールドバーグ氏は話す。
ディープフェイクのウェブサイトは、「人々の屈辱をお金にするために存在する」とゴールドバーグ氏は話す。「自分たちは責任から免除されていると傲慢に主張するウェブサイトを見れば、230条には問題があることがわかるはずです」
悪意のあるディープフェイクポルノは、一般的に匿名で投稿され、拡散するよう作られている。そのため、メリーランド大学で法律学を教えるダニエル・シトロン氏のように被害者の救済を訴える弁護士たちは、ディープフェイクポルノを作った人だけではなく流通させた人も処罰する法律を作るよう議員たちに求めている。
現在、シトロン氏とフランクス氏は、偽動画を故意に流し拡散させたプラットフォームに責任を課せるようにする連邦法の法案を作っている。
「もし、なりすましや改ざんがあったことがわかった場合、プラットフォームはそれを削除すべきです」とシトロン氏は、ディープフェイクの問題について話し合う最初の議会公聴会で語った。現時点では、動画の投稿を防ぐ方法はないため、プラットフォームは警告された時点ですぐに動画を削除すべきだ、と彼女は訴える。
一方、言論の自由の支持者たちは、一定のコンテンツを制限することはオンライン上での表現に広く影響する可能性があり、十分に注意しなければいけないと主張する。
しかしフランクス氏は、野放図になっているディープフェイクポルノが、女性たちの言論の自由を阻害していると指摘する。
「ディープフェイクポルノは、女性の言論の自由に恐ろしい影響を与えています。なぜなら、自分の安全を守るために女性たちは自分自身を検閲しなければいけないからです」
女性は沈黙を強いられている
フランクス氏が説明する“検閲”を、ラナ・アユーブさんは実身をもって経験している。
2018年の春、彼女はインドで偽情報を流された。
それはアユーブさんが、若い女性へのレイプに対する政党対応を、公に非難した翌日に始まった。
突然、アユーブさんのツイートだという中傷的なツイートのスクリーンショットが、ネット上で広まった。そして、彼女の顔をした女性が出ているディープフェイクポルノが、ソーシャルメディア上であっという間に広がった。動画にはアユーブさんの名前と電話番号も書かれていた。
ディープフェイクポルノは何十万回も再生され、アユーブさんにはセックスしようという電話やメッセージが次々に送られてきた。
「本当に酷かった」と彼女はハフポストUK版に話す。「国中の人が、私の顔をしたポルノ動画を見ているのに、私は何もできなかったんです」
後から動画は偽物だと言うことが明らかになったが、完全に立ち直ることはできない、とアユーブさんは話す。汚名を消すことはできない上、これ以上ソーシャルメディアで注目をひくのは怖いと彼女は話す。
「以前は、私は自分の意見をはっきりと言っていました。しかし今では、何を投稿するかについて、慎重になりました。自分で自分を検閲せざるを得なくなったのです。『また同じことをされたらどうしよう』と考えるようになりました」
同僚にディープフェイクポルノの存在を教えてもらったテキサス州に住むケイトさんも、前に進むことに苦しんでいる。
弁護士に相談すると、動画を作った人と投稿した人がわからないため、訴訟をして闘うのは難しいと言われた。
法律的に解決する手段がなく、ケイトさんは動画が投稿されていたディープフェイクのフォーラムに削除を依頼した。しかしサイトのオーナーは、彼女の動画だけが掲載されているわけではないと返信し、その後連絡は途切れた。
問題を解決する手段がなく、ケイトさんは絶望している。
「動画が、現在も掲載されていて、それに何もできることがないというのは、おぞましいことです」
「こういった動画は、恐ろしいほど生々しく、『それは私ではありません！』と叫びたくなります。だけどそうすればそうするほど、注意を集めてしまうのです」
アユーブさんと同じように、ケイトさんも自分のコンテンツが悪用されて彼女を攻撃する材料になるのを避けるため、オンラインへの投稿を制限している。ディープフェイクポルノが放置されている状態を、ケイトさんは疑問視する。
「ディープフェイクやリベンジポルノ、その類のものは全て、女性を黙らせようとするためのものです」
「そういった動画がどんどん増えリアルになるのにあわせて、私たちはSNSを投稿する代償として、ディープフェイクポルノの標的にされることを受け入れなければいけないのでしょうか？」
ハフポストUS版の記事を翻訳しました。