TikTokで知られるByteDanceが、動画に映る人の顔を入れ替えるディープフェイク映像を簡単に作る機能を開発している模様です。イスラエルの調査会社Watchful.aiが、TikTokとその中国国内版Douyin、それぞれのアプリの内部コードで“Face Swap”と記される機能を発見しました。その機能を使えば、ユーザーの顔をスキャンして、顔を入れ替えたい動画に合成し出力できます。ディープフェイクといえば、ディープラーニングで鍛えたAIを使用して、ある映像に映る人物の顔をまったく別の人物に入れ替えてしまう技術。たとえば映画『ホーム・アローン』のマコーレー・カルキンの顔をすべてシルベスター・スタローンに入れ替えた映像がこのあいだのクリスマスの時期に少し話題になりました。一方で、ハリウッドで活躍する美人女優の顔をアダルト動画にハメ込んだものが作成されたりといった悪用も問題化しています。
ディープフェイク技術が手軽にスマートフォン向けアプリで使えるようになることは、テクノロジーの進化としては考えられる方向性です。しかし、やはり悪用される可能性はないとは言えません。
TechCrunchは、ByteDanceがユーザーの顔スキャンデータをアプリを通じて取得することで、そのデータがどのようなことに転用されるのかという懸念も指摘しています。たとえばユーザーがこの機能を使えば、ユーザーのIDと付き合わせて一大顔スキャンデータベースと作ることも可能です。昨年11月には、米国議会で国民のTikTok使用が、国家安全保障上の問題になるのではないかとの議論も持ち上がっていました。米海軍は支給端末でのTikTok使用を禁じています。
ただし、Watchful.aiはTikTok/Douyinで作成したディープフェイク動画にはウォーターマークが含まれ、本物と見分ける際に役立つと伝えています。またWatchful.aiはTikTokとDouyin両アプリの利用規約に関する未公開の更新部分も発見し、米国版ではディープフェイク動画を作る際にユーザー自身が本人証明するためのIDが必要になること、作成したユーザーの顔スキャンデータはアプリ内で動画を生成するためだけに使われること、未成年はこの機能を使えないこと、顔をハメ込むために用意される動画はすべて著作権の承認を得ていることなどといった内容が記されているとしています。
なお、この未発表の機能に関してTechCrunchがTikTokおよびDouyinに確認を求めたところ、TikTokはこれが「TikTok向けの機能ではなく、導入するつもりもない」と主張、後に「混乱を排除するためにアクティブでない不要なコードを削除する」と回答しました(実質的にコードの存在は認めた格好)。一方のDouyinは「事業を展開する管轄区域の法律と規制に従う」と述べています。
（2020年1月5日 Engadget 日本版「「TikTok」でディープフェイク動画？ByteDanceがFaceSwapと称する機能を開発との報」より転載）