ディープフェイクとは (ディープフェイクとは) [単語記事]

ディープフェイク（deepfake）とは、単純なデータの切り貼りでは不可能なような、AI技術を使って作成する極めて精巧なニセモノのことである。

概要

ディープラーニング（深層学習）とフェイク（偽物）を組み合わせた言葉で、動画上の人物の顔や体の動き、音声を違う人物と合成し、あたかも本人が話したり動いているように見せるフェイク動画技術が典型。

GAN（Generative Adversarial Network、敵対的生成ネットワーク）と呼ばれる技術が利用されている。

これまでも動画編集、画像編集によりコラージュを作成する技術は存在していたが、近年の技術の発達によって、より手軽に作成が可能となっている。一見しただけでは合成された映像であるとわからないケースも多くなってきている。

2017年にRedditで"deepfakes"というハンドルネームのユーザーがエマ・ワトソンなどの女優の顔を利用したポルノ動画（フェイクポルノ）を投稿したことで注目を集めた。名称もここから由来している。

2018年にはBuzzFeedがオバマ元大統領のインタビュー映像にディープフェイク技術でコメディアンの仕草と合成し、過激な言葉を発言させる動画を投稿し話題となった。（動画はこちら）

2020年のアメリカ大統領選挙においては、この技術を用いたフェイクニュースが拡散される可能性について懸念され、対抗策として、Facebookやマイクロソフトはディープフェイクを検出するためのツール開発プロジェクトを発足させている。

しかし、フェイクとわからないニセモノをAIで作る→そのフェイクを検出するAIを作る→そのAIをすり抜けるフェイクを作るAIを作る→そのフェイクを検出するAIを作る…といういたちごっことなってしまうことが危惧されている。