今後、映像と音声は信じられなくなる－ディープフェイクについて

みなさんは先週の「カズレーザーと学ぶ」をご覧になりましたか？

今週ではなく先週のですよ。

テーマの一つが「ディープフェイク」だったのですが、なかなか面白かった。

簡単に説明すると今後、映像と音声は信じられなくなるという話です。

まず、「ディープフェイク」について説明しましょう。

ディープフェイクとは、ディープラーニング（AIの深層学習）とフェイク（偽物）を組み合わせた造語で、動画の中の人の顔を別の人の顔に入れ替える技術です。

要するに、AI技術を応用して画像の顔を差し替えたり合成したりすることで、最近では動画中で発する言葉に合わせて口を動かしたり表情を変えたりと、まるで本人が話しているのと区別がつかないレベルにまで技術が進歩しています。

さらに複数の人間を合成した架空の人間を思い通りに作り上げることもできるとのことです。

たとえば、中国の国営メディアである新華社通信はAIのアナウンサーを本格的に起用したことで話題になりました。

そして、当然ながら、この技術は悪用できます。

2018年にはアメリカの元大統領であるオバマ氏、2019年にFacebook・CEOのマーク・ザッカーバーグ氏のディープフェイク動画が公開されました。

今後、こうした影響力のある著名人の映像をディープフェイクで作り出し、とんでもない発言をさせ、社会を大混乱に陥れるといった事態が起こる可能性があります。

そして、このディープフェイク技術は、すでに一般向けの動画作成アプリが登場しています。

要するに「チープフェイク」と呼ばれる低精度のフェイク動画であれば個人でも作成できるわけです。

かなり粗が目立つものの素人目に見て瞬時に偽物だと判断するのは難しいレベルとされています。

そして、このチープフェイク動画・音声を用いた詐欺事件が発生しているのです。

有名俳優の顔や声を使った動画を送りながら会話して国際ロマンス詐欺を行うといった犯罪です。

日本の漫画家の井出智香恵さんは総額7500万円をだまし取られました（体験は著書「毒の恋」として漫画化されています）。

また、国際企業の社長が海外法人の社長の声で現金を送る指示を受けてだまし取られる、海外のテレビ番組で故人が生前言わなかった発言を番組制作者が捏造して遺族に訴えられるなどの事例が発生しています。

さらに、政治・軍事的な悪用も考えられます。

たとえば、降伏の呼びかけをする偽ゼレンスキー大統領のフェイク動画が流され、話題を集めました。

この動画が拡散された直後にゼレンスキー大統領自身このフェイク動画を否定したため大きな問題にはなりませんでしたが。

また、皮肉なことに、本物の動画をディープフェイクと疑われて否定されるといった事例も発生しています。

ガボン共和国では大統領が体調不良となり、死亡説が流れたのですが、大統領は復帰し、元気である様子を動画で流しました。

しかし、これがディープフェイクと疑われ、クーデター事件に発展するとの事態に至ったのです。

最後に、ディープフェイク対策ですが、AIによって作られた映像をAIで検知するといった技術が開発されています。

しかし、ディープフェイク技術も進歩しますから、終わることのないいたちごっこになるとの懸念も指摘されています。

ディープフェイクの映像や音声は人間では判別できないとのことですから、今後は実際に会う以外に何も信用できないということになるでしょう。

ただ、将来的には本人そっくりのアンドロイドが出現するはずですから、そうなったら完全にお手上げですね。

では