【細野版】その画像や動画、本当に信じて大丈夫？

はじめに

Facebookのお友達のお誕生日に、その方が投稿されている写真を使って、生成AIで誕生日ケーキの前で嬉しそうにしているイメージ写真を作り、お祝いすることがあります。

以前は本人に少し似ているけれど、どこか微妙に違っていて、似てるけど違う！とみんなで笑えるような仕上がりになり、とても喜んでもらえました。

ところが最近はAIの性能がどんどん上がり、顔の表情や雰囲気まで驚くほどリアルに再現されるようになりました。本物以上に本物らしく見えることもあり、正直なところ少し怖さを感じることもあります。

改めて思うのは、一度ネットに公開した写真や情報は、今や専門知識がなくても簡単に加工できる時代になったということです。いわゆるディープフェイクのようなものも、誰でも手軽に作れてしまいます。技術の進歩には感心する一方で、こうした技術が悪用されることなく、人を楽しませたり喜ばせたりするために使われてほしいな、としみじみ感じています。

今回は、いつも記事の作成を手伝ってくれているマイクロソフトのCopilotがシステム障害で利用できなかったため、別のAIに文章を整えてもらいました。そのため、いつもより少し雰囲気が違って感じられるかもしれません。

AIが当たり前のように使える時代になりましたが、こうしたシステム障害が起こることもあります。便利なツールに頼るだけでなく、万が一のトラブルも想定しながら仕事を進める大切さを、改めて感じました。

それではここから、お友達との会話の本編をお届けします。

AIで作られた偽物と本物まで嘘にされる怖い時代

SNSを使って仕事をする私たちが知っておきたい、生成AI時代の情報の見極め方

InstagramやTikTok、YouTubeなどを見ていると、思わず驚いてしまう動画に出会うことがあります。

えっ、この有名人がこんなことを言ったの？

こんな事件が本当に起きたの？

この動画、ニュースでは見ていないけれど本当なのかな？

そんな経験はありませんか？

最近は生成AIの技術が進化し、本物の写真や動画と見分けがつきにくい画像や映像を作れるようになりました。

たとえば、実際には発言していない人が話しているように見せたり、存在しない出来事を本当に起きたことのように映像にしたりすることも可能です。

こうした技術を悪用した偽の画像や動画、音声はディープフェイクと呼ばれています。

しかし、実はもっと注意したいことがあります。

それは、偽物が増えることで、今度は本物までAIで作った偽物でしょう？と疑われてしまうことです。

この現象を嘘つきの配当（Liar's Dividend）といいます。

少し難しい言葉ですが、仕組みを知っておくと、SNSや仕事で情報を扱うときに役立ちます。

今回は、AIで作られた偽物の問題と、本物まで疑われてしまう危険性、そして私たちが今日からできる対策を、身近な例を使って解説します。

1. AIで本物そっくりの画像や動画が作れる時代

少し前まで、本物そっくりの合成動画を作るには、高度な編集技術や専門的なソフトが必要でした。

ところが今では、生成AIを使うことで、専門的な知識がなくても、写真や動画、音声を比較的簡単に作れるようになっています。

たとえば、AIに次のような指示を出すことができます。

スーツを着た女性がニュース番組で話している動画を作って

この文章を自然な女性の声で読み上げて

実際に撮影したような街の写真を作って

こうした指示だけで、リアルな画像や音声を生成できるサービスがあります。

もちろん、生成AIは便利な技術です。

広告やSNS投稿の素材を作ったり、動画制作の時間を短縮したりと、フリーランスの仕事にも大いに役立ちます。

問題は、その便利な技術が人をだますためにも使われてしまうことです。

私たちの身近にもある3つの危険

① 家族や知人の声を使った詐欺

たとえば、家族から突然電話がかかってきたとします。

急いでお金を振り込んでほしい

その声が、いつも聞いている家族の声とそっくりだったら、信じてしまうかもしれません。

ところが、その声がAIで作られた偽物という可能性があります。

声だけで本人だと判断するのは、以前より危険になっています。

② 有名人になりすました偽広告

SNSで、有名人が投資や副業をおすすめしている動画を見かけることがあります。

しかし、その有名人は実際には何も紹介しておらず、顔や声を無断で使われている場合があります。

特に必ず儲かる・今だけ特別といった言葉で誘導する広告には注意が必要です。

動画が自然だからといって、本当に本人が話しているとは限りません。

③ 顔写真を悪用した偽画像

SNSに掲載した顔写真が、本人の知らないところで別の画像や動画に合成されることもあります。

本人がしていない行動をしたように見せたり、性的な偽画像を作ったりする悪用も問題になっています。

顔写真や動画を仕事で公開しているフリーランスにとっても、無関係ではありません。

ここで大切なのは、AIそのものが悪いのではなく、使い方によって人を助けることも、傷つけることもできるという点です。

2. もっと怖い嘘つきの配当って何？

ここからが、今回の記事で最も伝えたい内容です。

嘘つきの配当とは、簡単にいうと、

AIで偽物を作れることを利用して、本当のことまで嘘だと言い逃れできてしまうという問題です。

この考え方は、アメリカの法学者ロバート・チェズニー氏とダニエル・シトロン氏が2019年に発表した論文で論じられています。

少しわかりにくいので、身近な例で考えてみましょう。

たとえば、こんなことが起きたら？

ある会社で、上司が部下にひどい言葉を繰り返し浴びせていたとします。

被害を受けた人は、証拠を残すために会話を録音していました。

そして、その録音を会社に提出します。

ところが、上司はこう言いました。

これはAIで作った偽物だ。私はそんなことを言っていない！

実際には本物の録音だったとしても、周囲の人が、

今はAIで声も作れるから、どちらが本当かわからないね

と思ってしまったらどうでしょうか。

被害を受けた人は、本当のことを訴えているのに、信じてもらえなくなるかもしれません。

一方、問題を起こした上司は、AIを使っていなくてもAIで偽造できるという社会の認識を利用して、自分への疑いを弱められる可能性があります。

これが嘘つきの配当です。

ここでいう配当は、お金がもらえるという意味ではありません。

嘘をついた人が、本物の証拠を疑わせることで得をしてしまう、という皮肉を込めた表現です。

もちろん、AIで作られたと主張するだけで本当に責任を免れられるわけではありません。

それでも、周囲の判断を迷わせたり、事実確認を遅らせたりすることは考えられます。

なぜ、こんなことが起きるの？

理由は、とても単純です。

私たちがAIで偽物を作れると知るようになったからです。

以前なら、動画や録音は比較的信頼できる証拠として受け止められていました。

しかし現在は、

声だってAIで作れる

動画も合成できる

写真も本物とは限らない

と多くの人が考えるようになっています。

その警戒心自体は大切です。

ただし、何でも疑ってしまうと、本当のことまで信じられなくなります。

つまり、AIフェイクについての知識が増えることには、思わぬ副作用もあるのです。

3. フリーランスの仕事にも関係する問題

政治家や大企業の話でしょう？ 私には関係ないのでは？

そう思う方もいるかもしれません。

でも、実はフリーランスの仕事にも関係しています。

特に、SNSを使った集客、オンライン講座、デザイン制作、Web制作、コンサルティングなどでは、情報の信頼性がとても重要です。

ケース① お客様とのトラブル

たとえば、オンライン会議でお客様から仕事内容の変更を依頼されたとします。

後日、認識の違いからトラブルになり、会議の録音を確認することになりました。

そのとき、相手からその録音は編集されているのでは？と言われる可能性があります。

これは、すべてのトラブルがAIによって起こるという意味ではありません。

ただ、音声や動画を加工する技術が身近になったことで、記録の信頼性について説明を求められる場面は考えられます。

そのため、重要な決定事項は録音だけに頼らず、議事録やメールでも確認しておくと安心です。

ケース② SNSでの評判トラブル

自分が話していない言葉を、あたかも発言したように見せる動画が出回ったらどうでしょうか。

そんなことは言っていませんと説明しても、最初に動画を見た人の中には、疑いを持ち続ける人がいるかもしれません。

反対に、本当に問題のある発言だったとしても、本人がAIの偽物ですと主張する場合も考えられます。

大切なのは、どちらの場合も、動画を見ただけで判断しないことです。

ケース③ お客様への情報提供

フリーランスの中には、SNS運用代行やブログ制作、広告制作など、情報を発信する仕事をしている方も多いでしょう。

もしAIで作られた偽情報を本物だと思い、そのままお客様のSNSに投稿してしまったら、信用問題につながりかねません。

特に、ニュース、健康、投資、法律などに関する情報を扱う場合は注意が必要です。

生成AIが作成した文章も、内容が正しいとは限りません。

AIが言っているから正しいではなく、根拠を確認してから使うという姿勢が重要です。

4. 私たちは2つの落とし穴に注意する必要がある

ここまでの話を整理すると、私たちは2つの異なる問題に直面しています。

1つ目は、偽物を本物だと信じてしまうこと

たとえば、AIで作られた有名人の偽広告を信じて商品を購入したり、詐欺に遭ったりするケースです。

存在しない出来事を本当に起きたと思い込んで、SNSで拡散してしまうこともあります。

2つ目は、本物を偽物だと決めつけてしまうこと

こちらが嘘つきの配当に関係する問題です。

本当の出来事を撮影した動画や、実際に交わされた会話の録音があっても、

どうせAIで作ったのでしょう？

と疑われてしまう可能性があります。

これは、被害を訴える人にとって大きな問題です。

さらに、何を見てもどうせ嘘かもしれないと考える人が増えると、社会全体で事実を確認しようとする意欲が弱まるおそれがあります。

だからこそ、これから必要なのはすべてを信じないことでも、すべてを疑うことでもありません。

根拠を確認しながら、判断することです。

5. AIの偽物を見分ける技術も進んでいる

こうした問題への対策として、AIで作られた画像や動画を識別したり、データがどのように作られたかを確認したりする技術が開発されています。

その一つがC2PA（シーツーパ）と呼ばれる国際的な技術標準です。

少し難しそうな名前ですが、考え方はシンプルです。

写真や動画にどのような機器やソフトで作られたか・どのように編集されたかといった情報を記録し、確認できるようにする仕組みです。

いわば、デジタルコンテンツに履歴書を付けるようなイメージです。

ただし、重要な注意点があります。

この仕組みは、写真や動画に記録された制作履歴などを確認するためのもので、写っている出来事が真実であることまで保証するわけではありません。

また、すべての写真や動画に対応しているわけでもありません。

制作履歴の情報が見つからないからといって、必ずしも偽物とは限らないのです。

そのため、こうした技術も判断材料の一つとして活用することが大切です。

AIで作ったことを表示するルールも海外では、AIによって作られた画像や動画を利用者が見分けやすくするためのルール整備も進んでいます。

たとえば、EU（欧州連合）のAI規制法では、一定の条件に該当するAI生成コンテンツについて、表示や識別のための義務が設けられています。

ただし、対象となるコンテンツや利用方法によって適用条件は異なります。

ルールが整備されても、すべての偽物を防げるわけではありません。

最後は、私たち自身が情報をどう確認するかが重要になります。

6. 今日からできる！ 自分と仕事を守る5つの習慣

難しい技術のことはよくわからない

そんな方でも大丈夫です。

まずは、次の5つを意識してみましょう。

① 驚く情報ほど、すぐに拡散しない

これは大変！

みんなに教えなきゃ！

と思うような内容ほど、いったん確認しましょう。

特に、怒りや不安を強く感じる情報は、勢いで拡散しやすくなります。

投稿する前にこれは本当に確認できた情報かな？と考える習慣をつけたいですね。

② 発信元を確認する

SNSで見たニュースなら、公式サイトや公的機関の発表など、元の情報を探してみましょう。

誰が発信した情報なのか、いつ発信された情報なのかも重要です。

複数の信頼できる情報源と照らし合わせると、誤解を減らせます。

③ AIの回答をそのまま信じない

ChatGPTなどの生成AIは、文章作成やアイデア出しに役立ちます。

しかし、AIが作った文章には、誤った情報が含まれることもあります。

お客様に提供する資料やSNSの投稿では、日付、数字、法律、商品情報などを確認してから使いましょう。

AIに下書きを作ってもらい、人間が確認して仕上げる。

この役割分担が大切です。

④ 大切な仕事の記録を残す

フリーランスの仕事では、口頭だけの約束をできるだけ減らしましょう。

たとえば、オンライン会議の後に、

本日のお打ち合わせでは、納期は〇日、制作内容は〇〇ということで確認しましたとメールを送っておくだけでも、後から認識の違いが起きたときに役立ちます。

また、重要なファイルは元データを保管し、必要に応じて作成日時や変更履歴を確認できるようにしておきましょう。

録音や録画を行う場合は、関係する契約やプライバシーにも配慮する必要があります。

⑤ お金や個人情報の依頼は別の方法で確認する

家族や取引先から突然、

急いで振り込んでほしい！

今すぐパスワードを教えて！

と連絡が来たら、たとえ本人の声や顔に見えても、その場で対応しないことです。

普段使っている電話番号にかけ直すなど、別の方法で確認しましょう。

特に、送金、口座情報、パスワードなどに関する依頼は慎重に扱ってください。

7. これから大切なのは疑う力より確かめる力

生成AIは、私たちの仕事を便利にしてくれる心強いツールです。

文章を考えたり、画像を作ったり、企画のアイデアを広げたりと、フリーランスにとって大きな可能性があります。

一方で、使い方によっては、人をだましたり、信用を傷つけたりすることもできます。

そして、今回紹介した嘘つきの配当のように、AIで偽物を作れるという事実そのものが、本当のことを疑わせる材料にもなってしまいます。

だからこそ、これからは本物か偽物かを瞬時に見抜く能力だけに頼らないことが大切です。

誰が発信しているのか。

どこに根拠があるのか。

ほかの情報と矛盾していないか。

そうしたことを落ち着いて確認する習慣が、自分自身と大切な人、そして仕事の信用を守ることにつながります。

まとめ

AI時代に必要なのは、何でも信じることでも、何でも疑うことでもありません。

大切なのは、すぐに決めつけず、自分で確かめることです。

SNSで情報を発信する人も、生成AIを仕事で使う人も、まずはこれ、本当かな？と一度立ち止まるところから始めてみましょう。

その小さな習慣が、これからの時代に自分の信用を守る大きな力になるはずです。

気づいたことはお気に入りのノートにメモしておきましょう。