生成AIパスポート 第4章「ディープフェイクと偽情報」｜見分けるための確認の型

生成AIパスポート 第4章「ディープフェイクと偽情報」｜見分けるための確認の型

AIが作った偽の動画が、本物そっくりに拡散される時代になりました。ディープフェイクと呼ばれるこの技術は、生成AIパスポート第4章のリスクの論点として問われます。ハルシネーションとは別の切り口で、「意図的に作られた偽物」にどう向き合うかが試されます。なお、この記事の問題例は主催団体の公式問題ではなく、シラバスに沿って作ったオリジナルの練習問題です。

1. ディープフェイクとは何か

ディープフェイクとは、AIを使って作られた偽の画像や動画、音声のことです。実在する人の顔や声を、実際には言っていない言葉や、実際にはしていない動きに合成します。技術が進んだことで、見た目だけでは本物と区別がつきにくいものも出てきています。ディープフェイクは、映画やエンターテインメントの表現として使われることもありますが、他人を騙す目的で使われると深刻な問題になります。有名人の偽の発言動画や、実在しない人物の写真などが、事実のように拡散される例が報告されています。

2. ハルシネーションとの違い

ディープフェイクは、ハルシネーションと混同されやすいですが、別物です。ハルシネーションは、AIがもっともらしい誤った内容を、事実のように出力してしまう現象です。AIが意図せずに間違えるもので、作り手に悪意はありません。これに対して、ディープフェイクは、誰かが意図的に偽物を作る行為です。作る側の意図があるかどうかが、大きな違いです。試験では、ディープフェイクの説明としてハルシネーションの説明を出すすり替えが出ます。「AIが間違えて出力する」という説明はハルシネーションのもので、ディープフェイクの説明ではありません。意図の有無で見分けます。

3. 偽情報が広がる仕組み

ディープフェイクを含む偽情報は、なぜ広がるのでしょうか。1つ目の理由は、見た目の信じやすさです。文章だけの情報より、画像や動画のほうが「本物らしい」と感じられやすいため、確認せずに信じてしまう人が出ます。2つ目の理由は、拡散の速さです。SNSでは、衝撃的な内容ほど短時間で多くの人に届きます。確認する前に拡散されると、後から訂正しても広がりは止まりにくくなります。3つ目の理由は、感情に訴える内容が多いことです。怒りや不安をあおる内容は、冷静な確認を後回しにさせます。偽情報の広がり方を知っておくことが、見分ける第一歩です。

4. 見分けるための確認の型

ディープフェイクや偽情報を見分けるには、3つの確認が有効です。1つ目は、出典の確認です。誰が発信した情報か、元の発表や公式サイトにたどれるかを確認します。発信元が分からない情報は、そのまま信じないのが基本です。2つ目は、複数の情報源での照合です。同じ内容が、信頼できる別の情報源でも報じられているかを確認します。1つのSNS投稿だけが根拠なら、まだ確かめられていません。3つ目は、内容の不自然さの確認です。顔の動きと声のずれ、背景のゆがみ、不自然な手の形など、画像や動画の細部を見ることも手がかりになります。ただし、技術の進歩で見た目だけの判断は難しくなっているため、出典と照合の2つが中心になります。

5. 試験でのすり替えパターン

第4章の選択肢では、次のすり替えが出やすいです。まず「ディープフェイクは、AIが意図せずに誤った内容を出力することである」という混同です。これはハルシネーションの説明で、ディープフェイクの説明ではありません。次に「偽情報は、見た目で確実に見分けられる」という誤りです。技術が進み、見た目だけでは見分けがつきにくいものがあるため、出典の確認が大切です。最後に「偽情報の拡散は、発信元の問題だけで、受け手には関係がない」という誤りです。受け手が確認せずに拡散することも、広がりの原因になります。情報を受け取るときの自分の行動も、問われる範囲です。

6. 一問一答で確認する

次の問いに答えてみてください。ディープフェイクの説明として最も適切なものはどれか。1つ目は、AIを使って意図的に作られた偽の画像や動画、音声である。2つ目は、AIが意図せずにもっともらしい誤った内容を出力することである。3つ目は、AIの学習データに偏りがあることである。正解は1つ目です。2つ目はハルシネーション、3つ目はバイアスの説明です。ディープフェイクは「意図的に作られた偽物」という点が特徴です。偽情報への向き合い方は、試験の第4章で繰り返し問われます。出典の確認と複数の情報源での照合という型を、自分の行動として覚えておいてください。

生成AIパスポートの直前7日ドリル（1,500円）は、試験直前の1週間で総仕上げができるよう章別ドリルと模擬60問を収録しています。