誤学習でAI検索に偽の公式窓口を忍ばせるLLM電話番号汚染詐欺が登場!
生成AIの普及によって、便利な要約やチャットによる検索サービスが日常に溶け込む一方、AIの仕組みを悪用した新たなネット詐欺の手口が次々と誕生している。
最近では、AIに問い合わせ先を尋ねると、詐欺師が用意した偽の「公式窓口」や電話番号がまるで正規情報のように返され、ユーザーが直接詐欺被害に巻き込まれるケースも報告されている。
この「LLM電話番号汚染」と呼ばれる現象では、サイバー犯罪者が公開Webコンテンツやコメント欄、YouTube動画説明文に偽の問い合わせ先情報を大量に埋め込む。
そしてAIがこれらを情報源として吸い上げ、生成した回答に紛れこませる。
GoogleのAI OverviewやPerplexityなどのAI検索エンジンがきわめて自信たっぷりに間違った電話番号を提示する例は、航空会社のサポート窓口などで既に複数確認されている。
従来の検索エンジンであれば、複数の検索結果から公式ドメインや見慣れたサイトを選ぶ余地があった。
しかしAI検索では、最初の一つの「答え」が強く押し出され、不正確でも信じやすい構造となっている。
悪意ある第三者にとっては、AIの学習ソースや要約結果に狙い撃ちで偽情報を紛れ込ませることで、被害を拡大しやすい。
航空会社が詐欺のターゲットになりやすいのも、予約変更やトラブル発生時に「すぐ連絡したい」というユーザー心理につけ込めるからだ。
電話問い合わせの導線が分かりやすい一方、電話先が偽物かどうかは話してみるまで見抜くのが難しい。
その他にも、銀行・クレジットカード・行政手続き・通販のサポートセンターなど、日常生活でAIを頼りがちで、かつ急いで確
0