ディープフェイクが蔓延 - AIによるなりすましの手口から誰も逃れられない

声真似、顔真似、リップシンク…AIは今や仕事や娯楽の場だけでなく、危険な商業詐欺ツールになりつつあります。有名人、医師、さらには僧侶までもが、AIによってなりすまされ、SNS上で商品を販売されています。生身の人間にはそれが分からず、購入者の信頼を失っています。

Báo Sài Gòn Giải phóng•10/07/2025

商品を売るために「借り物の顔」を使われる

「膝の元々の状態がどうであれ、当社のメソッドを実践していただければ、7日以内に症状が大幅に改善することを保証します。もし全く効果がない場合は、心からのお詫びとして10億ドンを弁償いたします。もし本当に効果が見られない場合は、全額返金いたします。私自身も10億ドンを弁償します。誰もがこのような約束をできるわけではありません」。これは、関節痛緩和マッサージクリームを宣伝する有名女性歌手の発言ですが、この広告は完全にAIによって作成されたものであることは特筆に値します。

上記の広告動画は、TikTokアカウント「LShop」が使用したものです。歌手の映像、声、ボディランゲージを巧みに利用し、注意深く観察しなければ判別できないほどリアルな手法が用いられています。このアカウントには約9,000人のフォロワーと67,000件の「いいね！」があり、各動画は数千回再生されています。歌手の映像を使った「広告」動画だけでも、1,000件以上の「いいね！」と、購入を促すコメントが100件近く寄せられています。

同じマッサージクリーム製品で、販売チャネルは別のディープフェイクバージョンも「制作」しました。今回は医師のキャラクターです。動画の中で、キャラクターは力強くこう約束しています。「私はハノイで最も権威のある整形外科医です。どんなに深刻な半月板損傷でも、わずか3日で完治することを保証します。このジェルはベトナムで最も権威のある整形外科協会の認定を受けています。」このセリフはAIによって他の「医師」にも再現され、視聴者は簡単に本物と間違えてしまいます。

この動画には4,000件近くの「いいね！」と120件以上のコメントが寄せられましたが、購入しようとメッセージを送信したところ、アカウントは返信せず、コメント欄でも視聴者とやり取りせず、商品をカートに入れたまま直接購入できるようにしただけでした。注目すべきは、販売されている商品が中国製であり、商品情報が非常に曖昧であることです。

歌手、有名人、医師など、あらゆる人物が、健康関連商品を販売するために AI クリップを作成する販売チャネルによってなりすまされています。

ディープフェイクのトリックは、それだけにとどまらず、スピリチュアルな事柄にも広がっています。TikTokアカウント「Phat Phap NM」は、TPH師の講義をリポストするだけでなく、AI技術を駆使して、菩提葉や沈香のブレスレットなどの商品を販売する「師」の画像を作成しています。

視聴者が購入を希望するコメントを残すと、チャンネル側は「もし予定通りにいかなかったら、私のアカウントのディスプレイセクションに行って必要なものを選んでください。小銭を惜しまず、大金は無視してください」と返答した。その直後、この僧侶自身も、そのような商品を宣伝したり、関わったりしたことは一度もないと明言せざるを得なかった。

創造性と著作権侵害の境界線

国家サイバーセキュリティ監視センター（NCSC）のサイバーセキュリティ専門家、ゴ・ミン・ヒュー氏（Hieu PC）は、ソーシャルネットワーク上で拡散している偽の広告動画は主にディープフェイクソフトウェアで作成されていると述べた。このソフトウェアは珍しくなく、多くのサービスが低価格で非常に簡単な操作のパッケージを提供している。デジタルコンテンツ制作やメディア制作の分野では有益な用途もあるものの、ヒュー氏によると、一部の者がこの技術を詐欺、身元偽造、フェイクニュースの拡散、本物に見える動画による他人の名誉毀損など、悪意のある目的で利用していることが問題となっている。

ヒュー氏はまた、動画内の表情がやや硬直している、口の形や動きがセリフと一致していないなど、ディープフェイク動画を見分けるのに役立つ兆候をいくつか挙げた。ヒュー氏は、脅迫、強要、不当利得を目的として、AIを使用して被害者の顔をセンシティブな動画に挿入するより深刻な状況もあると警告した。

ホーチミン市弁護士会のトラン・ドゥック・フオン弁護士によると、AIを用いて著名人（または特定の個人）の画像を本人の同意なく作成することは、2015年民法第32条に規定されている肖像権をはじめとする個人の権利を侵害する行為である。同法は、「個人は自己の肖像権を有する。個人の肖像を利用するには、本人の同意が必要である。営利目的で画像を利用する場合は、当事者間に別途合意がない限り、画像が使用された本人に報酬を支払わなければならない」と規定している。

したがって、ソーシャルネットワークアカウントの所有者が、実写写真や過去の動画などからAIで再現した画像を無断で広告や販売目的で使用した場合、法律違反となります。画像の使用が本条の規定に違反する場合、画像の所有者は、違反者、関係機関、組織、個人に対し、法律の規定に従って、画像の撤回、破棄、使用の終了、損害賠償、その他の措置を強制する決定を下すよう裁判所に請求する権利を有します。

カム・ヌオン

出典: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html