音声ディープフェイク、誤情報に関する新たな懸念

[広告_1]

ニューハンプシャー州司法長官事務所は月曜日、ジョー・バイデン大統領が同州の予備選挙で投票しないよう有権者に呼びかけているのと全く同じに聞こえる偽の声が流れたとの苦情を受け、有権者操作の可能性を調査していると発表した。

研究者らはまた、ディープフェイク音声が政治家や指導者を模倣するために使用されていることにも警告しており、2023年には英国、インド、ナイジェリア、スーダン、エチオピア、スロバキアで顕著な事例が発生すると予想されている。

ディープフェイク新音声新情報偽画像 1 — アメリカ合衆国ニューハンプシャー州で予備選挙に投票する人。写真：ゲッティ

専門家によると、スタートアップ企業による安価で効果的なAIツールの登場により、ディープフェイク音声は誤情報の手段として広く利用されるようになっているという。マイクロソフトも、わずか3秒の録音から音声を再現できる新たなAIモデルを開発した。

「視覚的な操作に関しては、誰もがPhotoshopをよく知っているか、少なくともその存在を知っています」と、AIとディープフェイクの専門家で、Adobe、Meta、EYのコンサルタントを務めるヘンリー・アジダー氏は述べた。「音声がどのように操作されるかについてはほとんど認識がないため、私たちは非常に脆弱だと私は考えています。」

ニュースサイトの質と信頼性を評価するシステム「NewsGuard」は9月、正規のニュースサイトを装い、AI生成コンテンツを用いて陰謀論や政治的な誤情報を拡散するTikTokアカウントのネットワークを発見した。バラク・オバマ前米大統領の声を含むディープフェイク動画は、数億回もの再生回数を記録している。

ニュースガードによると、偽のナレーションはアンドレセン・ホロウィッツが支援するイレブンラボが提供するツールで生成されたようで、動画は数億回も視聴されているという。

「当社のプラットフォームのユーザーの99％以上が興味深く、創造的で、役に立つコンテンツを作成していますが、悪用されるケースがあることは認識しており、それを制限するための保護策を継続的に開発し、導入してきました」とイレブンラボは述べています。

ElevenLabsは、元GoogleとPalantirの社員であるピオトル・ダブコウスキー氏とマティ・スタニシェフスキー氏によって2年前に設立され、クリックするだけで使える基本的なAI音声生成ツールを無料で提供しています。サブスクリプションプランは月額1ドルから、より複雑なサービスを求める人向けに月額330ドル以上まで用意されています。

昨年、米国の諜報機関は報告書の中で、「高度でよく訓練されたAI音声クローンモデルの公開により、パーソナライズされたAI詐欺が大幅に増加している」と警告した。

政治専門家たちは、金銭目的の詐欺に加え、拡散するディープフェイク音声クリップや、ロボコールや選挙活動へのディープフェイクの利用についても警鐘を鳴らしている。「携帯電話を標的にすることで、強力で広範囲に及ぶ偽情報キャンペーンを展開できる」と、サイバーセキュリティグループZeroFoxの副社長兼著名なインテリジェンスフェローであるAJ・ナッシュ氏は述べている。

これらの企業の中には、誤情報対策に積極的に取り組んでいるところもあります。マイクロソフトは倫理声明を発表し、AI音声ツールの不正使用を報告するようユーザーに呼びかけています。ElevenLabsは、自社システムによって生成された音声録音を識別するための独自の検出ツールを開発しました。

人権団体フリーダム・ハウスによると、ナイジェリアの2023年選挙中、AIで操作された動画がソーシャルメディア上で拡散し、「野党候補が不正投票を計画していると示唆している」という。

スロバキアでは、野党候補のミハル・シメチカ氏が不正選挙を企てていたとみられる偽の音声録音が、９月の大統領選挙の数日前に広まった。

「ニューハンプシャー州のディープフェイクは、ディープフェイクが様々な方法で混乱を招き、欺瞞行為を働く可能性があることを改めて認識させるものです」と、非営利の消費者擁護団体パブリック・シチズンの代表、ロバート・ワイスマン氏は述べた。「政治におけるディープフェイクの時代が到来しました。政策立案者は迅速に行動して安全策を講じなければ、選挙で混乱に陥るでしょう。」

マイ・アン（FTによると）

[広告2]
ソース