親が写真をオンラインに投稿すると、子供がAIの被害者になる危険がある

[広告_1]

特にソーシャルネットワーク、そしてインターネット全般における情報と繋がりの爆発的な増加により、多くの人が、その危険性を予期することなく、私生活におけるあらゆる感情や出来事をインターネット上で共有する習慣を持つようになりました。多くの大人が、自身の画像や動画をオンラインに投稿するだけでなく、子供の顔や声を含むコンテンツを許可なく投稿する権利を自らに与えてしまっています。これらの画像や動画がオンラインに公開されると、アクセス権を持つ人なら誰でも、何の制限もなく利用できるようになります。

ドイツの通信事業者であるドイツテレコムは昨年7月、AI（人工知能）を駆使して幼い子供の画像が様々な目的でオンライン上で悪用される様子を描いた模擬広告を公開した。 「エラからのメッセージ」と題されたこの動画では、AIとディープフェイクを用いて、幼いエラの両親がオンラインに投稿した画像や動画の成人向けバージョンが作られている。

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — ドイツテレコムの警告ビデオに登場する9歳のエラちゃんのソーシャルメディア画像からAIが作成した「大人のエラ」

「AIエラ」はまるで人間のように動き、話すことができ、映画館の大スクリーンに映る娘の姿を見た両親は驚きました。彼女は人間のように泣いたり、感情を表現したりもします。

「あなたにとって、これらの写真は思い出であることは分かっています。でも、他の人にとってはデータです。そして私にとって、これらは恐ろしい未来の始まりになるかもしれません。個人情報が盗まれたり、何もしていないのに刑務所に入れられたりするかもしれません。あなたがオンラインで共有するものは、私の残りの人生に付きまとうデジタルのマイルストーンなのです」と、AIキャラクターのエラは語った。

たった一枚の写真を共有すれば、AIは9歳の少女の大人版を作り出すことができます。ディープフェイクは動画から音声を分離し、大人の声に変えてしまいます。画像や動画は完全に偽造可能で、個人識別データは違法な目的で盗まれた貴重な情報となります。さらに、悪意のある人物はオンラインで収集した画像を切り貼りしたり、AIを使って児童ポルノや、真実を嘲笑し、中傷し、歪曲する一連の写真を作成したりすることも可能です。

ドイツテレコムのコミュニケーション・マーケティング部長、クリスチャン・レーファート氏は次のように述べた。「最近の調査によると、平均的な5歳児は、本人の同意なしに約1,500枚の写真がオンラインに投稿されており、投稿したのは他でもない、最も信頼している母親か父親です。」

ニューヨーカー誌によると、専門家は2030年までに、個人情報窃盗の3分の2がソーシャルメディア上での無制限の写真共有によって引き起こされると予測しています。ドイツテレコムも、現在75%以上の親が子供に関するデータをソーシャルメディアで共有しているという報告書を引用しています。一方、10人中8人の親は、直接会ったことのないソーシャルメディアユーザーからアカウントをフォローされています。

最近、AIツールの開発はますます「普及」し、モバイルデバイス上の様々なアプリケーションを通じて一般ユーザーにも浸透しています。しかし、多くの人がこれらのプログラムに慎重な対応を怠る代わりに、SNSに投稿する個人や家族の写真を不用意に提供してしまいます。こうした行為は、顔の構造から周囲の環境に至るまで、人間について学習するための膨大なデータを無料でAIに提供してしまうことになりかねません。

多くのセキュリティ専門家は、新たな傾向があっても、いかなる状況においてもユーザーは依然として用心深く、ソーシャルネットワークでの数分間の楽しみのために個人データ、特に自分自身や大切な人の顔データを交換すべきではないと警告しています。

[広告2]
ソースリンク