Deepfake'ler yaygınlaşıyor - Yapay zeka taklitçiliği hilelerinden kimse güvende değil

Ses taklidi, yüz taklidi, dudak senkronizasyonu... Yapay zeka artık sadece iş ve eğlence amaçlı değil, aynı zamanda tehlikeli bir ticari dolandırıcılık aracı haline geliyor. Ünlülerin, doktorların ve hatta rahiplerin görüntüleri, yapay zeka tarafından sosyal ağlarda ürün satmak için taklit ediliyor. Gerçek insanlar bilmiyor ve alıcılar güvenini kaybediyor.

Mal satmak için "ödünç yüz" olmak

"Diz rahatsızlığınız ne olursa olsun, yöntemimizi uygulayın, 7 gün içinde önemli ölçüde iyileşme sağlayacağını garanti ediyoruz. Eğer tamamen etkisiz kalırsa, samimi bir özür olarak 1 milyar VND tazminat ödemeye hazırım. Gerçekten herhangi bir etki görmezseniz, %100 para iadesi taahhüt ediyoruz ve ben de 1 milyar VND tazminat ödemeye hazırım. Herkes böyle bir taahhütte bulunmaya cesaret edemez." Bu, eklem ağrısını hafifleten bir masaj kremi ürününün reklamını yapan ünlü bir kadın şarkıcının paylaşımıdır. Ancak bu reklamın tamamen yapay zeka tarafından oluşturulduğunu belirtmekte fayda var.

Yukarıdaki reklam klibi, şarkıcının görselini, sesini ve beden dilini, dikkatli bir gözlem olmadan tespit edilemeyecek kadar gerçekçi bir şekilde kullanan LShop adlı bir TikTok hesabı tarafından kullanıldı. Bu hesabın yaklaşık 9.000 takipçisi, 67.000 beğenisi ve her klibin binlerce kez görüntülenmesi var. Şarkıcının görselini kullanan "reklam" videosu bile 1.000'den fazla beğeni ve satın alınmak üzere yaklaşık 100 yorum aldı.

Aynı masaj kremi ürünüyle satış kanalları, bu sefer bir doktor olan deepfake versiyonunu da "üretmiş". Klipte karakter, " Hanoi'nin en prestijli ortopedi doktoruyum ve en ciddi menisküs yırtığının bile sadece 3 günde tamamen iyileşebileceğini garanti ediyorum. Bu jel, Vietnam'ın en prestijli ortopedi derneği tarafından onaylanmıştır" diye kesin bir şekilde söz veriyor. Bu replik, yapay zeka tarafından bir dizi başka "doktor" için yeniden yaratılmış ve izleyicilerin gerçek sanmasını kolaylaştırmış.

Klip yaklaşık 4.000 beğeni ve 120'den fazla yorum aldı, ancak satın almak için mesaj attığımızda hesap ne yanıt verdi ne de yorum bölümündeki izleyicilerle etkileşime geçti, ürünü doğrudan satın almaları için sepete ekledi. Satıştaki ürünün Çin menşeli olması ve ürün bilgilerinin oldukça belirsiz olması dikkat çekici.

Şarkıcılardan ünlülere, doktorlardan herkese kadar herkes, sağlık ürünlerini satmak için yapay zeka klipleri oluşturan satış kanalları tarafından taklit ediliyor.

Deepfake hilesi bununla da kalmayıp manevi konulara da sıçradı. Phat Phap NM adlı bir TikTok hesabı, Usta TPH'nin derslerini yeniden yayınlamanın yanı sıra, yapay zeka teknolojisini kullanarak "usta"nın Bodhi yaprakları ve agar ağacı bilezikleri gibi ürünler sattığı fotoğrafları da oluşturuyor.

İzleyiciler yorum bırakıp satın almak istediklerini söylediğinde kanal şu ​​yanıtı verdi: "Eğer işler planlandığı gibi gitmezse, hesabımdaki teşhir bölümüne gidin ve ihtiyacınız olanı seçin, küçük parayla cimrilik edip büyük parayı görmezden gelmeyin." Hemen ardından bu keşiş, bu tür ürünlerin reklamını yapmadığını veya bunlarla hiçbir ilgisi olmadığını açıklamak zorunda kaldı.

Yaratıcılık ve İhlal Arasındaki Çizgi

Ulusal Siber Güvenlik İzleme Merkezi'nden (NCSC) siber güvenlik uzmanı Ngo Minh Hieu (Hieu PC), sosyal ağlarda yayılan sahte reklam kliplerinin çoğunlukla Deepfake yazılımlarıyla oluşturulduğunu söyledi. Bu yazılımlar nadir değildir ve birçok hizmet, düşük maliyetli ve oldukça basit kullanımlı paketler bile sunmaktadır. Dijital içerik oluşturma ve medya prodüksiyonu alanında olumlu uygulamalar bulunsa da, Hieu'ya göre sorun, bazı kişilerin bu teknolojiyi dolandırıcılık, kimlik sahteciliği, sahte haber yayma veya gerçek gibi görünen videolar aracılığıyla başkalarını karalama gibi olumsuz amaçlarla kullanmasıdır.

Bay Hieu ayrıca deepfake kliplerin tespit edilmesine yardımcı olacak bazı işaretler de verdi. Bunlar arasında videodaki yüz ifadelerinin biraz sert olması, ağız şekilleri ve hareketlerin diyalogla uyuşmaması yer alıyor. Bay Hieu, yapay zekanın mağdurların yüzlerini hassas videolara korkutma, baskı ve çıkar sağlama amacıyla yerleştirdiği daha ciddi durumların da olduğunu söyledi.

Ho Chi Minh Şehri Barosu avukatı Tran Duc Phuong'a göre, yapay zeka kullanarak ünlülerin (veya belirli kişilerin) rızaları olmadan görüntülerini oluşturmak, 2015 Medeni Kanunu'nun 32. maddesinde belirtilen kişisel hakların, özellikle de görüntü hakkının ihlali anlamına geliyor. Kanun şöyle diyor: "Bireyler kendi görüntülerine sahip olma hakkına sahiptir. Bir bireyin görüntüsünün kullanımı, o kişinin rızası olmalıdır. Bir görüntünün ticari amaçlarla kullanılması durumunda, taraflar arasında başka bir anlaşma olmadığı sürece, görüntüsü kullanılan kişiye ücret ödenmelidir."

Dolayısıyla, bir sosyal ağ hesabı sahibi, gerçek fotoğraflardan, eski videolardan vb. yapay zeka ile yeniden oluşturulmuş görselleri izinsiz olarak reklam veya satış amacıyla kullanırsa, kanunu ihlal etmiş olur. Bir görselin kullanımı bu madde hükümlerini ihlal ediyorsa, görseli kullanan kişi, ihlal edenin, ilgili kurum, kuruluş ve kişilerin görseli geri çekmesini, imha etmesini ve kullanımının sona erdirilmesini, zararların tazmin edilmesini ve kanun hükümlerine uygun diğer tedbirlerin uygulanmasını zorunlu kılan bir kararın mahkemeden alınmasını talep etme hakkına sahiptir.

CAM NUONG

Kaynak: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html