Deepfakes florerer – ingen er trygge fra AI-etterligningstriks

Stemmeimitasjon, ansiktsimitasjon, leppesynkronisering ... AI er nå ikke bare for jobb og underholdning, men er i ferd med å bli et farlig kommersielt svindelverktøy. Bilder av kjendiser, leger og til og med munker blir etterlignet av AI for å selge produkter over hele sosiale nettverk. Ekte mennesker vet ikke, og kjøpere mister tilliten.

Å være et «lånt ansikt» for å selge varer

«Uansett hva den opprinnelige knetilstanden er, bare bruk metoden vår. Vi garanterer at det vil bli betydelig bedre innen 7 dager. Hvis det er fullstendig ineffektivt, er jeg villig til å kompensere 1 milliard VND som en oppriktig unnskyldning. Hvis du virkelig ikke ser noen effekt, forplikter vi oss til 100 % refusjon, og jeg er selv villig til å kompensere 1 milliard VND. Ikke alle tør å forplikte seg slik», er det en berømt kvinnelig sanger som reklamerer for et massasjekremprodukt for leddsmerter. Det er imidlertid verdt å nevne at denne annonsen ble laget utelukkende av AI.

Reklamevideoen ovenfor ble brukt av en TikTok-konto kalt LShop, der sangerens bilde, stemme og kroppsspråk ble brukt på en realistisk måte som ikke kan oppdages uten nøye observasjon. Denne kontoen har nesten 9000 følgere, 67 000 likerklikk, og hvert klipp har tusenvis av visninger. Bare « reklamevideoen » som bruker sangerens bilde har tiltrukket seg mer enn 1000 likerklikk og nesten 100 kommentarer til kjøp.

Med det samme massasjekremproduktet «produserte» salgskanalene også en annen deepfake-versjon, denne gangen en lege. I klippet lovet karakteren bestemt: «Jeg er den mest prestisjefylte ortopediske legen i Hanoi , og jeg garanterer at selv den mest alvorlige meniskskaden kan kureres fullstendig på bare tre dager. Denne gelen er sertifisert av den mest prestisjefylte ortopediske foreningen i Vietnam.» Denne linjen ble gjenskapt av AI for en rekke andre «leger», noe som gjør det enkelt for seere å forveksle den med ekte.

Klippet fikk nesten 4000 likerklikk og mer enn 120 kommentarer, men da vi sendte en tekstmelding for å prøve å kjøpe, svarte ikke kontoen, og den samhandlet heller ikke med seerne i kommentarfeltet. Produktet ble bare liggende i handlekurven for direkte kjøp. Det er verdt å merke seg at produktet som er til salgs er fra Kina, og produktinformasjonen er svært vag.

Fra sangere og kjendiser til leger har alle blitt etterlignet av salgskanaler som lager AI-klipp for å selge helserelaterte produkter.

Deepfake-trikset stopper ikke der, det har også spredt seg til spirituelle spørsmål. En TikTok-konto kalt Phat Phap NM reposter ikke bare forelesningene til Mester TPH, men bruker også AI-teknologi til å lage bilder av «mesteren» som selger produkter som Bodhi-blader og agarwood-armbånd.

Da seerne la igjen kommentarer der de ba om å kjøpe, svarte kanalen: «Hvis ting ikke går som planlagt, gå til visningsdelen på kontoen min og velg det du trenger, ikke vær gjerrig på småpengene og ignorer de større.» Umiddelbart etter det måtte denne munken selv si ifra for å presisere at han aldri hadde annonsert for eller vært involvert i slike produkter.

Grensen mellom kreativitet og krenkelse

Nettsikkerhetsekspert Ngo Minh Hieu (Hieu PC) fra National Cyber ​​Security Monitoring Center (NCSC) sa at falske reklameklipp som spres på sosiale nettverk hovedsakelig lages med Deepfake-programvare. Denne programvaren er ikke uvanlig, og mange tjenester tilbyr til og med pakker med lave kostnader og svært enkle operasjoner. Selv om det finnes positive bruksområder innen digital innholdsproduksjon og medieproduksjon, ligger problemet ifølge Hieu i at noen har utnyttet denne teknologien til negative formål som svindel, identitetsforfalskning, spredning av falske nyheter eller ærekrenkelse av andre gjennom videoer som ser ekte ut.

Hieu ga også noen tegn for å identifisere deepfake-klipp, som at ansiktsuttrykk i videoen var noe stive, munnformer og bevegelser som ikke samsvarte med dialogen ... Hieu advarte om at det har vært mer alvorlige situasjoner der AI har blitt brukt til å sette inn ofrenes ansikter i sensitive videoer med det formål å skremme, tvang og tjene penger.

Ifølge advokat Tran Duc Phuong, Ho Chi Minh City Bar Association, er bruk av kunstig intelligens til å lage bilder av kjendiser (eller bestemte individer) uten deres samtykke et brudd på personlige rettigheter, nærmere bestemt retten til et bilde, som fastsatt i artikkel 32 i sivilloven av 2015. Loven fastsetter: «Personer har rett til sitt eget bilde. Bruk av et individs bilde må ha den personens samtykke. Bruk av et bilde til kommersielle formål må betale vederlag til personen hvis bilde brukes, med mindre partene har en annen avtale.»

Hvis en kontoinnehaver på et sosialt nettverk bruker AI-gjenskapte bilder fra ekte bilder, gamle videoer osv. til reklame- eller salgsformål uten tillatelse, har vedkommende brutt loven. Hvis bruken av et bilde bryter med bestemmelsene i denne artikkelen, har personen med bildet rett til å be retten om å treffe en avgjørelse som tvinger overtrederen, relevante etater, organisasjoner og enkeltpersoner til å trekke tilbake, ødelegge og avslutte bruken av bildet, kompensere for skader og iverksette andre tiltak i samsvar med lovens bestemmelser.

CAM NUONG

Kilde: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html