Deepfake-urile sunt larg răspândite - Nimeni nu este ferit de trucurile de uzurpare a identității prin inteligență artificială

Imitarea vocii, imitarea feței, sincronizarea buzelor... IA nu este acum doar pentru muncă și divertisment, ci devine un instrument periculos de fraudă comercială. Imagini cu celebrități, medici și chiar călugări sunt imitate de IA pentru a vinde produse pe toate rețelele sociale. Oamenii reali nu știu, iar cumpărătorii își pierd încrederea.

A fi „față împrumutată” pentru a vinde bunuri

„Indiferent de afecțiunea inițială a genunchiului, aplicați metoda noastră, vă garantăm că în termen de 7 zile se va îmbunătăți semnificativ. Dacă este complet ineficientă, sunt dispusă să vă compensez cu 1 miliard de VND drept scuze sincere. Dacă nu observați niciun efect, ne angajăm să vă rambursăm 100% banii, iar eu însămi sunt dispusă să vă compensez cu 1 miliard de VND. Nu toată lumea îndrăznește să se angajeze așa”, aceasta este declarația unei celebre cântărețe care face reclamă unui produs cu cremă de masaj pentru durerile articulare, dar merită menționat faptul că această reclamă a fost creată în întregime de inteligența artificială.

Clipul publicitar de mai sus a fost utilizat de un cont TikTok numit LShop, folosind imaginea, vocea și limbajul corpului cântărețului într-un mod realist, care nu poate fi detectat fără o observare atentă. Acest cont are aproape 9.000 de urmăritori, 67.000 de aprecieri, iar fiecare clip are mii de vizualizări. Numai videoclipul „publicitar” care folosește imaginea cântărețului a atras peste 1.000 de aprecieri și aproape 100 de comentarii la achiziție.

Cu același produs cremă de masaj, canalele de vânzări au „produs” și o altă versiune deepfake, de data aceasta a unui doctor. În videoclip, personajul a promis cu fermitate: „Sunt cel mai prestigios medic ortoped din Hanoi și garantez că până și cea mai gravă ruptură de menisc poate fi complet vindecată în doar 3 zile. Acest gel a fost certificat de cea mai prestigioasă asociație ortopedică din Vietnam”. Această linie a fost recreată de inteligența artificială pentru o serie de alți „doctori”, ceea ce le-a ușurat spectatorilor să o confunde cu realitatea.

Clipul a atras aproape 4.000 de aprecieri și peste 120 de comentarii, dar când am trimis un mesaj pentru a încerca să cumpărăm, contul nu a răspuns și nici nu a interacționat cu spectatorii în secțiunea de comentarii, lăsând doar produsul în coș pentru achiziție directă. De remarcat este faptul că produsul de vânzare este din China, iar informațiile despre produs sunt foarte vagi.

De la cântăreți, vedete până la medici, toți au fost imitați de canale de vânzări care creează clipuri cu inteligență artificială pentru a vinde produse legate de sănătate.

Fără a se opri aici, trucul deepfake s-a extins și la chestiuni spirituale. Un cont TikTok numit Phat Phap NM nu numai că repostează prelegerile Maestrului TPH, dar folosește și tehnologia inteligenței artificiale pentru a crea imagini cu „maestrul” care vinde produse precum frunze de Bodhi și brățări din lemn de agar.

Când telespectatorii au lăsat comentarii în care solicitau să cumpere, canalul a răspuns: „Dacă lucrurile nu merg conform planului, accesați secțiunea de afișare din contul meu și alegeți ce aveți nevoie, nu vă zgârciți cu mărunțișul și ignorați-l pe cel mare.” Imediat după aceea, acest călugăr însuși a trebuit să ia cuvântul pentru a clarifica faptul că nu a făcut niciodată reclamă și nici nu a fost implicat în astfel de produse.

Linia dintre creativitate și încălcare a legilor

Expertul în securitate cibernetică Ngo Minh Hieu (Hieu PC) de la Centrul Național de Monitorizare a Securității Cibernetice (NCSC) a declarat că clipurile publicitare false care se răspândesc pe rețelele de socializare sunt create în principal cu ajutorul software-ului Deepfake. Acest software nu este rar, iar multe servicii oferă chiar pachete cu costuri reduse și operațiuni foarte simple. Deși există aplicații pozitive în domeniul creării de conținut digital și al producției media, potrivit domnului Hieu, problema constă în faptul că unii subiecți au profitat de această tehnologie în scopuri negative, cum ar fi frauda, ​​falsificarea de identitate, răspândirea de știri false sau defăimarea altora prin intermediul unor videoclipuri care par reale.

Dl. Hieu a oferit și câteva indicii pentru a ajuta la identificarea clipurilor deepfake, cum ar fi expresiile faciale din videoclip care sunt oarecum rigide, formele și mișcările gurii care nu se potrivesc cu dialogul... Dl. Hieu a avertizat că au existat situații mai grave în care inteligența artificială a fost utilizată pentru a insera fețele victimelor în videoclipuri sensibile în scopul intimidării, constrângerii și profitului.

Potrivit avocatului Tran Duc Phuong, de la Baroul din Ho Chi Minh City, utilizarea inteligenței artificiale pentru a crea imagini ale unor celebrități (sau ale unor persoane specifice) fără consimțământul acestora reprezintă un act de încălcare a drepturilor personale, în special a dreptului la imagine, așa cum este stipulat în articolul 32 din Codul Civil din 2015. Legea prevede: „Persoanele au dreptul la propria imagine. Utilizarea imaginii unei persoane trebuie să aibă consimțământul acesteia. Utilizarea unei imagini în scopuri comerciale trebuie să aducă o remunerație persoanei a cărei imagine este utilizată, cu excepția cazului în care părțile au un alt acord.”

Prin urmare, dacă proprietarul unui cont de rețea socială utilizează imagini recreate cu inteligență artificială din fotografii reale, videoclipuri vechi etc. în scopuri publicitare sau de vânzare, fără permisiune, acesta a încălcat legea. Dacă utilizarea unei imagini încalcă prevederile acestui articol, persoana care deține imaginea are dreptul să solicite instanței să emită o decizie prin care să oblige contravenientul, agențiile, organizațiile și persoanele relevante să retragă, să distrugă și să înceteze utilizarea imaginii, să despăgubească daunele și să aplice alte măsuri în conformitate cu prevederile legii.

CAM NUONG

Sursă: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html