Pozor na umělou inteligenci, která vytváří falešné obrázky a hlasy za účelem online podvodů s penězi.

Nguyen Thanh Huong (jméno postavy bylo změněno) je administrativní pracovník v Hanoji . Během rozhovoru s kamarádem přes Facebook Messenger se Huongův kamarád rozloučil a ukončil hovor, ale náhle se vrátil k psaní zpráv, požádal ho o půjčku peněz a navrhl převod peněz na bankovní účet.

Cảnh giác AI tạo hình ảnh và giọng nói giả mạo để lừa tiền trên mạng- Ảnh 1. — Hackeři používají deepfakes k páchání online podvodů.

Přestože se název účtu shodoval se jménem její kamarádky, Huong měla stále trochu podezření a požádala o videohovor k ověření. Kamarádka okamžitě souhlasila, ale hovor trval jen několik sekund kvůli „zpoždění internetu“, jak vysvětlila kamarádka. Když Huong ve videohovoru uviděla kamarádčinu tvář a uslyšela její hlas, už nepochybovala a peníze převedla. Teprve po úspěšném převodu si však Huong uvědomila, že padla do hackerské pasti.

Nejen Huong, ale i mnoho dalších obětí, kteří jsou přáteli a příbuznými Huongova přítele, bylo podvedeno stejným způsobem. Částka peněz, kterou zločinci z jeho facebookového účtu odcizili, dosahuje desítek milionů dongů.

Ve druhé polovině roku 2023 bezpečnostní firma Bkav neustále dostávala od obětí hlášení a žádosti o pomoc ohledně podobných podvodů. Podle expertů Bkav se v Huongově případě zločinci zmocnili facebookového účtu, ale nezmocnili se ho okamžitě úplně, ale tajně ho sledovali a čekali na příležitost vydávat se za oběť a požádat o půjčku od přátel a příbuzných. Pomocí umělé inteligence vytvořili falešné video obličeje a hlasu majitele facebookového účtu (Deepfake). Když byli požádáni o videohovor za účelem ověření, souhlasili s přijetím hovoru, ale poté se rychle odpojili, aby se vyhnuli odhalení.

Pan Nguyen Tien Dat, generální ředitel výzkumného centra AntiMalware společnosti Bkav, uvedl: „Schopnost shromažďovat a analyzovat uživatelská data pomocí umělé inteligence umožňuje vytváření sofistikovaných strategií pro podvody. To také znamená, že se zvýší složitost podvodných scénářů při kombinaci Deepfake a GPT, což výrazně ztíží odhalování podvodů.“

Bkav doporučuje uživatelům, aby byli obzvláště ostražití, neposkytovali osobní údaje (občanský průkaz, bankovní účet, OTP kód...) a nepřeváděli peníze cizím lidem prostřednictvím telefonu, sociálních sítí, webových stránek se známkami podvodu. V případě žádosti o půjčku/převod peněz na účet prostřednictvím sociálních sítí by měly být použity jiné metody ověřování, jako je telefonování nebo použití jiných komunikačních kanálů k potvrzení.

Zdrojový odkaz