Остерегайтесь искусственного интеллекта, создающего поддельные изображения и голоса для мошенничества с деньгами в Интернете

Нгуен Тхань Хыонг (имя персонажа изменено) — офисный работник в Ханое . Во время разговора с другом через Facebook Messenger, друг Хыонга попрощался и закончил разговор, но внезапно вернулся к текстовому сообщению, попросив денег в долг и предложив перевести их на банковский счет.

Cảnh giác AI tạo hình ảnh và giọng nói giả mạo để lừa tiền trên mạng- Ảnh 1. — Хакеры используют Deepfake для совершения онлайн-мошенничества

Хотя имя учетной записи совпадало с именем ее подруги, Хуонг все еще была немного подозрительна и запросила видеозвонок для проверки. Ее подруга сразу согласилась, но звонок длился всего несколько секунд из-за «задержки интернета», согласно объяснению ее подруги. Увидев лицо своей подруги на видеозвонке и услышав ее голос, Хуонг больше не сомневалась и перевела деньги. Однако только после того, как перевод прошел успешно, Хуонг поняла, что попала в ловушку хакера.

Не только Хуонг, но и многие другие жертвы, друзья и родственники друга Хуонга, также были обмануты таким же образом. Сумма денег, которую мошенники выманили с этого аккаунта Facebook, составляет десятки миллионов донгов.

Во второй половине 2023 года охранная фирма Bkav постоянно получала сообщения и просьбы о помощи от жертв о подобных мошенничествах. По словам экспертов Bkav, в случае Хуонга плохие парни взяли под контроль учетную запись Facebook, но не сразу полностью, а тайно следили, ожидая возможности выдать себя за жертву, чтобы попросить у ее друзей и родственников денег в долг. Они использовали ИИ для создания поддельного видео лица и голоса владельца учетной записи Facebook (Deepfake). Когда их попросили сделать видеозвонок для проверки, они согласились принять звонок, но затем быстро отключились, чтобы избежать обнаружения.

Г-н Нгуен Тиен Дат, генеральный директор исследовательского центра Bkav по борьбе с вредоносным ПО, сказал: «Возможность собирать и анализировать пользовательские данные с помощью ИИ позволяет создавать сложные стратегии мошенничества. Это также означает, что сложность сценариев мошенничества при объединении Deepfake и GPT возрастет, что значительно затруднит обнаружение мошенничества».

Bkav рекомендует пользователям быть особенно бдительными, не предоставлять персональные данные (удостоверение личности, банковский счет, OTP-код...), не переводить деньги незнакомым людям по телефону, в социальных сетях, на сайтах с признаками мошенничества. При запросе на заем/перевод денег на счет через социальные сети следует использовать другие методы аутентификации, такие как звонок или использование других каналов связи для подтверждения.

Ссылка на источник