Кибермошенники «обманывают» ИИ, создают сценарии психологической манипуляции

Интернет-мошенники не только выдают себя за родственников, сотрудников полиции и т. д., но и манипулируют инструментами искусственного интеллекта (ИИ), чтобы создавать сотни мошеннических сценариев для атак на пользователей.

Эксперт по кибербезопасности Нго Минь Хьеу заявил, что мошенники манипулируют ИИ, создавая сотни сценариев мошенничества за считанные минуты - Фото: VU TUAN

По данным социального предприятия Chongluadao.vn, мошенники используют ИИ для создания вредоносного ПО, написания мошеннических скриптов и преобразования звуков и изображений с помощью deepfake.

По словам эксперта по кибербезопасности Нго Минь Хьеу (Hieu PC), представителя Chongluadao.vn, опасный трюк — «обмануть ИИ», заставив его загрузить вредоносное ПО. «Они создают поддельные аудио- или графические файлы, внедряя вредоносное ПО, которое ИИ не распознаёт. Когда система ИИ обрабатывает его, вредоносное ПО активируется и берёт управление на себя», — сказал Хьеу PC.

Например, он использовал ИИ для подделки голосов и изображений родственников через FaceTime, чтобы обманом заставить людей перевести деньги.

В последнее время частота мошенничества значительно возросла благодаря поддержке инструментов искусственного интеллекта. Управляя искусственным интеллектом и используя его для совершения мошеннических действий, мошенники преодолевают любые языковые и географические барьеры. Формы мошенничества становятся всё более изощрёнными и опасными.

Эксперт Хьёу П.К. проанализировал, что, независимо от того, какой инструмент используется для совершения мошенничества, у киберпреступников всегда есть готовый сценарий. Эту информацию его команда коллег почерпнула из сотен сообщений о мошенничестве в интернете и обработала их.

Распространенными формами мошенничества являются выдача себя за родственников, сотрудников государственных органов, полиции, электроэнергетических компаний... Более изощренными являются сценарии, заманивающие жертв в инвестиционные ловушки, выполнение заданий или свидания...

Эксперты по кибербезопасности утверждают, что первое, что нужно сделать, чтобы избежать подделки вашего изображения, — не публиковать свои личные изображения в социальных сетях в открытом доступе. Звонки и сообщения с просьбами о переводе денег, переходе по ссылкам или предоставлении одноразовых паролей (OTP) на 99% являются мошенничеством.

Хакерские уловки для атаки на ИИ

По мнению экспертов по кибербезопасности, «состязательная атака» — это трюк, используемый хакерами для «обмана» ИИ. Это форма передачи ложной информации, которая заставляет ИИ неправильно её понимать или становится уязвимой для злоумышленников. В результате ИИ внедряет в систему вредоносный код или выполняет команды мошенника.

Мошенники используют эту уязвимость, чтобы обойти ИИ, особенно системы защиты ИИ (такие как антивирусное программное обеспечение, распознавание голоса или проверки банковских транзакций).

Источник: https://tuoitre.vn/lua-dao-mang-lua-ca-ai-tao-kich-ban-thao-tung-tam-ly-20250228163856719.htm