Мошенничество с использованием Deepfake Voice становится все более изощренным. Что делать?

Технология Deepfake Voice позволяет людям имитировать голоса, идентичные голосам реальных людей, из-за чего многие попадают в ловушку, веря знакомым голосам.

Мошеннический трюк с имитацией голоса с помощью фальшивого голоса

В эпоху стремительного развития искусственного интеллекта голос, который когда-то считался одним из факторов, служивших неопровержимым доказательством, превратился в опасный инструмент в руках злоумышленников. Технология deepfake voice позволяет создавать поддельные голоса, идентичные голосам реальных людей, создавая сложные фальшивые звонки для мошенничества и присвоения имущества.

Почему дипфейковый голос так страшен?

Deepfake voice — это технология, которая использует искусственный интеллект (ИИ) и машинное обучение для создания поддельного голоса, идентичного голосу настоящего человека.

Благодаря поддержке современных моделей, таких как Tacotron, WaveNet, ElevenLabs или платформ клонирования голоса, таких как Respeecher, мошенникам достаточно всего 3–10 секунд голосовых образцов, чтобы создать на 95% надежный дипфейк.

Поддельные голоса становятся особенно опасными из-за своей способности практически идеально имитировать голоса, начиная от произношения и интонации и заканчивая уникальными речевыми привычками каждого человека.

Из-за этого жертвам становится очень трудно отличить настоящий голос от поддельного, особенно если голос принадлежит их родственникам, друзьям или начальникам.

Майнинг голоса также прост, поскольку большинство людей сегодня публикуют свои аудиозаписи на таких платформах, как TikTok, в прямых трансляциях в социальных сетях, подкастах или онлайн-встречах. Ещё более тревожно то, что дипфейки не оставляют визуального следа, подобного изображениям или видео , что затрудняет расследование и повышает риск потери денег жертвами.

Достаточно всего нескольких секунд голосового образца, чтобы создать дипфейк.

Мошенничества с использованием поддельного голоса становятся все более изощренными, часто используя знакомый сценарий: выдать себя за знакомого в чрезвычайной ситуации, чтобы вызвать панику и заставить жертву немедленно перевести деньги.

Во Вьетнаме был случай, когда матери позвонил «сын» и сообщил, что с ним произошёл несчастный случай и ему срочно нужны деньги. В Великобритании директор компании был обманут на сумму более 240 000 долларов после того, как услышал, как его «босс» попросил перевести деньги по телефону. Административный сотрудник также подвергся мошенничеству, когда получил звонок от «большого босса» с требованием перевести деньги «стратегическому партнёру»...

Общим в таких ситуациях является то, что поддельный голос воспроизводится в точности как голос родственника или начальника, заставляя жертву полностью доверять ему и не иметь времени на проверку.

Всегда проверяйте, не доверяйте сразу

В связи с ростом популярности мошенничества с использованием поддельного голоса, людям рекомендуется не переводить деньги по телефону, основываясь только на голосе, даже если он звучит точь-в-точь как голос близкого человека. Вместо этого перезвоните по старому номеру или проверьте информацию по нескольким каналам связи, прежде чем совершать транзакцию.

Многие эксперты также рекомендуют установить «внутренний пароль» в доме или офисе для проверки в нестандартных ситуациях.

Кроме того, необходимо ограничить публикацию в социальных сетях видеороликов с чёткой речью, особенно длинных. В частности, необходимо заблаговременно предупреждать и консультировать уязвимые группы, такие как пожилые люди или люди с ограниченным доступом к технологиям, поскольку они являются приоритетными целями мошенников, использующих высокие технологии.

Голоса родственников, друзей и коллег можно подделать.

Во многих странах власти начали ужесточать контроль над технологией дипфейка, принимая собственную правовую базу.

В США несколько штатов запретили использование дипфейков в избирательных кампаниях или для распространения дезинформации. Европейский союз (ЕС) принял Закон об искусственном интеллекте (ИИ), требующий от организаций прозрачности и чёткого предупреждения о том, что контент сгенерирован искусственным интеллектом.

Между тем, во Вьетнаме, несмотря на отсутствие специальных правил для имитации голоса, связанные с этим деяния могут преследоваться в соответствии с действующим законодательством, включая такие преступления, как мошенничество, вторжение в частную жизнь или мошенничество с использованием личных данных.

Однако реальность такова, что технологии развиваются со скоростью, намного превосходящей возможности закона по их контролю, что оставляет множество лазеек, которыми могут воспользоваться злоумышленники.

Когда голос больше не является доказательством

Раньше голос был чем-то личным и заслуживающим доверия, но с появлением фейкового голоса он перестал быть надёжным доказательством. В эпоху искусственного интеллекта каждому человеку необходимо знать о цифровой защите, проводить проактивную проверку и всегда быть бдительным, ведь звонок может оказаться ловушкой.

ФАН ХАЙ ДАНГ

Источник: https://tuoitre.vn/lua-dao-bang-deepfake-voice-ngay-cang-tinh-vi-phai-lam-sao-20250709105303634.htm