Дипфейки набирают обороты — никто не застрахован от уловок искусственного интеллекта, имитирующих личность

Имитация голоса, имитация лица, синхронизация губ... ИИ теперь используется не только для работы и развлечений, но и становится опасным инструментом коммерческого мошенничества. ИИ использует изображения знаменитостей, врачей и даже монахов для продажи товаров в социальных сетях. Реальные люди ничего не знают, и покупатели теряют доверие.

Быть «заимствованным лицом» для продажи товаров

«Неважно, каково изначальное состояние колена, просто применяйте наш метод. Мы гарантируем значительное улучшение в течение 7 дней. Если же он окажется совершенно неэффективным, я готов компенсировать 1 миллиард донгов в качестве искренних извинений. Если вы действительно не увидите никакого эффекта, мы обязуемся вернуть 100% стоимости, и я сам готов компенсировать 1 миллиард донгов. Не каждый решится на такое», — так пишет известная певица, рекламируя массажный крем для снятия боли в суставах. Стоит отметить, что эта реклама полностью создана искусственным интеллектом.

Рекламный ролик, представленный выше, был использован аккаунтом TikTok под названием LShop, где изображение, голос и язык тела певицы были настолько реалистичны, что их невозможно заметить без внимательного наблюдения. У этого аккаунта почти 9000 подписчиков, 67000 лайков, а каждый ролик набрал тысячи просмотров. Только одно «рекламное» видео с изображением певицы собрало более 1000 лайков и почти 100 комментариев с предложениями о покупке.

С этим же массажным кремом каналы продаж «выпустили» ещё одну дипфейковую версию, на этот раз с врачом. В ролике персонаж твёрдо обещал: «Я — самый престижный ортопед в Ханое и гарантирую, что даже самый серьёзный разрыв мениска можно полностью вылечить всего за 3 дня. Этот гель сертифицирован самой престижной ортопедической ассоциацией Вьетнама». Эта фраза была воссоздана искусственным интеллектом для ряда других «врачей», что позволяло зрителям легко принять её за настоящего.

Ролик собрал почти 4000 лайков и более 120 комментариев, но когда мы написали ему с предложением купить, аккаунт не ответил и не общался со зрителями в комментариях, просто оставив товар в корзине для прямой покупки. Примечательно, что товар продаётся из Китая, а информация о нём крайне расплывчата.

Каналы продаж выдавали себя за певцов, знаменитостей и врачей, создавая видеоролики с использованием искусственного интеллекта для продажи товаров, связанных со здоровьем.

Но и на этом дипфейк-приём распространился и на духовные темы. Аккаунт в TikTok под названием Phat Phap NM не только публикует лекции Мастера Ти-Пи-Хи, но и использует искусственный интеллект для создания изображений «мастера», продающего такие товары, как листья бодхи и браслеты из агарового дерева.

Когда зрители оставляли комментарии с просьбой о покупке, канал отвечал: «Если что-то пойдёт не по плану, зайдите в раздел «Выставки» в моём аккаунте и выберите то, что вам нужно, не жалейте мелочи и не тратьте на крупную сумму». Сразу после этого самому монаху пришлось высказаться, чтобы уточнить, что он никогда не рекламировал подобные товары и не имел с ними дела.

Граница между творчеством и нарушением прав

Эксперт по кибербезопасности Нго Минь Хьеу (Hieu PC) из Национального центра мониторинга кибербезопасности (NCSC) заявил, что фейковые рекламные ролики, распространяемые в социальных сетях, в основном создаются с помощью программного обеспечения Deepfake. Это ПО не редкость, и многие сервисы предлагают недорогие пакеты с очень простым управлением. Несмотря на наличие позитивных эффектов в сфере создания цифрового контента и медиапроизводства, по словам г-на Хьеу, проблема заключается в том, что некоторые субъекты используют эту технологию в негативных целях, таких как мошенничество, подделка личных данных, распространение фейковых новостей или клевета с помощью видеороликов, которые выглядят как настоящие.

Г-н Хьеу также привел некоторые признаки, помогающие распознать фейковые ролики, например, несколько напряженное выражение лица на видео, несоответствие формы рта и движений диалогу... Г-н Хьеу предупредил, что были и более серьезные ситуации, когда ИИ использовался для вставки лиц жертв в деликатные видеоролики с целью запугивания, принуждения и наживы.

По словам адвоката Чан Дык Фыонга из Коллегии адвокатов города Хошимин, использование искусственного интеллекта для создания изображений знаменитостей (или конкретных лиц) без их согласия является нарушением личных прав, в частности права на изображение, как это предусмотрено статьей 32 Гражданского кодекса 2015 года. Закон гласит: «Лица имеют право на собственное изображение. Использование изображения лица возможно только с его согласия. Использование изображения в коммерческих целях должно сопровождаться выплатой вознаграждения лицу, изображение которого используется, если сторонами не согласовано иное».

Таким образом, использование владельцем аккаунта в социальной сети изображений, воссозданных с помощью искусственного интеллекта из реальных фотографий, старых видеозаписей и т.п. в рекламных или коммерческих целях без разрешения правообладателя, является нарушением закона. Если использование изображения нарушает положения настоящей статьи, лицо, владеющее изображением, вправе обратиться в суд с требованием об изъятии, уничтожении изображения, прекращении его использования, возмещении ущерба и применении иных мер в соответствии с законодательством.

КАМ НУОНГ

Источник: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html