Фейковые новости становятся все более изощренными благодаря манипуляциям ИИ
Недавно на встрече Ассоциации журналистов Вьетнама и Ассоциации журналистов Таиланда, состоявшейся в Ханое, лидеры двух ассоциаций большую часть времени посвятили обсуждению проблемы «фейковых новостей» и заявили, что это уже не национальная проблема, а серьезная проблема, которая оказывает непредсказуемое воздействие на регион и мир.
Согласно исследованию Google DeepMind, создание изображений, видео и аудио, имитирующих людей, встречается почти в два раза чаще, чем создание дезинформации с использованием таких инструментов, как чат-боты на основе искусственного интеллекта.
В последние месяцы в TikTok, X и Instagram появились дипфейки премьер-министра Великобритании Риши Сунака и других мировых лидеров. Возникли опасения, что, несмотря на попытки социальных сетей маркировать или удалять контент, аудитория может не осознать, что это фейк, и что его распространение может повлиять на избирателей.
Поддельное изображение премьер-министра Великобритании Риши Сунака появилось в TikTok и Instagram в преддверии всеобщих выборов. (Фото: AFP)
Оценивая влияние фейковых новостей в эпоху технологий, магистр наук Луонг Донг Сон - преподаватель Института журналистики и коммуникаций Академии журналистики и пропаганды, сказал, что продукт сочетания ИИ и дезинформации, также известный как сюрреалистические фейковые новости, может искажать общественное восприятие событий и социальных проблем, тем самым влияя на то, как люди оценивают ситуацию и принимают решения. Это может вызвать серьезные последствия, от небольших личных решений до важных решений, влияющих на сообщество и страну.
Гиперфейковые новости могут использоваться как инструмент для манипулирования общественным мнением, подстрекательства к насилию, сеяния разногласий и подрыва социальной стабильности. В политической сфере гиперфейковые новости могут подорвать доверие к демократическим институтам, повлиять на результаты выборов и даже спровоцировать конфликт.
Говоря о трудностях, с которыми сталкиваются журналисты и новостные организации, магистр наук Луонг Донг Сон отметил, что сложность сюрреалистичных фейковых новостей, особенно дипфейков, значительно усложняет различение правды и фейка даже для опытных журналистов.
«В эпоху информационного взрыва общественность все чаще требует от журналистов и новостных организаций предоставления информации быстро и точно. Однако это давление может привести к тому, что журналисты будут поспешно публиковать информацию, не проверив ее тщательно, что создаст возможности для распространения сюрреалистических фейковых новостей. Кроме того, журналисты и новостные организации сталкиваются с правовыми и этическими рисками, если они не будут осторожны при проверке и публикации информации», — сказал г-н Сон.
Используйте ИИ для проверки информации
По словам магистра наук Луонг Донг Сона, для борьбы с подобными фейковыми новостями крайне необходимо применение современных технологических решений.
«Эти решения не только нацелены на обнаружение и устранение фейковых новостей, но и на предотвращение их появления на ранних стадиях производства», — сказал магистр наук Донг Сон.
Во-первых, одной из важнейших технологий сегодня, по словам г-на Сона, является использование систем искусственного интеллекта для обнаружения фейковых новостей. Современные системы ИИ способны анализировать контекст, сравнивать информацию из нескольких источников и обнаруживать аномалии в информационном контенте. Типичным примером является использование ИИ для анализа видео и изображений с целью обнаружения признаков редактирования или производства с использованием технологии deepfake.
Далее, платформы социальных сетей и поисковые системы также активно используют алгоритмы машинного обучения для автоматической классификации и фильтрации фейкового новостного контента до того, как он станет вирусным. Эти алгоритмы разработаны для распознавания аномалий в шаблонах обмена, скорости их распространения или даже тональности постов, тем самым оценивая вероятность того, что информация является фейковой.
Кроме того, использование технологии блокчейн для управления происхождением информации также является потенциальным решением. Блокчейн имеет возможность создать прозрачную и неизменяемую систему аутентификации, тем самым помогая отслеживать происхождение и историю всей информации, обеспечивая точность и надежность.
ИИ может создавать поддельный контент или вводящую в заблуждение информацию и изображения, которые трудно различить, нанося огромный ущерб репутации отдельных лиц и организаций и даже нанося ущерб национальным и этническим интересам.
Разделяя мнение магистра наук Лыонг Донг Сона, г-н Фан Ван Ту, заведующий кафедрой журналистики факультета журналистики и коммуникаций Университета социальных и гуманитарных наук в Хошимине, подчеркнул, что, помимо предоставления навыков по использованию сильных сторон ИИ в журналистике, нам также необходимо использовать инструменты ИИ для проверки информации.
Проверка источника, которая по сути является оценкой его надежности, является важным навыком, который включает проверку источника информации, сравнение его с другими источниками и использование инструментов проверки фактов для проверки надежности.
Интересно, что в настоящее время существует множество интегрированных с ИИ инструментов, которые помогают журналистам в процессе проверки, в дополнение к традиционным инструментам, поддерживающим проверку фактов, таким как Google Image, обратный поиск изображений Tineye, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...
Г-н Фан Ван Ту сказал, что обучение профессиональных навыков журналистов в текущий период требует сосредоточения на предоставлении возможностей оценки информации против атак фейковых новостей, манипулируемых ИИ. «Использование инструментов ИИ для обработки ошибок, связанных с ИИ, — это самый быстрый способ помочь журналистам и информационным агентствам не только хорошо выполнять свои функции, но и способствовать повышению качества информации и защите общественности от ложной информации и негативного воздействия СМИ», — сказал г-н Ту.
Однако г-н Ту также отметил, что способность журналистов оценивать информацию не может полагаться исключительно на инструменты. Сразу следует сказать, что ИИ может поддерживать анализ новостного контента, но не может обнаружить все типы фейковых новостей и манипулированной информации. Программное обеспечение ИИ все еще может быть обмануто теми же методами ИИ, которые оно использует для обнаружения.
«Ни один инструмент не является волшебной палочкой, но инструменты искусственного интеллекта, которые обнаруживают поддельные фотографии/видео, по-прежнему являются ценным ресурсом в рамках процесса проверки или метода комплексной проверки», — сказал Фан Ван Ту.
Хоа Жанг
Источник: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html
Комментарий (0)