Легендарная борьба с дезинформацией, дипфейками и мошенничеством

(NB&CL) Помимо войны, вооруженного насилия или глубоких глобальных геополитических разногласий, мир в 2024 году продолжит сталкиваться с еще одной крупной битвой против дезинформации, фейковых новостей и мошенничества. Эта проблема станет легендарной историей, которую трудно положить конец, и, как прогнозируется, она станет все более серьезной, если мир не объединится для принятия радикальных мер.

Информационный хаос – растущая опасность

Информационный сбой, особенно дезинформация и кибермошенничество, рассматривается как «глобальная пандемия», общая битва мира , в которой традиционные новостные организации, с их миссией защиты правды, должны играть ведущую роль. Однако битва может быть успешной только при наличии радикальных и фундаментальных мер в каждой стране и глобальных организациях.

Поддельные новости, дезинформация и особенно мошеннические действия стали теперь неизбежными последствиями и негативными аспектами, когда мир вступает в новую эру СМИ. Проще говоря, сцена больше не предназначена только для медиаагентств и цензурированных газет. Как мы знаем, взрывной рост интернета, высокотехнологичных устройств и особенно социальных сетей позволил каждому стать «журналистом», «репортером» или даже «спикером», за которым следят миллионы людей.

Социальные сети, мир без правил

У всего есть две стороны. Взрыв социальных сетей принес много преимуществ, таких как помощь информации и знаниям в быстром и широком распространении впечатляющим образом. В настоящее время информация об аварии дойдет до каждого всего за несколько минут, даже если она находится на другом конце света. Или информация о стихийных бедствиях, таких как наводнения, штормы, лесные пожары... также быстро обновляется всеми через платформы социальных сетей или распространяется, помогая эффективно распространять или предупреждать.

Однако, наряду с хорошими аспектами, социальные сети и платформы для обмена сообществами приносят тревожные последствия. Еще более пугающим является то, что в настоящее время не только люди, но и машины, и особенно бурное проникновение искусственного интеллекта (ИИ), превращают мир интернета в целом и технологические платформы в частности в место со слишком большим количеством рисков.

«Информационная пандемия» в социальных сетях

Согласно статистике, опубликованной Redline в конце июня 2024 года, в мире насчитывается 4,9 миллиарда пользователей социальных сетей. Согласно этому опросу американцев, большинство пользователей социальных сетей не доверяют точности информации, распространяемой на этих платформах, от Facebook, TikTok до YouTube. Поэтому эта организация использовала термин «инфодемия», чтобы рассказать о текущем состоянии дезинформации в социальных сетях.

Мир социальных сетей подобен первобытному лесу, в котором почти нет правил. Живя в нем, люди наслаждаются плодородием, свободой и свежестью, но вместе с этим и смертельными ловушками. До сих пор почти каждая страна борется с управлением и организацией этого «первобытного леса», даже предпринимая первые шаги по борьбе с нарушениями, в то время как этот «мир» охватил все человечество.

В конце ноября этого года Австралия стала первой страной в мире, официально введшей закон, запрещающий детям входить в увлекательный, но опасный и почти беззаконный «примитивный» мир. В частности, Австралия запретила детям до 16 лет пользоваться социальными сетями и будет вводить крупные штрафы до 32 миллионов долларов, если социальные сети нарушат закон.

В этом контексте взрыв фейковых новостей, дезинформации и особенно мошенничества в социальных сетях (а также посредством других высокотехнологичных форм, таких как программные приложения, мошеннические веб-сайты и т. д.) продолжает оставаться глобальной проблемой. Во Вьетнаме мы каждый день слышим душераздирающие истории о жертвах, которые были обмануты всеми формами мошенничества в Интернете. В мире это также проблема для любой страны.

В марте Интерпол сообщил, что кибермошенничество в Юго-Восточной Азии распространилось по всему миру, принося $3 трлн в год (примерно ВВП Франции). Даже британский технологический гигант потерял $25 млн после того, как мошенники использовали deepfakes, чтобы выдать себя за топ-менеджера и заказать денежные переводы. Это, конечно, лишь несколько примеров из миллионов кибермошенничеств.

Борьба с дезинформацией в социальных сетях — миссия невыполнима?

Хотя страны и мировые организации прилагают постоянные усилия по предотвращению или наказанию за незаконную деятельность в киберпространстве, особенно на таких крупных социальных платформах, как TikTok, Facebook или X, количество рассмотренных дел по-прежнему очень мало.

Что еще более примечательно, так это то, что до сих пор почти ни одна страна или организация не привлекала социальные сети к ответственности за правонарушения, такие как распространение ложной информации или даже нарушение закона. В мае этого года сама Meta признала, что обнаружила контент, «вероятно, созданный ИИ», который использовался для искажения или обмана на ее платформах Facebook и Instagram. Это заявление показывает, что сами социальные сети считают себя «невиновными», распространяя вредоносную информацию, иначе они бы не «признались» подобным образом.

Фактически, крупным технологическим компаниям, таким как Meta, TikTok, Google, Microsoft или X, пришлось заплатить миллиарды долларов штрафов по всему миру за свои нарушения, но они связаны только с нарушениями правил конфиденциальности пользователей или антимонопольного законодательства, и против них практически не было наказаний за то, что они допустили нарушения в своем «доме».

Самым заметным делом в этой области стал арест генерального директора Telegram Павла Дурова во Франции, обвиняемого в содействии преступной деятельности на платформе обмена сообщениями. Однако арест, который, как утверждалось, носил политический характер, был проведен тайно. Это не было похоже на публичное судебное дело против социальной сети или обычной компании. Фактически, Telegram никогда не подвергался ни одному наказанию, связанному с преступной деятельностью на платформе, хотя Организация Объединенных Наций опубликовала в октябре 2024 года отчет о том, что платформа использовалась преступными группировками для незаконных транзакций.

Мир все еще пытается справиться с проблемой фейковых новостей, дезинформации и мошенничества на платформах социальных сетей. Иллюстрация фото: IJNET

Таким образом, даже при такой очевидной незаконной деятельности, как работа с платформами социальных сетей или обмен сообщениями в сообществах, невозможно, и очевидно, что контроль над токсичным контентом, фейковыми новостями и дезинформацией еще очень далек.

Итак, платформы не только не боятся, но и все чаще демонстрируют признаки «действия на своих условиях», поощряя противоречивую, сенсационную, бессмысленную или токсичную информацию для привлечения зрителей с помощью своих все более сложных алгоритмов. Стоит отметить, что Big Tech также готовы оказать давление или оспорить любой шаг, чтобы наказать их по этому вопросу. Миллиардер Илон Маск, владелец социальной сети X, в сентябре 2024 года выразил свое несогласие с новым австралийским законопроектом, который предлагает штрафовать компании социальных сетей, если они не предотвращают дезинформацию в Интернете.

Согласно законопроекту, который все еще является австралийским, интернет-платформы могут быть оштрафованы на сумму до 5% от их мирового дохода за распространение дезинформации. Другие крупные технологические платформы, такие как Google и Meta, также выразили обеспокоенность и оспорили новый австралийский законопроект. Обратите внимание, что это также редкий законопроект в мире, в котором упоминается наказание социальных сетей за распространение дезинформации, фейковых новостей и мошеннических действий.

Если взглянуть на мир традиционных СМИ и журналистики, то этот парадокс трудно принять. Всем известно, что если газета или телеканал допустит даже небольшую профессиональную ошибку, не говоря уже о предоставлении ложной или незаконной информации, то все агентство может быть сурово наказано, и, как минимум, от него отвернутся читатели, а не только репортер или редактор, предоставивший информацию.

«Глобальная пандемия» выходит из-под контроля

Можно сказать, что проблема дезинформации, фейковых новостей, токсичных новостей и мошенничества серьезнее любой войны или пандемии, когда она может повлиять на целое поколение во всем мире, особенно на молодежь. Было проведено слишком много исследований, показывающих, как социальные сети, особенно вызывающие привыкание короткие видеофункции Facebook, TikTok или Google, вредны для физического и психического здоровья детей.

В недавнем исследовании ЮНИСЕФ обнаружил, что социальные сети созданы для того, чтобы как можно дольше удерживать внимание пользователей, эксплуатируя наши предубеждения и психологические уязвимости, такие как желание одобрения или страх быть отвергнутым. Чрезмерное использование социальных сетей связано с чувствами зависти, неполноценности и низкой удовлетворенности жизнью. Исследования даже предполагают, что эта привычка может привести к симптомам депрессии, тревожности и лишения сна, наиболее типичным из которых является психическое заболевание...

Певица Тейлор Свифт — одна из знаменитостей, которая стала жертвой ИИ-дипфейка. Фото: Герберт Ван

Вступит в силу постановление Вьетнама, обязывающее социальные сети аутентифицировать пользователей

Указ 147/2024/ND-CP об управлении, предоставлении и использовании интернет-услуг и онлайн-информации, который только что был издан правительством Вьетнама, вступит в силу с 25 декабря 2024 года. Соответственно, постановление требует, чтобы социальные сети аутентифицировали пользователей по номеру телефона или персональному идентификационному номеру, и только аутентифицированные учетные записи могут предоставлять информацию (писать статьи, комментировать, вести прямую трансляцию) и делиться информацией в социальных сетях. Ожидается, что этот указ значительно ограничит распространение фейковой и вводящей в заблуждение информации и особенно мошеннических действий в социальных сетях.

Существует множество примеров того, как дезинформация, фейковые новости и дипфейки могут серьезно повлиять на реальную жизнь и стать глобальной угрозой. В августе этого года вспыхнули беспорядки из-за ложного утверждения в социальных сетях о том, что подозреваемый в убийстве молодой девушки в Великобритании был радикальным мусульманским иммигрантом (который на самом деле был британцем). Беспорядки привели к тысячам арестов полицией.

В случае покушения на Дональда Трампа в июле 2024 года мир социальных сетей также был переполнен фейковыми новостями и теориями заговора, например, о том, что итальянский журналист считался подозреваемым (на самом деле, 20-летним американцем). Кроме того, в социальных сетях появились искажения, что подозреваемый был китайцем или что инцидент был «инсценировкой». Распространение ложной информации также усиливает ненависть ко всем конфликтам и горячим точкам в мире, таким как война России и Украины, Израиль-Палестина или проблема исламофобии, а также антисемитизм.

И все же, с взрывным развитием ИИ, борьба с дезинформацией выходит из-под контроля. Инструменты для создания дипфейков и дешевые модели ИИ распространяются без какого-либо существенного контроля.

Согласно статистике DeepMedia, количество deepfake-видео и голосов ежегодно резко возрастает. Количество deepfake-видео увеличилось более чем в 3 раза, а количество deepfake-голосов — более чем в 8 раз в 2023 году по сравнению с 2022 годом. Из них, по прогнозам, в 2024 году в социальных сетях по всему миру будет распространено около 500 000 deepfake-видео и голосов.

В начале 2024 года серия порнографических изображений певицы Тейлор Свифт, созданных с помощью искусственного интеллекта, стала вирусной в социальных сетях, вызвав переполох во всем мире. Кроме того, жертвами проблемы deepfake стали ряд политиков по всему миру, включая президента США Джо Байдена и лидеров Великобритании, Индии, Нигерии, Судана, Эфиопии и Словакии.

Таким образом, проблема фейковых новостей, дезинформации и особенно мошеннических действий в киберпространстве становится все более серьезной. В наступающую эпоху ИИ эта «глобальная пандемия» может выйти из-под контроля без совместных усилий всего мира, особенно политиков в каждой стране, по ее предотвращению.

Хоанг Хай

Источник: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html