Остерегайтесь изображений, созданных искусственным интеллектом, когда информационная безопасность находится под угрозой

Тенденция создания изображений с использованием ИИ распространяется, что может привести к искажению информации, повлиять на безопасность сетей и национальный суверенитет во время крупных праздников.

В эпоху стремительного развития технологий тенденция использования искусственного интеллекта (ИИ) для создания изображений распространяется в социальных сетях, привлекая внимание многих пользователей, особенно молодёжи. Фотографии, созданные с помощью ИИ, отличаются высокой креативностью, служат для развлечения, персонализации контента и выражения индивидуальности. Однако за этой привлекательностью скрываются потенциальные риски для безопасности и сохранности информации.

Развлечение или потенциальный триггер?

По данным полиции Ханоя , в последнее время наблюдается тенденция использования искусственного интеллекта (ИИ) для создания изображений, что привлекает внимание многих пользователей. Хотя эти изображения используются преимущественно в развлекательных целях, их распространение создаёт множество потенциальных рисков, напрямую влияющих на информационную безопасность, особенно в период 80-летия Августовской революции и Национального дня страны 2 сентября.

В настоящее время пользователи могут легко получать доступ к изображениям и создавать их с помощью программного обеспечения на основе искусственного интеллекта, а также использовать их в качестве аватаров, новостей и статей в социальных сетях, таких как Zalo, TikTok, Facebook и др. Однако, если пользователи не проявляют осторожность, политически нечувствительны и не контролируют изображения, генерируемые искусственным интеллектом, они могут использовать неточные изображения, например, изображения карты Вьетнама, не содержащие информации об архипелагах Хоангша и Чыонгша; изображения, неподходящие для вьетнамцев. Использование таких неточных изображений окажет значительное влияние на общественное мнение в киберпространстве и может сформировать ложное представление о вопросах суверенитета на границах, а также об истории и национальных культурных традициях.

ИИ создаёт изображение аозай, напечатанное на карте Вьетнама, на которой отсутствует архипелаг Хоангша и Чыонгша. (Фото: Полиция города Ханой)

Пользователь социальных сетей в Ханое с помощью искусственного интеллекта создал фотографию аозай с напечатанной на нём картой Вьетнама, а затем опубликовал её в TikTok, откликнувшись на тренд «национальной гордости». Однако на снимке, созданном с помощью искусственного интеллекта, отсутствовали архипелаги Хоангша и Чыонгша. Публикация быстро стала вирусной, собрав тысячи просмотров и репостов, но также вызвала бурную реакцию в интернет-сообществе. Власти вмешались, потребовав удаления контента и предупредив о недопустимости распространения ложной информации, касающейся национального суверенитета .

Предупреждение от властей

По словам г-на Ву Нгок Сона, технического директора Вьетнамской национальной компании по технологиям кибербезопасности (NCS), в последнее время искусственный интеллект и приложения на его основе активно развиваются во многих сферах жизни. ChatGPT — это приложение, доступное большинству людей, не являющихся IT-специалистами, поэтому оно быстро вызвало ажиотаж.

С точки зрения технологий ChatGPT не является прорывом по сравнению с другими существующими технологиями на основе искусственного интеллекта, но с точки зрения обработки данных ChatGPT оказался весьма успешным, опираясь на огромный объём данных из самых разных областей, создавая у пользователей ощущение, что они «знают всё». В этом и заключается привлекательность ChatGPT на сегодняшний день.

С точки зрения безопасности, ChatGPT был создан как сервис вопросов и ответов, поэтому наибольший риск заключается в том, что контент, на который ChatGPT отвечает пользователям, будет контролироваться или «отравлен» кем-то, чтобы заставить ChatGPT предоставлять ложную информацию. В настоящее время нет никаких доказательств того, что ChatGPT может быть атакован, поскольку входные данные контролируются, проверяются и даже маркируются людьми этой компанией, поэтому вышеуказанные риски ограничены. Однако в будущем, когда этот сервис продолжит расширяться, спрос на дополнительные входные данные резко возрастёт, и риски, связанные с контролем данных, потребуют от производителей более строгих мер безопасности.

Программное обеспечение на основе искусственного интеллекта может принести множество преимуществ, включая возможность создавать привлекательные и креативные изображения, но при безответственном использовании оно может стать «палкой о двух концах». Департамент кибербезопасности и предотвращения преступлений в сфере высоких технологий полиции города Ханой рекомендует:

1. Категорически не создавайте и не используйте изображения карты Вьетнама или изображения, которые являются неверными, нарушают правовые нормы или не соответствуют вьетнамским традициям, обычаям и культуре.

2. Регулярно делитесь предупреждающей информацией с родственниками, друзьями и местным сообществом, чтобы повысить осведомлённость и предотвратить заговоры и проделки враждебных сил. Не позволяйте субъектам использовать важные политические события в стране для совершения противоправных действий.

3. Будьте осторожны при установке и использовании непроверенных приложений ИИ, чтобы избежать риска сбора ваших персональных данных.

4. Имейте чувство ответственности перед собой и обществом, участвуя в мероприятиях в социальных сетях.

Нарушения будут строго пресекаться в соответствии с положениями закона.

Каждый пользователь должен чётко осознавать свою ответственность, участвуя в киберпространстве. «Уловка трендов» не должна обернуться невежеством или непреднамеренной поддержкой правонарушений. Что касается СМИ, то их задача — не только сообщать новости, но и формировать общественное мнение, способствуя защите истины и национальных ценностей.

Источник: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html