Uważaj na obrazy generowane przez sztuczną inteligencję, gdy zagrożone jest bezpieczeństwo informacji

W dobie szybkiego rozwoju technologicznego, trend wykorzystywania sztucznej inteligencji (AI) do tworzenia obrazów rozprzestrzenia się na platformach społecznościowych, przyciągając uwagę wielu użytkowników, zwłaszcza młodych. Zdjęcia tworzone za pomocą AI są niezwykle kreatywne, służąc rozrywce, personalizacji treści i wyrażaniu osobowości. Jednak za tą atrakcyjnością kryją się potencjalne zagrożenia dla bezpieczeństwa i ochrony informacji.

Rozrywka czy potencjalny wyzwalacz?

Według policji w Hanoi , ostatnio obserwuje się trend wykorzystywania sztucznej inteligencji (AI) do tworzenia obrazów, które przyciągają uwagę wielu użytkowników. Choć służą one głównie rozrywce, rozpowszechnianie tych obrazów stwarza wiele potencjalnych zagrożeń, bezpośrednio wpływając na bezpieczeństwo informacji, zwłaszcza w okresie 80. rocznicy rewolucji sierpniowej i Święta Narodowego 2 września.

Obecnie użytkownicy mogą łatwo uzyskiwać dostęp do obrazów i tworzyć je za pomocą oprogramowania AI, a następnie wykorzystywać je jako awatary, wiadomości i artykuły w sieciach społecznościowych, takich jak Zalo, TikTok, Facebook itp. Jednak jeśli użytkownicy nie będą ostrożni, nie będą politycznie wrażliwi i nie będą kontrolować obrazów generowanych przez AI, mogą używać nieprecyzyjnych obrazów, takich jak mapy Wietnamu pozbawione informacji o archipelagach Hoang Sa i Truong Sa; obrazów nieodpowiednich dla Wietnamczyków. Korzystanie z tych nieprecyzyjnych obrazów będzie miało ogromny wpływ na opinię publiczną w cyberprzestrzeni i może wytworzyć fałszywe wyobrażenie na temat kwestii suwerenności granicznej, a także historii i narodowych tradycji kulturowych.

Sztuczna inteligencja tworzy obraz Ao Dai wydrukowany na mapie Wietnamu, bez archipelagu Hoang Sa – Truong Sa. (Zdjęcie: Policja Miasta Hanoi)

Użytkownik mediów społecznościowych w Hanoi wykorzystał sztuczną inteligencję do stworzenia zdjęcia ao dai z nadrukowaną mapą Wietnamu, a następnie opublikował je na TikToku, odpowiadając na trend „dumy narodowej”. Jednak na obrazie stworzonym przez sztuczną inteligencję brakowało archipelagów Hoang Sa i Truong Sa. Post szybko stał się viralem, gromadząc tysiące wyświetleń i udostępnień, ale spotkał się również z ostrą reakcją społeczności internetowej. Władze interweniowały, żądając usunięcia treści i ostrzegając przed rozpowszechnianiem fałszywych informacji dotyczących suwerenności narodowej.

Ostrzeżenie władz

Według Vu Ngoc Sona, dyrektora technicznego wietnamskiej Narodowej Firmy Technologii Cyberbezpieczeństwa – NCS, w ostatnim czasie sztuczna inteligencja i aplikacje oparte na niej rozwijają się bardzo dynamicznie w wielu dziedzinach życia. ChatGPT to aplikacja, do której dostęp ma większość osób spoza branży IT, co szybko wywołało falę krytyki.

Pod względem technologicznym ChatGPT nie jest przełomem w porównaniu z innymi istniejącymi technologiami opartymi na sztucznej inteligencji, ale pod względem danych, ChatGPT odniósł duży sukces, bazując na ogromnej ilości danych z wielu dziedzin, dając użytkownikom poczucie, że „wiedzą wszystko”. To właśnie stanowi atrakcyjność ChatGPT do tej pory.

Pod względem bezpieczeństwa, ChatGPT został stworzony z myślą o świadczeniu usługi pytań i odpowiedzi, więc największym ryzykiem jest to, czy treść, na którą ChatGPT odpowiada użytkownikom, będzie kontrolowana lub „zatruta” przez kogoś, aby zmusić ChatGPT do podawania fałszywych informacji. Obecnie nie ma dowodów na to, że ChatGPT może zostać zaatakowany, ponieważ dane wejściowe są kontrolowane, filtrowane, a nawet oznaczane przez ludzi, przez tę firmę, więc powyższe zagrożenia zostały ograniczone. Jednak w przyszłości, wraz z rozwojem tej usługi, zapotrzebowanie na dodatkowe dane wejściowe drastycznie wzrośnie, a ryzyko związane z kontrolą danych będzie wymagało od producentów stosowania bardziej rygorystycznych środków bezpieczeństwa.

Oprogramowanie AI może przynieść wiele korzyści, w tym możliwość tworzenia atrakcyjnych, kreatywnych obrazów, ale jeśli jest używane nieodpowiedzialnie, może stać się „mieczem obosiecznym”. Departament Cyberbezpieczeństwa i Zapobiegania Przestępczości z Wykorzystaniem Technologii Policji Miasta Hanoi zaleca:

1. Absolutnie nie wolno tworzyć i używać obrazów mapy Wietnamu ani obrazów, które są nieprawidłowe, naruszają przepisy prawne lub są niezgodne z wietnamskimi tradycjami, zwyczajami i kulturą.

2. Regularnie przekazuj informacje ostrzegawcze krewnym, przyjaciołom i społeczności, aby podnosić świadomość i zapobiegać spiskom i intrygom wrogich sił. Nie pozwól, aby obywatele wykorzystywali ważne wydarzenia polityczne w kraju do popełniania czynów niezgodnych z prawem.

3. Zachowaj ostrożność podczas instalowania i używania niezweryfikowanych aplikacji AI, aby uniknąć ryzyka gromadzenia Twoich danych osobowych.

4. Uczestnicząc w aktywnościach na portalach społecznościowych, miej poczucie odpowiedzialności wobec siebie i społeczności.

Naruszenia będą rozpatrywane zgodnie z przepisami prawa.

Jako użytkownik, każda jednostka musi mieć jasne poczucie odpowiedzialności, uczestnicząc w cyberprzestrzeni. „Łapanie trendów” nie powinno oznaczać ignorancji ani nieumyślnego wspierania nadużyć. Zadaniem mediów jest nie tylko przekazywanie informacji, ale także kształtowanie opinii publicznej, przyczyniając się do ochrony prawdy i wartości narodowych.

Source: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html