Se upp för AI-genererade bilder när informationssäkerheten är hotad

I en tid av snabb teknisk utveckling sprider sig trenden att använda artificiell intelligens (AI) för att skapa bilder på sociala nätverksplattformar, vilket lockar många användares uppmärksamhet, särskilt unga människor. Foton som skapas med AI är mycket kreativa och tjänar som underhållning, personifierar innehåll och uttrycker personlighet. Bakom denna dragningskraft finns dock potentiella risker för säkerhet och informationssäkerhet.

Underhållning eller potentiell utlösare?

Enligt polisen i Hanoi har det nyligen funnits en trend att använda artificiell intelligens (AI) för att skapa bilder, vilket lockar många användares uppmärksamhet. Även om spridningen av dessa bilder främst används i underhållningssyfte, innebär den många potentiella risker som direkt påverkar informationssäkerheten, särskilt under 80-årsdagen av augustirevolutionen och landets nationaldag den 2 september.

För närvarande kan användare enkelt komma åt och skapa bilder via AI-programvara och använda dessa bilder som avatarer, nyheter och artiklar på sociala nätverk som Zalo, Tiktok, Facebook etc. Men om användare inte är försiktiga, politiskt okänsliga och inte kontrollerar bilderna som genereras av AI, kan de använda felaktiga bilder, såsom bilder av en karta över Vietnam som saknar information om Hoang Sa- och Truong Sa-arkipelagerna; bilder som inte är lämpliga för vietnameser. Att använda dessa felaktiga bilder kommer att påverka den allmänna opinionen i cyberrymden i hög grad och kan skapa en felaktig uppfattning om gränssuveränitetsfrågor samt historia och nationella kulturella traditioner.

AI skapar bild av Ao Dai utskriven med en saknad Vietnamkarta över Hoang Sa-Truong Sa-arkipelagen. (Foto: Hanoi City Police)

En användare av sociala medier i Hanoi använde AI-programvara för att skapa ett foto av en ao dai med en karta över Vietnam tryckt på, och publicerade det sedan på TikTok som ett svar på trenden med "nationell stolthet". Bilden som skapades av AI saknade dock skärgårdarna Hoang Sa och Truong Sa. Inlägget blev snabbt viralt och lockade tusentals visningar och delningar, men mötte också starka reaktioner från onlinecommunityn. Myndigheterna har ingripit och krävt att innehållet tas bort och varnat för att sprida falsk information relaterad till nationell suveränitet .

Varning från myndigheterna

Enligt Vu Ngoc Son, teknisk chef för Vietnam National Cyber Security Technology Company - NCS, har AI och AI-baserade applikationer utvecklats mycket starkt inom många områden i livet på senare tid. ChatGPT är faktiskt en applikation som är lättillgänglig för de flesta som inte är IT-proffs, så den skapade snabbt en feber.

Teknikmässigt är ChatGPT inte ett genombrott jämfört med andra befintliga AI-baserade teknologier, men datamässigt har ChatGPT varit mycket framgångsrikt när det baseras på en enorm mängd data inom många områden, vilket får användarna att känna att "de vet allt". Det är också det som hittills har lockat ChatGPT.

Säkerhetsmässigt skapades ChatGPT för att tillhandahålla en fråge- och svarstjänst, så den största risken är om innehållet som ChatGPT svarar användare på kommer att kontrolleras eller "förgiftas" av någon för att få ChatGPT att tillhandahålla falsk information. För närvarande finns det inga bevis för att ChatGPT kan attackeras, eftersom indata kontrolleras, granskas och till och med märks av människor av detta företag, så ovanstående risker har begränsats. Men i framtiden, när denna tjänst fortsätter att expandera, ökar efterfrågan på ytterligare indata dramatiskt, och riskerna med datakontroll kommer att kräva att tillverkare har strängare säkerhetsåtgärder.

AI-programvara kan ge många fördelar, inklusive möjligheten att skapa attraktiva, kreativa bilder, men om den används oansvarigt kan den bli ett "tvåeggat svärd". Avdelningen för cybersäkerhet och högteknologisk brottsförebyggande åtgärder vid Hanoi stadspolis rekommenderar att man:

1. Skapa och använd absolut inte bilder av Vietnams karta eller bilder som är felaktiga, bryter mot lagar eller är oförenliga med vietnamesiska traditioner, seder och kultur.

2. Dela regelbundet varningsinformation med släktingar, vänner och samhället för att öka medvetenheten och förhindra komplotter och trick från fientliga styrkor. Låt inte undersåtar utnyttja större politiska händelser i landet för att begå olagliga handlingar.

3. Var försiktig när du installerar och använder overifierade AI-applikationer för att undvika risken att dina personuppgifter samlas in.

4. Ha en känsla av ansvar gentemot dig själv och gemenskapen när du deltar i aktiviteter på sociala nätverk.

Överträdelser kommer att hanteras strikt i enlighet med lagens bestämmelser.

Som användare behöver varje individ ha en tydlig ansvarskänsla när de deltar i cyberrymden. Att "fånga trender" bör inte bytas mot okunskap eller att oavsiktligt stödja felaktigheter. När det gäller media är uppgiften inte bara att rapportera nyheter utan också att vägleda den allmänna opinionen och bidra till att skydda sanningen och nationella värderingar.

Källa: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html