Vær oppmerksom på AI-genererte bilder når informasjonssikkerheten er truet

I en tid med rask teknologisk utvikling sprer trenden med å bruke kunstig intelligens (KI) til å lage bilder seg på sosiale nettverksplattformer, noe som tiltrekker seg oppmerksomheten til mange brukere, spesielt unge mennesker. Bilder laget med KI er svært kreative, tjener som underholdning, personliggjør innhold og uttrykker personlighet. Bak denne appellen ligger imidlertid potensielle risikoer for sikkerhet og informasjonstrygghet.

Underholdning eller potensiell trigger?

Ifølge politiet i Hanoi har det nylig vært en trend å bruke kunstig intelligens (KI) til å lage bilder, noe som har tiltrukket seg oppmerksomheten til mange brukere. Selv om det hovedsakelig er til underholdningsformål, utgjør spredningen av disse bildene mange potensielle risikoer, som direkte påvirker informasjonssikkerhet og -trygghet, spesielt under 80-årsjubileet for augustrevolusjonen og landets nasjonaldag 2. september.

For tiden kan brukere enkelt få tilgang til og lage bilder gjennom AI-programvare og bruke disse bildene som avatarer, nyheter og artikler på sosiale nettverk som Zalo, Tiktok, Facebook osv. Men hvis brukerne ikke er forsiktige, politisk ufølsomme og ikke kontrollerer bildene generert av AI, kan de bruke unøyaktige bilder, for eksempel bilder av et kart over Vietnam som mangler informasjon om Hoang Sa- og Truong Sa-øygruppene; bilder som ikke er egnet for vietnamesere. Bruk av disse unøyaktige bildene vil i stor grad påvirke opinionen i cyberspace og kan danne en falsk oppfatning av grensesuverenitetsspørsmål samt historie og nasjonale kulturelle tradisjoner.

AI lager bilde av Ao Dai trykt med et Vietnam-kart som mangler. Hoang Sa - Truong Sa-øygruppen. (Foto: Hanoi bypoliti)

En bruker av sosiale medier i Hanoi brukte AI-programvare til å lage et bilde av en ao dai med et kart over Vietnam trykt på, og la det deretter ut på TikTok som svar på trenden med «nasjonal stolthet». Bildet som AI laget manglet imidlertid Hoang Sa- og Truong Sa-øygruppene. Innlegget gikk raskt viralt, tiltrakk seg tusenvis av visninger og delinger, men møtte også sterke reaksjoner fra nettsamfunnet. Myndighetene har grepet inn og krevd at innholdet fjernes og advart mot å spre falsk informasjon knyttet til nasjonal suverenitet .

Advarsel fra myndighetene

Ifølge Vu Ngoc Son, teknisk direktør i Vietnam National Cyber Security Technology Company - NCS, har AI og AI-baserte applikasjoner i den senere tid utviklet seg veldig sterkt på mange områder av livet. ChatGPT er faktisk en applikasjon som er lett tilgjengelig for folk flest som ikke er IT-fagfolk, så den skapte raskt feber.

Teknologisk sett er ikke ChatGPT et gjennombrudd sammenlignet med andre eksisterende AI-baserte teknologier, men datamessig har ChatGPT vært svært vellykket når den er basert på en enorm mengde data på mange felt, noe som får brukerne til å føle at «de vet alt». Det er også det som er tiltrekningskraften til ChatGPT frem til nå.

Når det gjelder sikkerhet, ble ChatGPT i seg selv opprettet for å tilby en spørsmål-og-svar-tjeneste, så den største risikoen er om innholdet som ChatGPT svarer brukerne på vil bli kontrollert eller "forgiftet" av noen for å få ChatGPT til å gi falsk informasjon. For øyeblikket finnes det ingen bevis for at ChatGPT kan angripes, fordi inndataene kontrolleres, screenes og til og med merkes av mennesker av dette selskapet, så risikoene ovenfor har vært begrenset. Men i fremtiden, når denne tjenesten fortsetter å utvide seg, øker etterspørselen etter ytterligere inndata dramatisk, og risikoen for datakontroll vil kreve at produsenter har strengere sikkerhetstiltak.

AI-programvare kan gi mange fordeler, inkludert muligheten til å lage attraktive, kreative bilder, men hvis den brukes uansvarlig, kan den bli et «tvevd sverd». Hanoi bypoliti anbefaler at folk:

1. Det er absolutt ikke tillatt å lage og bruke bilder av Vietnams kart eller bilder som er feil, bryter med lovbestemmelser eller er i strid med vietnamesiske tradisjoner, skikker og kultur.

2. Del regelmessig varslingsinformasjon med slektninger, venner og lokalsamfunnet for å øke bevisstheten og forhindre komplotter og triks fra fiendtlige styrker. Ikke la undersåtter utnytte store politiske hendelser i landet til å begå ulovlige handlinger.

3. Vær forsiktig når du installerer og bruker ubekreftede AI-applikasjoner for å unngå risikoen for at personopplysningene dine blir samlet inn.

4. Ha en følelse av ansvar overfor deg selv og samfunnet når du deltar i aktiviteter på sosiale nettverk.

Brudd vil bli håndtert strengt i henhold til lovens bestemmelser.

Som bruker må hver enkelt ha en klar ansvarsfølelse når de deltar i cyberspace. Å «fange trender» bør ikke byttes mot uvitenhet eller utilsiktet støtte til urettmessige handlinger. Når det gjelder media, er oppgaven ikke bare å rapportere nyheter, men også å orientere opinionen, og bidra til å beskytte sannheten og nasjonale verdier.

Kilde: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html