Atenție la imaginile generate de inteligența artificială atunci când securitatea informațiilor este amenințată

În era dezvoltării tehnologice rapide, tendința de utilizare a inteligenței artificiale (IA) pentru a crea imagini se răspândește pe platformele de socializare, atrăgând atenția multor utilizatori, în special a tinerilor. Fotografiile create cu ajutorul inteligenței artificiale sunt extrem de creative, servind scopului de divertisment, personalizării conținutului și exprimării personalității. Cu toate acestea, în spatele acestui atractiv se ascund riscuri potențiale la adresa securității și siguranței informațiilor.

Divertisment sau potențial declanșator?

Potrivit Poliției din Hanoi , recent, a existat o tendință de utilizare a inteligenței artificiale (IA) pentru a crea imagini, atrăgând atenția multor utilizatori. Deși este folosită în principal în scopuri de divertisment, răspândirea acestor imagini prezintă numeroase riscuri potențiale, afectând direct securitatea și siguranța informațiilor, în special în perioada celei de-a 80-a aniversări a Revoluției din August și a Zilei Naționale de 2 Septembrie a țării.

În prezent, utilizatorii pot accesa și crea cu ușurință imagini prin intermediul software-ului de inteligență artificială și pot utiliza aceste imagini ca avatare, știri și articole pe rețele sociale precum Zalo, Tiktok, Facebook etc. Cu toate acestea, dacă utilizatorii nu sunt atenți, insensibili din punct de vedere politic și nu controlează imaginile generate de inteligența artificială, aceștia pot utiliza imagini inexacte, cum ar fi imagini cu o hartă a Vietnamului care nu conține informații despre arhipelagurile Hoang Sa și Truong Sa; imagini care nu sunt potrivite pentru vietnamezi. Utilizarea acestor imagini inexacte va avea un impact semnificativ asupra opiniei publice în spațiul cibernetic și poate forma o percepție falsă despre problemele de suveranitate a frontierelor, precum și despre istorie și tradiții culturale naționale.

AI creează o imagine a orașului Ao Dai imprimată cu harta Vietnamului lipsă din arhipelagul Hoang Sa - Truong Sa. (Foto: Poliția orașului Hanoi)

Un utilizator de socializare din Hanoi a folosit un software de inteligență artificială pentru a crea o fotografie a unui ao dai cu o hartă a Vietnamului imprimată pe ea, apoi a postat-o pe TikTok pentru a răspunde trendului de „mândrie națională”. Cu toate acestea, din imaginea creată de inteligența artificială lipseau arhipelagurile Hoang Sa și Truong Sa. Postarea a devenit rapid virală, atrăgând mii de vizualizări și distribuiri, dar a întâmpinat și reacții puternice din partea comunității online. Autoritățile au intervenit, cerând eliminarea conținutului și avertizând împotriva răspândirii de informații false legate de suveranitatea națională.

Avertisment din partea autorităților

Potrivit domnului Vu Ngoc Son, director tehnic al Companiei Naționale de Tehnologie a Securității Cibernetice din Vietnam - NCS, în ultima vreme, inteligența artificială și aplicațiile bazate pe inteligență artificială s-au dezvoltat foarte puternic în multe domenii ale vieții. ChatGPT este de fapt o aplicație ușor accesibilă majorității persoanelor care nu sunt profesioniști IT, așa că a creat rapid febră.

În ceea ce privește tehnologia, ChatGPT nu reprezintă o inovație în comparație cu alte tehnologii existente bazate pe inteligență artificială, dar în ceea ce privește datele, ChatGPT a avut mare succes atunci când s-a bazat pe o cantitate imensă de date din multe domenii, făcând utilizatorii să simtă că „știu totul”. Aceasta este și atracția ChatGPT până în prezent.

În ceea ce privește securitatea, ChatGPT în sine a fost creat pentru a oferi un serviciu de întrebări și răspunsuri, așadar cel mai mare risc este dacă conținutul la care ChatGPT răspunde utilizatorilor va fi controlat sau „otrăvit” de cineva pentru a face ChatGPT să ofere informații false. În prezent, nu există dovezi că ChatGPT poate fi atacat, deoarece datele de intrare sunt controlate, verificate și chiar etichetate de oameni de către această companie, astfel încât riscurile menționate mai sus au fost limitate. Cu toate acestea, în viitor, când acest serviciu va continua să se extindă, cererea de date de intrare suplimentare va crește dramatic, riscurile legate de controlul datelor vor impune producătorilor să aibă măsuri de securitate mai stricte.

Software-ul de inteligență artificială poate aduce multe beneficii, inclusiv capacitatea de a crea imagini atractive și creative, dar dacă este utilizat în mod iresponsabil, poate deveni o „sabie cu două tăișuri”. Departamentul de Securitate Cibernetică și Prevenirea Criminalității de Înaltă Tehnologie din cadrul Poliției orașului Hanoi recomandă oamenilor:

1. Este absolut interzisă crearea și utilizarea imaginilor cu harta Vietnamului sau a imaginilor care sunt incorecte, încalcă reglementările legale sau sunt incompatibile cu tradițiile, obiceiurile și cultura vietnameză.

2. Distribuiți periodic informații de avertizare rudelor, prietenilor și comunității pentru a crește gradul de conștientizare și a preveni comploturile și trucurile forțelor ostile. Nu permiteți subiecților să profite de evenimentele politice majore ale țării pentru a comite acte ilegale.

3. Fiți precauți atunci când instalați și utilizați aplicații de inteligență artificială neverificate pentru a evita riscul colectării datelor dumneavoastră personale.

4. Ai un simț al responsabilității față de tine și față de comunitate atunci când participi la activități pe rețelele de socializare.

Încălcările vor fi tratate cu strictețe conform prevederilor legale.

Ca utilizator, fiecare individ trebuie să aibă un simț clar al responsabilității atunci când participă la spațiul cibernetic. „A surprinde tendințele” nu ar trebui să fie înlocuită cu ignoranța sau cu susținerea neintenționată a unor fapte rele. În ceea ce privește mass-media, sarcina nu este doar de a relata știri, ci și de a orienta opinia publică, contribuind la protejarea adevărului și a valorilor naționale.

Sursă: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html