Berhati-hati dengan imej yang dijana AI apabila keselamatan maklumat terancam

Dalam era perkembangan teknologi yang pesat, trend penggunaan kecerdasan buatan (AI) untuk mencipta imej semakin menular di platform rangkaian sosial sehingga menarik perhatian ramai pengguna khususnya golongan muda. Foto yang dihasilkan daripada AI sangat kreatif, bertujuan untuk hiburan, memperibadikan kandungan dan mengekspresikan personaliti. Walau bagaimanapun, di sebalik rayuan itu terdapat potensi risiko terhadap keselamatan dan keselamatan maklumat.

Hiburan atau potensi pencetus?

Menurut Polis Hanoi , baru-baru ini, terdapat trend menggunakan kecerdasan buatan (AI) untuk mencipta imej, menarik perhatian ramai pengguna. Walaupun terutamanya untuk tujuan hiburan, penyebaran imej ini menimbulkan banyak potensi risiko, secara langsung menjejaskan keselamatan dan keselamatan maklumat, terutamanya semasa ulang tahun ke-80 Revolusi Ogos dan Hari Kebangsaan 2 September negara.

Pada masa ini, pengguna boleh mengakses dan mencipta imej dengan mudah melalui perisian AI dan menggunakan imej ini sebagai avatar, berita dan artikel di rangkaian sosial seperti Zalo, Tiktok, Facebook, dll. Walau bagaimanapun, jika pengguna tidak berhati-hati, tidak sensitif dari segi politik dan tidak mengawal imej yang dihasilkan oleh AI, mereka mungkin menggunakan imej yang tidak tepat seperti imej peta Vietnam yang tidak mempunyai maklumat tentang kepulauan Hoang Sa dan Truong Sa; imej yang tidak sesuai untuk orang Vietnam. Menggunakan imej yang tidak tepat ini akan memberi impak besar kepada pendapat umum tentang ruang siber dan boleh membentuk persepsi palsu tentang isu kedaulatan sempadan serta sejarah dan tradisi budaya negara.

AI mencipta imej Ao Dai yang dicetak dengan peta Vietnam yang tiada Hoang Sa - kepulauan Truong Sa. (Foto: Polis Bandar Hanoi)

Seorang pengguna media sosial di Hanoi menggunakan perisian AI untuk mencipta foto ao dai dengan peta Vietnam dicetak di atasnya, kemudian menyiarkannya di TikTok untuk bertindak balas terhadap trend "kebanggaan negara". Walau bagaimanapun, imej yang dicipta oleh AI telah kehilangan kepulauan Hoang Sa dan Truong Sa. Siaran itu cepat menjadi tular, menarik ribuan tontonan dan perkongsian, tetapi turut mendapat reaksi yang kuat daripada komuniti dalam talian. Pihak berkuasa telah campur tangan, menuntut kandungan itu dikeluarkan dan memberi amaran supaya tidak menyebarkan maklumat palsu berkaitan kedaulatan negara .

Amaran daripada pihak berkuasa

Menurut Encik Vu Ngoc Son, Pengarah Teknikal Syarikat Teknologi Keselamatan Siber Kebangsaan Vietnam - NCS, sejak kebelakangan ini, aplikasi berasaskan AI dan AI telah berkembang dengan sangat kuat dalam banyak bidang kehidupan. ChatGPT sebenarnya adalah aplikasi yang mudah diakses oleh kebanyakan orang yang bukan profesional IT, jadi ia cepat menimbulkan demam.

Dari segi teknologi, ChatGPT bukanlah satu kejayaan berbanding teknologi lain yang berasaskan AI, tetapi dari segi data, ChatGPT telah sangat berjaya apabila berdasarkan sejumlah besar data dalam banyak bidang, membuatkan pengguna berasa seperti "mereka tahu segala-galanya". Itu juga tarikan ChatGPT sehingga ke tahap ini.

Dari segi keselamatan, ChatGPT sendiri dicipta untuk menyediakan perkhidmatan soal jawab, jadi risiko terbesar ialah sama ada kandungan yang dijawab oleh ChatGPT pengguna akan dikawal atau "diracun" oleh seseorang untuk menjadikan ChatGPT memberikan maklumat palsu. Pada masa ini, tiada bukti bahawa ChatGPT boleh diserang, kerana data input sedang dikawal, disaring, malah dilabel oleh manusia oleh syarikat ini, jadi risiko di atas telah terhad. Walau bagaimanapun, pada masa hadapan, apabila perkhidmatan ini terus berkembang, permintaan untuk data input tambahan meningkat secara mendadak, risiko kawalan data akan memerlukan pengilang untuk mempunyai langkah keselamatan yang lebih ketat.

Perisian AI boleh membawa banyak faedah, termasuk keupayaan untuk mencipta imej yang menarik dan kreatif, tetapi jika digunakan secara tidak bertanggungjawab, ia boleh menjadi "pedang bermata dua". Jabatan Keselamatan Siber dan Pencegahan Jenayah Berteknologi Tinggi, Polis Bandaraya Hanoi mengesyorkan supaya orang:

1. Sama sekali tidak membuat dan menggunakan imej peta atau imej Vietnam yang tidak betul, melanggar peraturan undang-undang, atau tidak konsisten dengan tradisi, adat resam dan budaya Vietnam.

2. Sentiasa berkongsi maklumat amaran dengan saudara-mara, rakan-rakan dan masyarakat untuk meningkatkan kesedaran dan mencegah plot dan muslihat kuasa musuh. Jangan biarkan subjek mengambil kesempatan daripada peristiwa politik besar negara untuk melakukan perbuatan yang menyalahi undang-undang.

3. Berhati-hati semasa memasang dan menggunakan aplikasi AI yang tidak disahkan untuk mengelakkan risiko data peribadi anda dikumpul.

4. Mempunyai rasa tanggungjawab terhadap diri sendiri dan masyarakat apabila menyertai aktiviti di rangkaian sosial.

Pelanggaran akan dikendalikan dengan ketat mengikut peruntukan undang-undang.

Sebagai pengguna, setiap individu perlu mempunyai rasa tanggungjawab yang jelas apabila menyertai alam siber. "Arah aliran yang menarik" tidak boleh ditukar dengan kejahilan atau secara tidak sengaja menyokong salah laku. Bagi media pula, tugasnya bukan sahaja untuk melaporkan berita tetapi juga untuk mengorientasikan pandangan umum, menyumbang untuk melindungi kebenaran dan nilai-nilai kebangsaan.

Sumber: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html