Waspadai gambar yang dihasilkan AI saat keamanan informasi terancam

Di era perkembangan teknologi yang pesat, tren penggunaan kecerdasan buatan (AI) untuk menciptakan gambar semakin marak di platform media sosial, menarik perhatian banyak pengguna, terutama anak muda. Foto-foto hasil AI sangat kreatif, dapat digunakan sebagai hiburan, mempersonalisasi konten, dan mengekspresikan kepribadian. Namun, di balik daya tarik tersebut terdapat potensi risiko terhadap keamanan dan keselamatan informasi.

Hiburan atau pemicu potensial?

Menurut Kepolisian Hanoi , belakangan ini, tren penggunaan kecerdasan buatan (AI) untuk membuat gambar sedang marak, yang menarik perhatian banyak pengguna. Meskipun utamanya untuk tujuan hiburan, penyebaran gambar-gambar ini menimbulkan banyak potensi risiko, yang secara langsung memengaruhi keamanan dan keselamatan informasi, terutama selama peringatan 80 tahun Revolusi Agustus dan Hari Nasional 2 September di negara tersebut.

Saat ini, pengguna dapat dengan mudah mengakses dan membuat gambar melalui perangkat lunak AI, serta menggunakannya sebagai avatar, berita, dan artikel di media sosial seperti Zalo, TikTok, Facebook, dll. Namun, jika pengguna tidak berhati-hati, tidak peka politik , dan tidak mengontrol gambar yang dihasilkan oleh AI, mereka dapat menggunakan gambar yang tidak akurat, seperti gambar peta Vietnam yang tidak memberikan informasi lengkap tentang kepulauan Hoang Sa dan Truong Sa; gambar yang tidak pantas bagi orang Vietnam. Penggunaan gambar yang tidak akurat ini akan berdampak besar pada opini publik di dunia maya dan dapat membentuk persepsi yang salah tentang isu kedaulatan perbatasan, sejarah, dan tradisi budaya nasional.

AI menciptakan citra Ao Dai yang dicetak dengan peta Vietnam yang hilang dari kepulauan Hoang Sa - Truong Sa. (Foto: Kepolisian Kota Hanoi)

Seorang pengguna media sosial di Hanoi menggunakan perangkat lunak AI untuk membuat foto ao dai bergambar peta Vietnam, lalu mengunggahnya di TikTok untuk menanggapi tren "kebanggaan nasional". Namun, gambar yang dibuat oleh AI tersebut tidak menampilkan kepulauan Hoang Sa dan Truong Sa. Unggahan tersebut dengan cepat menjadi viral, menarik ribuan tayangan dan dibagikan, tetapi juga menuai reaksi keras dari komunitas daring. Pihak berwenang telah turun tangan, menuntut konten tersebut dihapus dan memperingatkan agar tidak menyebarkan informasi palsu terkait kedaulatan nasional.

Peringatan dari pihak berwenang

Menurut Bapak Vu Ngoc Son, Direktur Teknis Perusahaan Teknologi Keamanan Siber Nasional Vietnam - NCS, belakangan ini, AI dan aplikasi berbasis AI telah berkembang pesat di berbagai bidang kehidupan. ChatGPT sebenarnya merupakan aplikasi yang mudah diakses oleh kebanyakan orang yang bukan profesional TI, sehingga dengan cepat menjadi tren.

Dari segi teknologi, ChatGPT bukanlah terobosan dibandingkan teknologi berbasis AI lainnya yang sudah ada. Namun, dari segi data, ChatGPT sangat sukses karena berbasis pada data dalam jumlah besar di berbagai bidang, membuat pengguna merasa "tahu segalanya". Hal inilah yang menjadi daya tarik ChatGPT hingga saat ini.

Dari segi keamanan, ChatGPT sendiri diciptakan untuk menyediakan layanan tanya jawab, sehingga risiko terbesarnya adalah apakah konten yang dijawab pengguna oleh ChatGPT akan dikontrol atau "diracuni" oleh seseorang agar ChatGPT memberikan informasi palsu. Saat ini, belum ada bukti bahwa ChatGPT dapat diserang, karena data input dikontrol, disaring, dan bahkan diberi label oleh manusia oleh perusahaan ini, sehingga risiko-risiko di atas telah dibatasi. Namun, di masa mendatang, ketika layanan ini terus berkembang dan permintaan akan data input tambahan meningkat drastis, risiko kontrol data akan mengharuskan produsen untuk menerapkan langkah-langkah keamanan yang lebih ketat.

Perangkat lunak AI dapat memberikan banyak manfaat, termasuk kemampuan untuk menciptakan gambar yang menarik dan kreatif, tetapi jika digunakan secara tidak bertanggung jawab, AI dapat menjadi "pedang bermata dua". Departemen Keamanan Siber dan Pencegahan Kejahatan Berteknologi Tinggi, Kepolisian Kota Hanoi, merekomendasikan agar masyarakat:

1. Jangan sekali-kali membuat dan menggunakan gambar peta Vietnam atau gambar yang tidak benar, melanggar peraturan hukum, atau tidak sesuai dengan tradisi, adat istiadat, dan budaya Vietnam.

2. Secara berkala bagikan informasi peringatan kepada keluarga, teman, dan masyarakat untuk meningkatkan kewaspadaan dan mencegah rencana jahat serta tipu daya pihak-pihak yang bermusuhan. Jangan biarkan warga memanfaatkan peristiwa politik besar di negara ini untuk melakukan tindakan ilegal.

3. Berhati-hatilah saat memasang dan menggunakan aplikasi AI yang belum terverifikasi untuk menghindari risiko pengumpulan data pribadi Anda.

4. Memiliki rasa tanggung jawab terhadap diri sendiri dan masyarakat saat berpartisipasi dalam kegiatan di media sosial.

Pelanggaran akan ditangani secara tegas sesuai ketentuan hukum.

Sebagai pengguna, setiap individu perlu memiliki rasa tanggung jawab yang jelas saat berpartisipasi di dunia maya. "Menangkap tren" tidak boleh ditukar dengan ketidaktahuan atau dukungan yang tidak disengaja terhadap tindakan yang salah. Sedangkan bagi media, tugasnya bukan hanya melaporkan berita, tetapi juga mengarahkan opini publik, berkontribusi dalam melindungi kebenaran dan nilai-nilai kebangsaan.

Sumber: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html