Polis Bandaraya Ho Chi Minh: Berhati-hati dengan 'sisi gelap' teknologi penciptaan video AI Veo 3

Walaupun tiada kes penipuan yang direkodkan oleh teknologi penciptaan video Veo 3 AI, Polis Bandaraya Ho Chi Minh mengesyorkan agar orang ramai berwaspada kerana teknologi ini boleh dieksploitasi oleh orang jahat untuk melakukan perbuatan yang menyalahi undang-undang.

Teknologi AI penjanaan video baharu menawarkan banyak peluang untuk pengguna tetapi juga menimbulkan risiko

Pada 9 Julai, Polis Bandaraya Ho Chi Minh berkata bahawa melalui kerja menerima laporan dan mengecam jenayah, tiada kes penipuan direkodkan oleh teknologi penciptaan video AI ​​Veo 3. Namun, orang ramai juga perlu berwaspada kerana selain aspek positif, teknologi ini boleh dieksploitasi oleh orang jahat untuk melakukan perbuatan yang menyalahi undang-undang.

Menurut Jabatan Keselamatan Siber dan Pencegahan Jenayah Berteknologi Tinggi (PA05) Polis Bandaraya Ho Chi Minh, aplikasi AI generatif - juga dikenali sebagai AI buatan (seperti Swapface, SoraAI, ChatGPT, Deepseek...) yang membolehkan pengguna mencipta video, imej, strim langsung dengan perubahan suara dan perubahan wajah telah menjadi semakin popular.

Pada penghujung Mei 2025, Google mengeluarkan Google Veo 3, teknologi penciptaan video AI baharu yang menyebabkan demam pada platform rangkaian sosial popular seperti Facebook, X... dengan keupayaan untuk mencipta imej, kandungan dan pergerakan kedua-dua watak dan latar belakang, terutamanya keupayaan untuk mencipta kesan bunyi dan alih suara secara automatik atas permintaan, menyukarkan ramai penonton untuk membezakan sama ada ia adalah produk AI.

Selain kesan positif (potensi besar dalam penciptaan kandungan, pendidikan , pawagam, media...), teknologi ini boleh dieksploitasi oleh subjek untuk melakukan perbuatan yang menyalahi undang-undang.

Sebagai contoh, daripada imej seseorang, orang jahat boleh memanfaatkan teknologi Veo 3 untuk "mengekstrak" secara automatik banyak maklumat penting seperti: wajah pemilik foto; lokasi geografi di mana orang dalam foto sering melawat; produk dan perkhidmatan yang sering digunakan; tabiat hidup... dengan itu mencipta semula wajah dan suara dengan hanya imej dan bunyi yang diambil dari alam siber; dari sini mencipta "salinan digital" yang realistik.

Helah biasa penipu yang menggunakan teknologi AI ialah selepas mencipta "salinan digital", mereka akan meminta seseorang menyamar sebagai saudara atau agensi kerajaan (polis, mahkamah, pejabat pendakwa, pejabat cukai, hospital, dll.) untuk membuat panggilan video untuk meminta mereka melakukan seperti yang diminta atau berpura-pura panik dan meminta bantuan kecemasan untuk mengeksploitasi kebimbangan mangsa; apabila mangsa telah memindahkan wang, penipu terus "hilang".

Selain itu, orang jahat juga boleh menggunakan alat ini untuk tujuan haram lain seperti: kandungan lucah, menyebarkan maklumat palsu... untuk memeras harta benda.

Menurut PA05, pada masa akan datang, orang jahat masih akan mengambil kesempatan daripada perkembangan sains dan teknologi untuk mengeksploitasi, mengendali dan melakukan perbuatan yang menyalahi undang-undang. Sementara itu, pengetahuan dan kesedaran rakyat tentang pengenalan, pencegahan diri dan kewaspadaan masih terhad.

Bagi meningkatkan keberkesanan usaha membanteras kegiatan penipuan pengagihan aset di alam siber pada masa akan datang, Polis Bandaraya akan terus melaporkan kepada Kementerian Keselamatan Awam untuk menasihati Parti dan Negara supaya melengkapkan koridor undang-undang, kerja-kerja pengurusan keselamatan dan ketenteraman negeri, kerja-kerja menggerakkan rakyat untuk mengambil bahagian dalam pergerakan seluruh rakyat melindungi keselamatan negara di peringkat meningkatkan kesedaran dan kewaspadaan di peringkat akar umbi. aktiviti penipuan mengagihkan aset di alam siber.

Di samping itu, Polis Bandaraya Ho Chi Minh mengesyorkan perkara berikut kepada orang ramai:

Berwaspada terhadap mesej dan panggilan daripada nombor yang tidak dikenali dengan kandungan tentang situasi yang tidak dijangka; semak, sahkan dan tentukan ketepatan maklumat dengan teliti; sama sekali tidak mendengar, tidak mengikut arahan, jangan pindahkan wang seperti yang diminta oleh orang jahat, jangan akses pautan yang tidak diketahui asalnya dihantar dalam mesej, e-mel, dsb.

Hadkan penyiaran kandungan yang berkaitan dengan maklumat peribadi pada platform rangkaian sosial awam... untuk mengelakkan kes di mana orang jahat mencuri maklumat seperti imej, video, suara; pada masa yang sama, tetapkan akaun rangkaian sosial peribadi kepada mod peribadi untuk melindungi maklumat; hanya memasang aplikasi dalam talian daripada sumber rasmi sistem pengendalian telefon (CH Play, AppStore).

Sekiranya mendapati penipuan atau mengesyaki penipuan menggunakan helah di atas, anda perlu segera melaporkan kepada agensi polis terdekat untuk mendapatkan sokongan dan penyelesaian tepat pada masanya.

DAN THUAN - CHAU TUAN

Sumber: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm