Anak-anak berisiko menjadi korban AI ketika orang tua mengunggah foto secara online

Ledakan informasi dan koneksi di jejaring sosial khususnya dan internet secara umum telah membuat banyak orang terbiasa berbagi semua emosi dan peristiwa dalam kehidupan pribadi mereka di internet tanpa mengantisipasi bahayanya. Tak hanya mengunggah foto dan video diri sendiri secara daring, banyak orang dewasa juga memberi diri mereka hak untuk mengunggah konten yang memuat wajah atau suara anak-anak tanpa izin. Setelah foto dan video ini muncul daring, siapa pun yang memiliki akses dapat menggunakannya tanpa batasan apa pun.

Juli lalu, operator jaringan Jerman Deutsche Telekom merilis iklan tiruan yang menunjukkan bagaimana gambar anak-anak dapat disalahgunakan secara daring, menggunakan AI (kecerdasan buatan) untuk berbagai tujuan. Berjudul "Pesan dari Ella" , klip tersebut menggunakan AI dan Deepfake untuk membuat versi dewasa dari gambar dan video Ella kecil yang diunggah daring oleh orang tuanya.

'Ella Dewasa' diciptakan oleh AI dari gambar media sosial Ella berusia 9 tahun dalam video peringatan Deutsche Telekom

"AI Ella" dapat bergerak dan berbicara seperti manusia sungguhan, membuat orang tuanya terkejut ketika melihat putri mereka di layar lebar bioskop. Ia bahkan dapat menangis dan mengekspresikan dirinya seperti manusia.

"Saya tahu bagi Anda, foto-foto ini adalah kenangan. Tapi bagi yang lain, ini adalah data. Dan bagi saya, ini bisa menjadi awal dari masa depan yang sangat buruk di mana identitas saya bisa dicuri, saya bisa dipenjara karena hal-hal yang tidak saya lakukan... Apa yang Anda bagikan daring adalah tonggak-tonggak digital yang akan mengikuti saya seumur hidup," ungkap karakter AI Ella.

Hanya dengan satu foto yang dibagikan, AI dapat menciptakan versi dewasa seorang gadis berusia 9 tahun. Deepfake memisahkan suara dari video dan mengubahnya menjadi suara dewasa. Gambar dan video dapat sepenuhnya dipalsukan, data identifikasi pribadi menjadi informasi berharga yang dicuri untuk tujuan ilegal. Tak berhenti di situ, penjahat dapat menggunakan gambar yang dikumpulkan daring untuk disalin dan ditempel, menggunakan AI untuk membuat pornografi anak atau serangkaian foto yang mengejek, mencemarkan nama baik, dan memutarbalikkan kebenaran...

Christian Loefert, Kepala Komunikasi dan Pemasaran di Deutsche Telekom, mengatakan: "Studi terbaru menunjukkan bahwa rata-rata anak berusia lima tahun memiliki sekitar 1.500 foto yang diunggah daring tanpa persetujuan mereka, yang diunggah oleh orang yang paling mereka percayai: ibu atau ayah mereka."

Menurut The New Yorker, para ahli memperkirakan bahwa pada tahun 2030, dua pertiga pencurian identitas akan disebabkan oleh penyebaran foto yang tidak terkendali di media sosial. Deutsche Telekom juga mengutip sebuah laporan yang menemukan bahwa lebih dari 75% orang tua kini membagikan data tentang anak-anak mereka di media sosial. Sementara itu, delapan dari 10 orang tua memiliki anggota media sosial yang mengikuti akun mereka tanpa pernah bertemu langsung dengan mereka.

Belakangan ini, perkembangan perangkat AI semakin "populer", menjangkau pengguna awam melalui serangkaian aplikasi di perangkat seluler. Alih-alih berhati-hati dengan program-program ini, banyak orang yang sembarangan mengunggah foto pribadi atau keluarga untuk diunggah di media sosial. Tindakan ini secara tidak sengaja memberikan AI sejumlah besar data gratis untuk mempelajari manusia, mulai dari struktur wajah hingga lingkungan sekitar.

Banyak pakar keamanan memperingatkan bahwa dalam semua situasi, bahkan dengan tren baru, pengguna harus tetap berhati-hati dan tidak memperdagangkan data pribadi, terutama data wajah mereka sendiri dan orang yang mereka cintai, hanya untuk bersenang-senang beberapa menit di jejaring sosial.

Tautan sumber: https://thanhnien.vn/rui-ro-tre-em-thanh-nan-nhan-cua-ai-khi-cha-me-dang-hinh-len-mang-185230911090311966.htm