Teknologi AI menimbulkan banyak risiko bagi anak-anak di dunia maya

DNVN - Tn. Do Duong Hien - seorang pakar dari ChildFund Vietnam, mengatakan bahwa AI membawa banyak manfaat tetapi juga menimbulkan banyak risiko potensial bagi anak-anak di internet.

Berbicara pada lokakarya "Mempromosikan kerja sama dalam melindungi anak-anak di lingkungan daring" yang diselenggarakan oleh Asosiasi Keamanan Informasi Vietnam bekerja sama dengan Departemen Keamanan Informasi ( Kementerian Informasi dan Komunikasi ) pada tanggal 21 November di Hanoi, para ahli berkomentar bahwa dalam konteks teknologi digital yang berkembang pesat dan menjadi alat kerja dan hiburan yang sangat diperlukan dalam kehidupan sehari-hari setiap orang, risiko terhadap keselamatan, keamanan informasi, dan privasi juga meningkat.

Bagi anak-anak, bahaya dan risiko ini menjadi semakin nyata ketika mereka tidak memiliki keterampilan yang memadai untuk mengidentifikasi dan mencegahnya. Hal ini menjadi tantangan tidak hanya bagi Vietnam, tetapi juga bagi banyak negara lain di dunia . Oleh karena itu, melindungi anak-anak dan meningkatkan kerja sama serta koneksi di dunia maya untuk melindungi dan memberdayakan anak-anak juga merupakan isu yang diangkat secara global.

Tuan Dang Vu Son - Wakil Presiden VNISA.

Bapak Dang Vu Son - Wakil Presiden VNISA, Mantan Ketua Komite Sandi Pemerintah , mengatakan: "Dalam konteks tersebut, program "Melindungi dan Mendukung Anak untuk Berinteraksi secara Sehat dan Kreatif di Dunia Maya pada Periode 2021-2025" telah menciptakan kekuatan pendorong untuk mendorong partisipasi aktif dari instansi pemerintah, organisasi sosial, dan pelaku usaha. Namun, dalam praktiknya, masih terdapat keterbatasan dalam menghubungkan dan berkoordinasi antar pihak terkait, yang secara signifikan memengaruhi efektivitas upaya perlindungan anak di dunia maya."

Menurut Bapak Son, VNISA telah berkomitmen untuk bekerja sama dengan lembaga pengelola negara, organisasi internasional, dan pelaku usaha dalam melaksanakan inisiatif perlindungan anak daring. Belakangan ini, Asosiasi telah melaksanakan berbagai kegiatan.

"Kami percaya bahwa koneksi dan kerja sama adalah kunci untuk memecahkan tantangan dan meningkatkan efisiensi dalam melindungi anak-anak di dunia maya. VNISA berkomitmen untuk melanjutkan upayanya dan bekerja sama erat dengan mitra dalam dan luar negeri guna membangun lingkungan dunia maya yang benar-benar aman dan berkelanjutan bagi generasi muda," tambah Bapak Dang Vu Son.

Berbagi tentang dampak kecerdasan buatan (AI) pada anak-anak daring, Tn. Do Duong Hien - Pakar dari ChildFund Vietnam mengatakan bahwa AI berkembang pesat, membawa manfaat tetapi juga menimbulkan banyak risiko potensial bagi anak-anak di internet.

"AI mendorong dan mempromosikan kreativitas dan inisiatif anak-anak. AI generatif dapat menyediakan alat kreatif bagi anak-anak untuk mengekspresikan diri melalui komposisi, seni, dan musik. AI dapat membantu anak-anak menjelajahi dan mempelajari bidang-bidang baru, memperluas pengetahuan dan keterampilan mereka," ujar Bapak Hien, sambil memperingatkan sisi negatifnya: "Itulah masalah produksi konten yang tidak pantas. Alat/algoritma AI dari penyedia platform dapat menyediakan konten yang tidak sesuai usia dan berbahaya. Selain itu, AI generatif dapat digunakan untuk menciptakan misinformasi atau berita palsu yang memengaruhi kognisi dan perilaku anak-anak serta perkembangan mereka."

Namun, AI juga dapat berperan sebagai alat untuk melindungi anak-anak dan memantau konten daring. AI memiliki kemampuan untuk mendeteksi, menghapus, dan dengan cepat memperingatkan konten yang kasar atau tidak pantas di media sosial dan platform internet. Deteksi dan laporkan konten pelecehan seksual anak (CSAM): aplikasi dan perangkat lunak mendukung deteksi dokumen, konten CSAM, dan pelaporan atau pemblokiran langsung di sistem. Perangkat AI dapat mendukung deteksi perilaku kekerasan.

Bapak Ngo Tuan Anh, Wakil Presiden VNISA, Ketua Klub VCSC (ketiga dari kanan).

Berbicara tentang aktivitas perlindungan anak daring belakangan ini, Bapak Ngo Tuan Anh, Wakil Presiden VNISA dan Ketua VCSC Club, mengatakan: “Standar dasar TCCS:03 VNISA yang baru diterbitkan pada Juni 2024 merupakan tonggak penting yang berkontribusi dalam mempromosikan ekosistem produk dan layanan untuk melindungi anak daring. Standar ini juga berkontribusi dalam menilai kualitas produk dan layanan untuk melindungi anak daring guna membantu pengguna dan orang tua merasa lebih aman dalam memilih produk dan layanan. Hal ini akan menjadi dasar untuk mendorong partisipasi bisnis, organisasi, serta sejumlah besar pengguna untuk bersama-sama melindungi anak-anak mereka dari bahaya dan risiko di dunia maya.”

Ibu Phan Thi Kim Lien, Manajer Program Perlindungan Anak dan Partisipasi Anak, World Vision International di Vietnam, menyatakan bahwa lingkungan digital menghadirkan banyak peluang sekaligus risiko bagi perkembangan anak. Di Vietnam, 9 dari 10 anak menggunakan internet. Dalam upaya membangun lingkungan daring yang aman dan efektif bagi anak-anak, World Vision International di Vietnam berfokus pada program pendidikan keterampilan digital yang komprehensif agar anak-anak dapat mengetahui cara melindungi diri, menggunakan internet secara kreatif, dan proaktif dalam membangun lingkungan internet yang aman dan efektif.

Nguyen Duc

Source: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281