OpenAI meluncurkan fitur pemantauan anak di ChatGPT setelah banyak kontroversi

Setelah banyak kontroversi mengenai keamanan kecerdasan buatan dengan anak di bawah umur, OpenAI secara resmi telah menambahkan alat kontrol anak ke ChatGPT.

Fitur pemantauan anak pada ChatGPT juga membantu orang tua merasa lebih aman saat membiarkan anak-anak mereka menggunakan kecerdasan buatan.

Alat pemantauan anak ChatGPT yang akan datang dipandang sebagai perubahan keamanan dari OpenAI setelah gugatan hukum yang mendapat banyak perhatian. Fitur ini bertujuan untuk mengurangi risiko anak-anak mengobrol dengan chatbot, sekaligus menimbulkan pertanyaan tentang tanggung jawab sosial perusahaan kecerdasan buatan.

Dari gugatan yang mengejutkan

Agustus lalu, keluarga Adam Raine, seorang anak laki-laki berusia 16 tahun di California, mengajukan gugatan terhadap OpenAI, mengklaim bahwa ChatGPT memberikan instruksi menyakiti diri sendiri dan pelecehan verbal yang membuat putra mereka merasa putus asa sebelum dia bunuh diri.

Gugatan tersebut dengan cepat menimbulkan kehebohan dan membuka perdebatan tentang keamanan kecerdasan buatan bagi pengguna muda.

Kejadian ini menimbulkan pertanyaan penting: haruskah anak di bawah umur menggunakan ChatGPT tanpa pengawasan, dan bagaimana tanggung jawab pengembang kecerdasan buatan ditentukan ketika produk tersebut secara langsung memengaruhi psikologi pengguna muda?

Menanggapi tekanan tersebut, OpenAI mengumumkan penambahan kontrol orangtua, sebuah langkah awal untuk menunjukkan komitmennya dalam melindungi anak-anak dan menandakan bahwa perusahaan siap mengutamakan keselamatan dalam fase pengembangan ChatGPT selanjutnya.

Fitur Pemantauan di ChatGPT

Menurut pengumuman resmi, OpenAI akan meluncurkan alat yang memungkinkan orang tua untuk menghubungkan akun mereka dengan akun ChatGPT anak-anak mereka. Setelah diaktifkan, orang tua dapat mengelola pengaturan penting seperti menonaktifkan penyimpanan obrolan, mengontrol riwayat penggunaan, dan menyesuaikan tingkat interaksi yang sesuai usia.

Keunggulan inovasi ini terletak pada sistem peringatannya. ChatGPT akan dilatih untuk mengenali ketika pengguna muda menunjukkan tanda-tanda tekanan psikologis, seperti stres, depresi, atau menyakiti diri sendiri. Dalam kasus tersebut, orang tua akan menerima notifikasi untuk segera melakukan intervensi. OpenAI menegaskan bahwa tujuannya bukanlah untuk memantau seluruh percakapan, tetapi untuk berfokus pada situasi mendesak demi melindungi keselamatan anak-anak.

Selain itu, ketika konten sensitif terdeteksi, ChatGPT akan beralih ke model penalaran mendalam yang dirancang untuk memberikan respons yang lebih bijaksana dan suportif. Bersamaan dengan itu, perusahaan bekerja sama dengan para ahli medis dan dewan penasihat internasional untuk terus menyempurnakan perlindungannya di masa mendatang.

Tantangan yang dihadapi

Meskipun OpenAI telah menekankan bahwa fitur baru ini dirancang untuk memberi manfaat bagi keluarga, tanggapan internasional beragam. Alat ini diharapkan memberikan lapisan perlindungan ekstra bagi orang tua saat anak-anak mereka berinteraksi dengan kecerdasan buatan, tetapi juga menimbulkan kekhawatiran yang sudah lama ada, mulai dari batasan penggunaan hingga privasi data anak.

Faktanya, kekhawatiran tentang privasi data anak-anak telah disuarakan oleh para ahli selama bertahun-tahun. Peringatan ini menyoroti bahwa menyimpan dan menganalisis riwayat obrolan anak-anak, tanpa perlindungan yang ketat, dapat meningkatkan risiko tereksposnya informasi sensitif. Munculnya alat pemantauan ChatGPT telah mengangkat isu ini kembali ke permukaan.

Poin lain yang dibahas adalah ambang batas peringatan sistem. OpenAI mengatakan ChatGPT akan mendeteksi tanda-tanda stres berat dan mengirimkan peringatan kepada orang tua.

Namun, pembelajaran mesin selalu mengandung risiko kesalahan. Jika sistem memberikan alarm palsu, orang tua mungkin akan kebingungan. Sebaliknya, jika sistem melewatkan sinyal, anak-anak mungkin menghadapi risiko bahwa keluarga tidak dapat melakukan intervensi tepat waktu.

Organisasi perlindungan anak internasional juga telah mengamati dengan seksama langkah OpenAI, mengakui alat kontrol orang tua sebagai tanda positif, tetapi memperingatkan bahwa kurangnya verifikasi usia yang ketat dan perlindungan default berarti anak-anak masih dapat berisiko, bahkan dengan pengawasan orang tua.

Perdebatan ini menunjukkan bahwa pengembangan kecerdasan buatan bukan hanya masalah teknologi, tetapi juga terkait erat dengan tanggung jawab sosial dan keselamatan generasi muda.

THANH THU

Source: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm