OpenAI melancarkan ciri pemantauan kanak-kanak di ChatGPT selepas banyak kontroversi

Selepas banyak kontroversi mengenai keselamatan kecerdasan buatan dengan kanak-kanak di bawah umur, OpenAI telah secara rasmi menambah alat kawalan kanak-kanak ke ChatGPT.

Ciri pemantauan kanak-kanak di ChatGPT juga membantu ibu bapa berasa lebih selamat apabila membenarkan anak mereka menggunakan kecerdasan buatan.

Alat pemantauan kanak-kanak ChatGPT yang akan datang dilihat sebagai perubahan keselamatan daripada OpenAI berikutan tuntutan mahkamah berprofil tinggi. Ciri ini bertujuan untuk mengurangkan risiko kanak-kanak berbual dengan chatbots, sambil turut menimbulkan persoalan tentang tanggungjawab sosial syarikat kecerdasan buatan.

Daripada tuntutan mahkamah yang mengejutkan

Ogos lalu, keluarga Adam Raine, seorang budak lelaki berusia 16 tahun di California, memfailkan tuntutan mahkamah terhadap OpenAI, mendakwa bahawa ChatGPT memberikan arahan mencederakan diri dan penderaan lisan yang menyebabkan anak lelaki mereka berasa putus asa sebelum dia membunuh diri.

Tuntutan itu dengan cepat menimbulkan kekecohan dan membuka perdebatan tentang keselamatan kecerdasan buatan untuk pengguna muda.

Insiden ini menimbulkan persoalan penting: patutkah kanak-kanak bawah umur menggunakan ChatGPT tanpa pengawasan, dan bagaimanakah tanggungjawab pembangun kecerdasan buatan ditentukan apabila produk itu secara langsung mempengaruhi psikologi pengguna muda?

Sebagai tindak balas kepada tekanan itu, OpenAI mengumumkan penambahan kawalan ibu bapa, langkah pertama ke arah menunjukkan komitmennya untuk melindungi kanak-kanak dan memberi isyarat bahawa syarikat itu bersedia untuk mengutamakan keselamatan dalam fasa seterusnya pembangunan ChatGPT.

Ciri Pemantauan pada ChatGPT

Menurut pengumuman rasmi, OpenAI akan melancarkan alat yang membolehkan ibu bapa memautkan akaun mereka ke akaun ChatGPT anak-anak mereka. Setelah diaktifkan, ibu bapa boleh mengurus tetapan penting seperti mematikan storan sembang, mengawal sejarah penggunaan dan melaraskan tahap interaksi yang bersesuaian dengan umur.

Kemuncak inovasi ini ialah sistem amaran. ChatGPT akan dilatih untuk mengenali apabila pengguna muda menunjukkan tanda-tanda tekanan psikologi, seperti tekanan, kemurungan atau kecederaan diri. Dalam kes tersebut, ibu bapa akan menerima pemberitahuan untuk campur tangan dengan segera. OpenAI menegaskan bahawa matlamatnya bukan untuk memantau keseluruhan perbualan, tetapi untuk memberi tumpuan kepada situasi mendesak untuk melindungi keselamatan kanak-kanak.

Selain itu, apabila kandungan sensitif dikesan, ChatGPT akan bertukar kepada model penaakulan mendalam yang direka untuk memberikan respons yang lebih bernas dan menyokong. Secara selari, syarikat itu bekerjasama dengan pakar perubatan dan lembaga penasihat antarabangsa untuk terus memperhalusi perlindungannya pada masa hadapan.

Cabaran yang ditimbulkan

Walaupun OpenAI telah menekankan bahawa ciri baharu itu direka untuk memberi manfaat kepada keluarga, respons antarabangsa telah bercampur-campur. Alat ini dijangka memberikan lapisan perlindungan tambahan untuk ibu bapa apabila anak-anak mereka berinteraksi dengan kecerdasan buatan, tetapi ia juga telah menimbulkan kebimbangan yang telah lama wujud, daripada had penggunaan kepada privasi data kanak-kanak.

Malah, kebimbangan mengenai privasi data kanak-kanak telah dibangkitkan oleh pakar selama bertahun-tahun. Amaran ini menyerlahkan bahawa menyimpan dan menganalisis sejarah sembang kanak-kanak, tanpa perlindungan yang ketat, boleh meningkatkan risiko mendedahkan maklumat sensitif. Kemunculan alat pemantauan ChatGPT telah membawa isu itu kembali menjadi perhatian.

Perkara lain yang dibincangkan ialah ambang amaran sistem. OpenAI berkata ChatGPT akan mengesan tanda-tanda tekanan yang teruk dan menghantar amaran kepada ibu bapa.

Walau bagaimanapun, pembelajaran mesin sentiasa membawa risiko ralat. Jika sistem memberikan penggera palsu, ibu bapa mungkin keliru. Sebaliknya, jika ia terlepas isyarat, kanak-kanak mungkin menghadapi risiko yang keluarga tidak dapat campur tangan dalam masa.

Organisasi perlindungan kanak-kanak antarabangsa juga telah memerhati dengan teliti langkah OpenAI, mengakui alat kawalan ibu bapa sebagai petanda positif, tetapi memberi amaran bahawa kekurangan pengesahan umur yang ketat dan perlindungan lalai bermakna kanak-kanak masih boleh berisiko, walaupun dengan pengawasan ibu bapa.

Perbahasan ini menunjukkan bahawa pembangunan kecerdasan buatan bukan sahaja soal teknologi, tetapi juga berkait rapat dengan tanggungjawab sosial dan keselamatan generasi muda.

THANH KHAM

Sumber: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm