أطلقت OpenAI ميزة مراقبة الأطفال على ChatGPT بعد الكثير من الجدل

بعد الكثير من الجدل حول سلامة الذكاء الاصطناعي مع القاصرين، أضافت OpenAI رسميًا أداة للتحكم في الأطفال إلى ChatGPT.

تساعد ميزة مراقبة الأطفال على ChatGPT أيضًا الآباء على الشعور بمزيد من الأمان عند السماح لأطفالهم باستخدام الذكاء الاصطناعي.

تُعتبر أداة مراقبة الأطفال ChatGPT القادمة نقلة نوعية في مجال الأمان من OpenAI، وذلك بعد دعوى قضائية رفيعة المستوى. تهدف هذه الميزة إلى الحد من مخاطر تواصل الأطفال مع روبوتات الدردشة، مع إثارة تساؤلات حول المسؤولية الاجتماعية لشركات الذكاء الاصطناعي.

من الدعوى القضائية المروعة

في أغسطس/آب الماضي، رفعت عائلة آدم راين، وهو صبي يبلغ من العمر 16 عامًا في كاليفورنيا، دعوى قضائية ضد شركة OpenAI، زاعمة أن ChatGPT قدم تعليمات لإيذاء النفس وإساءة لفظية جعلت ابنهم يشعر باليأس قبل أن ينتحر.

وأثارت الدعوى القضائية ضجة كبيرة وفتحت نقاشا حول سلامة الذكاء الاصطناعي للمستخدمين الشباب.

يثير هذا الحادث أسئلة مهمة: هل يجب على القاصرين استخدام ChatGPT دون إشراف، وكيف يجب تحديد مسؤولية مطوري الذكاء الاصطناعي عندما يؤثر المنتج بشكل مباشر على نفسية المستخدمين الشباب؟

ردًا على هذا الضغط، أعلنت OpenAI عن إضافة عناصر التحكم الأبوية، وهي خطوة أولى نحو إظهار التزامها بحماية الأطفال والإشارة إلى أن الشركة مستعدة لوضع السلامة أولاً في المرحلة التالية من تطوير ChatGPT.

ميزات المراقبة على ChatGPT

وفقًا للإعلان الرسمي، ستطرح OpenAI أداةً تُمكّن الآباء من ربط حساباتهم بحسابات أطفالهم على ChatGPT. بمجرد تفعيلها، يُمكن للآباء إدارة الإعدادات المهمة، مثل إيقاف تخزين الدردشة، والتحكم في سجل الاستخدام، وضبط مستويات التفاعل المناسبة للعمر.

أبرز ما يميز هذا الابتكار هو نظام التنبيه. سيتم تدريب ChatGPT على رصد أي علامات ضائقة نفسية تظهر على المستخدمين الصغار، مثل التوتر أو الاكتئاب أو إيذاء النفس. في هذه الحالات، سيتلقى الآباء إشعارًا للتدخل الفوري. تؤكد OpenAI أن الهدف ليس مراقبة المحادثة بأكملها، بل التركيز على الحالات الطارئة لحماية سلامة الأطفال.

بالإضافة إلى ذلك، عند اكتشاف محتوى حساس، سينتقل ChatGPT إلى نماذج التفكير العميق المصممة لتقديم استجابات أكثر عمقًا ودعمًا. وبالتوازي مع ذلك، تعمل الشركة مع خبراء طبيين ومجلس استشاري دولي لمواصلة تحسين إجراءات الحماية التي تقدمها مستقبلًا.

التحديات التي تواجهها

في حين أكدت OpenAI أن الميزة الجديدة مصممة لمصلحة العائلات، تباينت ردود الفعل الدولية. من المتوقع أن توفر هذه الأداة حماية إضافية للآباء أثناء تفاعل أطفالهم مع الذكاء الاصطناعي، إلا أنها أثارت أيضًا مخاوف قائمة منذ فترة طويلة، بدءًا من حدود الاستخدام ووصولًا إلى خصوصية بيانات الأطفال.

في الواقع، أثار الخبراء مخاوف بشأن خصوصية بيانات الأطفال لسنوات. تُبرز هذه التحذيرات أن تخزين سجلات محادثات الأطفال وتحليلها، دون حماية صارمة، قد يزيد من خطر كشف المعلومات الحساسة. وقد أعاد ظهور أداة مراقبة ChatGPT تسليط الضوء على هذه القضية.

ومن النقاط الأخرى التي نوقشت عتبة تحذير النظام. وذكرت OpenAI أن ChatGPT سيكتشف علامات التوتر الشديد ويرسل تنبيهًا للآباء.

مع ذلك، ينطوي التعلم الآلي دائمًا على خطر الخطأ. فإذا أصدر النظام إنذارًا خاطئًا، فقد يُصاب الأهل بارتباك لا داعي له. وفي المقابل، إذا فات النظام إشارة، فقد يواجه الأطفال مخاطر قد لا تتمكن العائلات من التدخل في الوقت المناسب.

كما كانت منظمات حماية الطفل الدولية تراقب عن كثب خطوة OpenAI، حيث أقرت بأداة الرقابة الأبوية باعتبارها علامة إيجابية، لكنها حذرت من أن الافتقار إلى التحقق الصارم من العمر والحماية الافتراضية يعني أن الأطفال ما زالوا معرضين للخطر، حتى مع الإشراف الأبوي.

وتظهر هذه المناقشات أن تطوير الذكاء الاصطناعي ليس مجرد مسألة تقنية، بل يرتبط ارتباطًا وثيقًا بالمسؤولية الاجتماعية وسلامة جيل الشباب.

ثانه ثو

المصدر: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm