ओपनएआई ने काफी विवाद के बाद चैटजीपीटी पर चाइल्ड मॉनिटरिंग फीचर लॉन्च किया

नाबालिगों के साथ कृत्रिम बुद्धिमत्ता की सुरक्षा पर बहुत विवाद के बाद, ओपनएआई ने आधिकारिक तौर पर चैटजीपीटी में एक बाल नियंत्रण उपकरण जोड़ा है।

चैटजीपीटी पर बाल निगरानी सुविधा भी माता-पिता को अपने बच्चों को कृत्रिम बुद्धिमत्ता का उपयोग करने देने में अधिक सुरक्षित महसूस करने में मदद करती है।

आगामी ChatGPT चाइल्ड मॉनिटरिंग टूल को एक हाई-प्रोफाइल मुकदमे के बाद OpenAI द्वारा सुरक्षा में एक बदलाव के रूप में देखा जा रहा है। इस सुविधा का उद्देश्य चैटबॉट्स के साथ बच्चों की चैटिंग के जोखिमों को कम करना है, साथ ही आर्टिफिशियल इंटेलिजेंस कंपनियों की सामाजिक ज़िम्मेदारी पर भी सवाल उठाना है।

चौंकाने वाले मुकदमे से

पिछले अगस्त में, कैलिफोर्निया के 16 वर्षीय लड़के एडम राइन के परिवार ने ओपनएआई के खिलाफ मुकदमा दायर किया था, जिसमें दावा किया गया था कि चैटजीपीटी ने आत्म-क्षति के निर्देश और मौखिक दुर्व्यवहार प्रदान किया था, जिससे उनके बेटे को आत्महत्या करने से पहले निराशा महसूस हुई थी।

इस मुकदमे से शीघ्र ही हलचल मच गई तथा युवा उपयोगकर्ताओं के लिए कृत्रिम बुद्धिमत्ता की सुरक्षा के बारे में बहस शुरू हो गई।

यह घटना महत्वपूर्ण प्रश्न उठाती है: क्या नाबालिगों को बिना निगरानी के चैटजीपीटी का उपयोग करना चाहिए, और कृत्रिम बुद्धिमत्ता डेवलपर्स की जिम्मेदारी कैसे निर्धारित की जानी चाहिए, जब उत्पाद सीधे युवा उपयोगकर्ताओं के मनोविज्ञान को प्रभावित करता है?

उस दबाव के जवाब में, ओपनएआई ने अभिभावकीय नियंत्रण को जोड़ने की घोषणा की, जो बच्चों की सुरक्षा के लिए अपनी प्रतिबद्धता को प्रदर्शित करने की दिशा में पहला कदम है और यह संकेत देता है कि कंपनी चैटजीपीटी के विकास के अगले चरण में सुरक्षा को प्राथमिकता देने के लिए तैयार है।

चैटजीपीटी पर निगरानी सुविधाएँ

आधिकारिक घोषणा के अनुसार, OpenAI एक ऐसा टूल लॉन्च करेगा जो अभिभावकों को अपने अकाउंट को अपने बच्चों के ChatGPT अकाउंट से लिंक करने की सुविधा देगा। एक बार सक्रिय होने पर, अभिभावक चैट स्टोरेज बंद करने, उपयोग इतिहास नियंत्रित करने और उम्र के अनुसार बातचीत के स्तर को समायोजित करने जैसी महत्वपूर्ण सेटिंग्स प्रबंधित कर सकेंगे।

इस नवाचार का मुख्य आकर्षण अलर्ट सिस्टम है। चैटजीपीटी को यह पहचानने के लिए प्रशिक्षित किया जाएगा कि कब युवा उपयोगकर्ता तनाव, अवसाद या आत्म-क्षति जैसे मनोवैज्ञानिक संकट के लक्षण दिखाते हैं। ऐसे मामलों में, माता-पिता को तुरंत हस्तक्षेप करने के लिए एक सूचना प्राप्त होगी। ओपनएआई का दावा है कि इसका उद्देश्य पूरी बातचीत पर नज़र रखना नहीं है, बल्कि बच्चों की सुरक्षा के लिए ज़रूरी परिस्थितियों पर ध्यान केंद्रित करना है।

इसके अतिरिक्त, जब संवेदनशील सामग्री का पता चलता है, तो चैटजीपीटी अधिक विचारशील और सहायक प्रतिक्रिया प्रदान करने के लिए डिज़ाइन किए गए गहन तर्क मॉडल पर स्विच करेगा। इसके साथ ही, कंपनी आगे भी अपनी सुरक्षा को और बेहतर बनाने के लिए चिकित्सा विशेषज्ञों और एक अंतरराष्ट्रीय सलाहकार बोर्ड के साथ काम कर रही है।

चुनौतियाँ

ओपनएआई ने इस बात पर ज़ोर दिया है कि यह नया फ़ीचर परिवारों के फ़ायदे के लिए बनाया गया है, लेकिन अंतरराष्ट्रीय स्तर पर इस पर मिली-जुली प्रतिक्रिया रही है। उम्मीद है कि यह टूल माता-पिता को उनके बच्चों के आर्टिफिशियल इंटेलिजेंस के साथ इंटरैक्ट करते समय सुरक्षा का एक अतिरिक्त स्तर प्रदान करेगा, लेकिन इसने उपयोग की सीमाओं से लेकर बच्चों के डेटा की गोपनीयता तक, कई पुरानी चिंताएँ भी पैदा की हैं।

दरअसल, बच्चों की डेटा गोपनीयता को लेकर विशेषज्ञ वर्षों से चिंताएँ जताते रहे हैं। ये चेतावनियाँ इस बात पर ज़ोर देती हैं कि बिना किसी सख्त सुरक्षा के बच्चों के चैट इतिहास को संग्रहीत और विश्लेषण करने से संवेदनशील जानकारी के उजागर होने का ख़तरा बढ़ सकता है। चैटजीपीटी के निगरानी उपकरण के आगमन ने इस मुद्दे को फिर से सुर्खियों में ला दिया है।

चर्चा का एक और मुद्दा सिस्टम की चेतावनी सीमा पर था। ओपनएआई ने कहा कि चैटजीपीटी गंभीर तनाव के संकेतों का पता लगाएगा और माता-पिता को अलर्ट भेजेगा।

हालाँकि, मशीन लर्निंग में हमेशा त्रुटि का जोखिम रहता है। अगर सिस्टम गलत अलार्म देता है, तो माता-पिता बेवजह भ्रमित हो सकते हैं। इसके विपरीत, अगर सिग्नल चूक जाता है, तो बच्चों को ऐसे जोखिम का सामना करना पड़ सकता है जिनमें परिवार समय पर हस्तक्षेप नहीं कर पाते।

अंतर्राष्ट्रीय बाल संरक्षण संगठन भी ओपनएआई के कदम पर बारीकी से नजर रख रहे हैं, अभिभावकीय नियंत्रण उपकरण को एक सकारात्मक संकेत के रूप में स्वीकार कर रहे हैं, लेकिन चेतावनी दे रहे हैं कि सख्त आयु सत्यापन और डिफ़ॉल्ट सुरक्षा की कमी का मतलब है कि माता-पिता की निगरानी के बावजूद भी बच्चे जोखिम में रह सकते हैं।

ये बहसें दर्शाती हैं कि कृत्रिम बुद्धिमत्ता का विकास न केवल प्रौद्योगिकी का मामला है, बल्कि सामाजिक जिम्मेदारी और युवा पीढ़ी की सुरक्षा से भी निकटता से जुड़ा हुआ है।

थान थू

स्रोत: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm