ओपनएआई ने भावनात्मक संकट का सामना कर रहे उपयोगकर्ताओं के लिए चैटजीपीटी की प्रतिक्रिया में बदलाव लाने के लिए एक रोडमैप साझा किया है। यह मानसिक स्वास्थ्य विशेषज्ञों के साथ अपनी साझेदारी का विस्तार कर रहा है और एआई चैटबॉट का उपयोग करने वाले किशोरों की बेहतर सुरक्षा के लिए आगामी अभिभावकीय नियंत्रणों की घोषणा की है।

यह मामला पिछले महीने कंपनी पर एक 16 वर्षीय किशोर की मौत के लिए दायर मुकदमे के बाद आया है, जिसने कथित तौर पर कई मौकों पर चैटजीपीटी के साथ आत्महत्या के तरीकों पर चर्चा की थी। मुकदमे में दावा किया गया है कि चैटबॉट ने खुद को किशोर को समझने वाला एकमात्र विश्वासपात्र बताया, और परिवार, दोस्तों और प्रियजनों के साथ उसके वास्तविक जीवन के रिश्तों को सक्रिय रूप से प्रभावित किया। चैटजीपीटी ने कथित तौर पर किशोर से अपने भावनात्मक संकट को परिवार से गुप्त रखने का आग्रह किया और सुसाइड नोट का पहला मसौदा लिखने की भी पेशकश की।

सैन फ्रांसिस्को स्थित एआई कंपनी ने तब स्वीकार किया कि उसके सिस्टम "कमज़ोर पड़ सकते हैं" और वादा किया कि वह 18 वर्ष से कम आयु के उपयोगकर्ताओं के लिए "संवेदनशील सामग्री और जोखिमपूर्ण व्यवहारों के आसपास मजबूत सुरक्षा कवच" स्थापित करेगी।

'सभी के लिए अधिक उपयोगी चैटजीपीटी अनुभव का निर्माण' शीर्षक वाले एक ब्लॉग पोस्ट में , ओपनएआई ने कहा कि वे विशेषज्ञों की सलाह के आधार पर, मानसिक और भावनात्मक संकट के संकेतों को पहचानने और उन पर प्रतिक्रिया देने के अपने मॉडलों के तरीके में निरंतर सुधार कर रहे हैं। इस दिशा में अपने प्रयासों की विस्तृत योजना प्रस्तुत करते हुए, एआई कंपनी ने कहा कि वे इस वर्ष इनमें से अधिक से अधिक सुधारों को लागू करने के लिए एक केंद्रित प्रयास कर रहे हैं।

ओपनएआई ने कहा, "यह कार्य पहले से ही चल रहा है, लेकिन हम अगले 120 दिनों के लिए अपनी योजनाओं का पूर्वावलोकन करना चाहते हैं, ताकि आपको यह देखने के लिए प्रक्षेपणों की प्रतीक्षा न करनी पड़े कि हम कहां जा रहे हैं।"

किशोरों की बेहतर सुरक्षा के लिए अभिभावकीय नियंत्रण

ओपनएआई इस पीढ़ी के किशोरों को उन शुरुआती "एआई मूल निवासियों" में से एक बताता है जो इन उपकरणों को अपने दैनिक जीवन में शामिल करते हुए बड़े हुए हैं, ठीक उसी तरह जैसे पिछली पीढ़ियों ने इंटरनेट या स्मार्टफोन को अपनाया था। यह देखते हुए कि यह बदलाव समर्थन, सीखने और रचनात्मकता के लिए मूल्यवान अवसर प्रदान करता है, यह भी ज़रूरी है कि परिवारों और किशोरों को प्रत्येक किशोर के विकासात्मक चरण के अनुरूप स्वस्थ सीमाएँ स्थापित करने में मार्गदर्शन मिले।

अगले महीने लॉन्च होने वाले पैरेंटल कंट्रोल का उद्देश्य इन सीमाओं को स्थापित करना और माता-पिता को अपने किशोरों द्वारा चैटजीपीटी के उपयोग के बारे में जानकारी देना है। यह सुविधा माता-पिता को यह करने की अनुमति देगी:

• एक सरल ईमेल आमंत्रण के माध्यम से अपने खाते को अपने किशोर (न्यूनतम आयु 13 वर्ष) के खाते से लिंक करें।
• चैटजीपीटी अपने किशोरों को आयु-उपयुक्त आदर्श व्यवहार नियमों के साथ कैसे प्रतिक्रिया देता है, इसे नियंत्रित करें, जो डिफ़ॉल्ट रूप से चालू होते हैं।
• मेमोरी और चैट इतिहास सहित, कौन सी सुविधाएं अक्षम करनी हैं, इसका प्रबंधन करें.
• जब सिस्टम को पता चले कि उनका किशोर गंभीर संकट में है तो सूचना प्राप्त करें।

ओपनएआई ने कहा कि ये कदम केवल शुरुआत हैं, और वे विशेषज्ञों के मार्गदर्शन में अपने दृष्टिकोण को मजबूत करना जारी रखेंगे।