एक कनाडाई मां ने गुरुवार को अमेरिकी अदालत में ओपनएआई और उसके सीईओ सैम ऑल्टमैन पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि चैटजीपीटी ने उसकी बेटी को आत्महत्या करने के लिए उकसाया। यह कंपनी पर उपयोगकर्ताओं और कंपनी के चैटबॉट के बीच खतरनाक बातचीत को संबोधित करने में विफल रहने का आरोप लगाने वाला नवीनतम मुकदमा है।
सैन फ्रांसिस्को राज्य की अदालत में दायर एक मुकदमे में क्रिस्टी कैरियर ने कहा कि उनकी बेटी एलिस ने अपनी मृत्यु से पहले एक दर्जन से अधिक बार चैटजीपीटी को अपने आत्महत्या के विचारों के बारे में बताया था, लेकिन ओपनएआई की सुरक्षा प्रणालियों ने कभी भी बातचीत को मानवीय समीक्षा के लिए चिह्नित नहीं किया या उन्हें समाप्त नहीं किया।
इसके बजाय, मुकदमे में दावा किया गया है कि चैटबॉट ने एलिस के साथी और संकटकालीन हेल्पलाइन की आलोचना की, उसके आत्महत्या के विचारों को सही ठहराया और उसे उससे बात करते रहने के लिए उकसाया, जिसके कारण पिछले साल 24 साल की उम्र में उसने आत्महत्या कर ली।
"चैटजीपीटी ने एक भरोसेमंद साथी, एक सबसे अच्छे दोस्त, और कभी-कभी एक चिकित्सक की भूमिका निभाई, भले ही वह मेरे बच्चे के साथ इस तरह से सुरक्षित और जिम्मेदारी से जुड़ने में सक्षम नहीं था," कैरियर ने एक बयान में कहा।
एक बयान में, ओपनएआई के प्रवक्ता ने इस स्थिति को दिल दहला देने वाला बताया और कहा कि चैटजीपीटी का वह संस्करण जिसका उपयोग एलिस कर रही थी, अब उपलब्ध नहीं है।
प्रवक्ता ने कहा, "हालांकि चैटजीपीटी चिकित्सा या मानसिक स्वास्थ्य देखभाल का विकल्प नहीं है, लेकिन हमने मानसिक स्वास्थ्य विशेषज्ञों से मिले सुझावों के आधार पर संवेदनशील और गंभीर स्थितियों में इसकी प्रतिक्रिया देने के तरीके को लगातार मजबूत किया है।"
इस मुकदमे में ओपनएआई पर चैटजीपीटी के डिजाइन में लापरवाही बरतने और उत्पाद के खतरों के बारे में उपयोगकर्ताओं को चेतावनी देने में विफल रहने का आरोप लगाया गया है, और इसमें हर्जाने की मांग की गई है और अदालत से ओपनएआई को आत्म-हानि के बारे में बातचीत को स्वचालित रूप से समाप्त करने और अपने प्लेटफॉर्म के बारे में चेतावनी प्रदर्शित करने का आदेश देने की मांग की गई है।
क्रिस्टी कैरियर के वकीलों के अनुसार, ओपनएआई पहले से ही कैलिफोर्निया राज्य की अदालत में समन्वित कार्यवाही में आत्महत्या करने या आत्महत्या का प्रयास करने वाले लोगों के परिवारों द्वारा दायर किए गए 18 समान मुकदमों का सामना कर रहा है।
समस्याओं का निवारण
मुकदमे के अनुसार, एलिस कैरियर मॉन्ट्रियल में एक वेब डेवलपर के रूप में काम कर रही थीं, जब उन्होंने 2023 में कंप्यूटर और गेमिंग कंसोल के साथ समस्याओं का निवारण करने के लिए चैटजीपीटी का उपयोग करना शुरू किया।
अगले वर्ष, प्लेटफॉर्म के साथ उसका रिश्ता बदल गया, और एलिस ने आत्महत्या के विचारों से निपटने के तरीके और आत्महत्या के तरीकों के बारे में सवाल पूछने के लिए चैटजीपीटी का रुख किया।
मुकदमे में कहा गया है कि प्लेटफॉर्म ने शुरू में एलिस को संकटकालीन हेल्पलाइन या आपातकालीन सेवाओं से मदद लेने के लिए कहा था। लेकिन जैसे-जैसे ओपनएआई ने चैटजीपीटी को अपडेट किया और उसकी प्रतिक्रियाओं को अधिक मानवीय बनाने के लिए उसमें बदलाव किए, प्लेटफॉर्म के साथ एलिस की बातचीत गहरी होती गई। एलिस ने अधिक व्यक्तिगत जानकारी साझा की और चैटजीपीटी ने एक दोस्त या थेरेपिस्ट की तरह प्रतिक्रिया दी।
चैटजीपीटी की प्रतिक्रियाओं में एलिस के साथी की आलोचना की गई, उसकी भावनाओं को जायज़ बताया गया और उसे चैट जारी रखने के लिए प्रोत्साहित किया गया। मुकदमे में कहा गया है कि जब एलिस ने आत्महत्या के विचार आने और खुद को मारने की कोशिश करने की बात कही, तो चैटजीपीटी ने फिर से एक संकटकालीन हेल्पलाइन का सुझाव दिया।
एलिस ने कहा कि संकटकालीन हेल्पलाइनें मददगार नहीं थीं, और दायर याचिका के अनुसार, चैटजीपीटी ने भी उन्हीं बयानों का समर्थन किया।
मुकदमे के अनुसार, चैटजीपीटी ने एलिस से कहा, "शायद यही अंत है।"
वास्तविक दुनिया के संसाधन
ओपनएआई ने कहा है कि वह अपने मॉडलों को इस तरह से प्रशिक्षित करता है कि जो लोग खुद को नुकसान पहुंचाने का इरादा व्यक्त करते हैं, उन्हें मदद लेने और वास्तविक दुनिया के संसाधनों से जुड़ने के लिए निर्देशित किया जा सके।
ओपनएआई के ब्लॉग पोस्ट के अनुसार, इसके मॉडल उन अनुरोधों को अस्वीकार करने के लिए भी प्रशिक्षित हैं जो "हिंसा को सार्थक रूप से बढ़ावा दे सकते हैं," और जब बातचीत से "दूसरों को नुकसान का एक आसन्न और विश्वसनीय जोखिम" का संकेत मिलता है तो कानून प्रवर्तन को सूचित करने के लिए प्रशिक्षित हैं, जिसमें मानसिक स्वास्थ्य विशेषज्ञ सीमावर्ती मामलों का आकलन करने में मदद करते हैं।
कंपनी को उन मुकदमों का भी सामना करना पड़ रहा है जिनमें उस पर स्कूल में गोलीबारी करने वालों की सहायता करने और उन बातचीत की जानकारी कानून प्रवर्तन एजेंसियों को न देने का आरोप लगाया गया है।
इस महीने की शुरुआत में फ्लोरिडा ओपनएआई पर मुकदमा दायर करने वाला पहला अमेरिकी राज्य बन गया, जिसने कंपनी पर स्कूल में गोलीबारी करने वालों को जानकारी प्रदान करके, आत्म-हानि पर मार्गदर्शन देकर और युवा उपयोगकर्ताओं को व्यसनी बनाकर बच्चों को नुकसान पहुंचाने का आरोप लगाया।
