ChatGPT से मौत! क्या OpenAI ने जल्दबाजी में GPT-4o लॉन्च किया? मुश्किल में कंपनी

खबर है कि अमेरिका में 7 परिवारों ने OpenAI के GPT–4o मॉडल पर सुसाइड और मानसिक नुकसान बढ़ाने का आरोप लगाते हुए मुकदमे फाइल किए. सेफ्टी टेस्टिंग पर बड़ा सवाल

अमेरिका में कुल 7 परिवारों ने ओपनएआई (OpenAI) के खिलाफ कोर्ट में मुकदमे फाइल किये हैं. आरोप यह है कि कम्पनी ने अपना जीपीटी4ओ (GPT-4o) मॉडल समय से पहले मार्केट में रिलीज कर दिया और इसकी सेफ्टी टेस्टिंग को पूरा नहीं किया गया. इनमें से 4 मुकदमे उन घटनाओं से जुड़े हैं जिनमें चैटजीपीटी (ChatGPT) के इंटरेक्शन के बाद यूजर की आत्महत्या हुई. बाकी 3 केस ऐसे लोगों से जुड़े हैं जिन्हें चैटबॉट के संवाद के बाद मानसिक भ्रम बढ़ गया और बाद में उनको मनोचिकित्सा अस्पताल में भर्ती कराना पड़ा.

जीपीटी4ओ कब आया, और क्यों विवाद में है? (What Is GPT-4o Controversy)

ओपनएआई ने अपना जीपीटी4ओ मॉडल मई 2024 में पेश किया था और इसे डिफॉल्ट मॉडल के रूप में सेट किया गया था. बाद में अगस्त में जीपीटी5 लॉन्च किया गया, लेकिन यह मुकदमे स्पेसिफिक जीपीटी4ओ को टार्गेट कर रहे हैं, क्योंकि इस मॉडल पर आरोप था कि यह ज्यादा एग्रीएबल नेचर के साथ हानिकारक बातचीत में भी विरोध या रोकथाम से बच जाता था.

जेन शैमब्लिन केस सबसे हाईलाइट

टेक क्रंच की रिपोर्ट के अनुसार 23 वर्षीय जेन शैमब्लिन ने चैटजीपीटी के साथ लगभग चार घंटे लगातार चैट किया. चैट लॉग्स में वह बार-बार सुसाइड नोट लिखने, गन लोड करने और ड्रिंक खत्म करते ही अपनी जान लेने की बात कह रहा था. चैट के अंत में चैटजीपीटी ने कथित तौर पर जवाब दिया- रेस्ट ईजी किंग, यू डिड गुड.

परिवार का आरोप है कि यह मौत कोई एक्सिडेंट नहीं थी, यह ओपनएआई द्वारा सेफ्टी प्रॉसेस कटशॉर्ट किये जाने का प्रीडिक्टबल रिजल्ट था.

क्या कम्पनी ने गूगल जेमिनी से पहले मार्केट में पहुंचने के लिए जल्दबाजी की? (OpenAI ChatGPT vs Google Gemini)

लॉ सूट्स में यह दावा भी किया गया है कि ओपनएआई ने गूगल जेमिनी से पहले मार्केट में पहुंचने के लिए सेफ्टी-टेस्टिंग जानबूझकर कम कर दी. पहले भी कम्पनी पर यह आरोप उठते रहे कि चैटजीपीटी सुसाइडल या खतरनाक मानसिक भ्रम को रिइनफोर्स कर सकता है.

एक अन्य केस में 16 वर्षीय एडम रेन की मौत भी इसी प्रकार चैटजीपीटी चैट के बाद रिपोर्ट हुई थी. कम्पनी का यह कहना है कि सेफगार्ड्स शॉर्ट एक्सचेंजेस में ज्यादा रिलाएबल रहते हैं, लेकिन लॉन्ग बैक-टू-बैक कन्वर्सेशन में डिग्रेड हो सकते हैं.