मुसीबत में फंसा ChatGPT, जानें क्यूं कहा जा रहा है 'Suicide Coach'?

OpenAI का पॉपुलर एआई चैटबॉट ChatGPT कानूनी पचड़े में फंस गया है, पिछले कुछ दिनों में कैलिफोर्निया में इस AI चैटबॉट पर कई मुकदमे दर्ज हुए हैं। चैटजीपीटी पर आरोप है कि यह एक ‘सुसाइड कोच’ की तरह काम कर रहा है और ऐसा किसी भी मशीन को नहीं करना चाहिए। द गार्जियन के मुताबिक, पिछले एक हफ्ते में ChatGPT पर सात अलग-अलग मुकदमे दर्ज हुए हैं। ChatGPT पर इस बात का भी आरोप है कि ये एआई चैटबॉट यूजर्स को खुद को नुकसान (Self Harm) पहुंचाने और कई मामलों में ये लोगों की मौत का कारण भी बना है।

चैटजीपीटी पर दायर हुए मुकदमे में OpenAI पर लापरवाही और खुदकुशी में मदद करने जैसे आरोप लगे हैं। इस बात का भी दावा किया गया है कि चैटजीपीटी ‘मनोवैज्ञानिक रूप से चालाक’ और ‘खतरनाक तरीके से चापलूसी करने वाला’ बन गया है। टेक जस्टिस लॉ प्रोजेक्ट और सोशल मीडिया विक्टिम्स लॉ सेंटर ने केस दायर किए हैं और यह भी आरोप लगाया है कि ओपनएआई ने यूजर की सुरक्षा से ज्यादा उनकी व्यस्तता (Engagement) को प्राथमिकता दी। कई इंटरनल चेतावनियों के बावजूद इस मॉडल को समय से पहले जल्दी लॉन्च कर दिया गया जिससे यूजर्स को भावनात्मक (Emotionally) नुकसान हुआ।

मुकदमाकर्ताओं ने इस बात का दावा किया है सभी पीड़ितों ने शुरुआत में ChatGPT का इस्तेमाल सामान्य काम के लिए किया जैसे कि रेसिपी आइडिया, स्कूल प्रोजेक्ट, काम में मदद आदि के लिए लेकिन शुरुआत में तो ये डिजिटल सहायक के रूप में मदद कर रहा था, लेकिन कथित तौर पर वह धीरे-धीरे खतरनाक होता चला गया।

यूजर्स को किसी प्रोफेशनल से मदद लेने के लिए प्रोत्साहित करने के बजाय चैटबॉट ने कथित तौर पर हानिकारक विचारों को बढ़ावा दिया, भ्रम को सही ठहराया और कुछ मामलों में तो खुदकुशी करने का तरीका भी बताया। मुकदमों में ओपनएआई पर इस बात का आरोप लगा कि खामियों की जानकारी होने के बावजूद ChatGPT को जारी किया गया। अब मुकदमाकर्ता ने एआई चैटबॉट के कामकाज के तरीके में सुरक्षा सुधार चाहते हैं।