ChatGPT पर बड़ा आरोप, AI की सलाह ने ले ली 19 साल के युवक की जान? OpenAI पर गंभीर मुकदमा दर्ज

ChatGPT Lawsuit: OpenAI नए विवाद में फंस चुका है। बता दें कि ChatGPT बनाने वाली कंपनी के खिलाफ अमेरिका में एक गंभीर कानूनी लगाया गया है कि AI चैटबॉट ने एक 19 साल के युवक को खतरनाक ड्रग्स बताकर जान ली।

OpenAI Controversy: आर्टिफिशियल इंटेलिजेंस के दुनिया में आने के बाद से तेजी से बदलाव भी आया है। वहीं आए दिन AI से जोड़ी कुछ अच्छी और बुरी खबर सामने आती ही रहती है। ऐसे में एक बार फिर से OpenAI नए विवाद में फंस चुका है। बता दें कि ChatGPT बनाने वाली कंपनी के खिलाफ अमेरिका में एक गंभीर कानूनी लगाया गया है। आरोप यह है कि AI चैटबॉट ने एक 19 वर्षीय युवक को खतरनाक ड्रग्स लेने की सलाह दी जिसके बाद उसकी मौत हो गई।

वहीं मृतक युवक सैम नेल्सन के परिवार का कहना है कि वह लंबे समय से ChatGPT पर भरोसा करता था और ड्रग्स के डोज व कॉम्बिनेशन को लेकर AI से सलाह लेता था। परिवार ने यह आरोप भी लगाया की चैटबॉट ने पूरी बातचीत में उसे किसी भी तरह की चेतावनी नहीं दी थी।

AI ने गैरकानूनी ड्रग कोच की तरह किया काम

मृतक युवक सैम के पिता जो दावा किया है उसके मुताबिक ChatGPT के GPT-4o मॉडल ने एक गैरकानूनी ड्रग कोच की तरह काम किया है। शिकायत में बताया गया कि AI ने न सिर्फ खतरनाक ड्रग्स कॉम्बिनेशन सुझाए इसके साथ ही मेडिकल एक्सपर्ट से सलाह लेने की चेतावनी भी नहीं दी थी।

मुकदमे में जो जानकारी दी गई है उसमें सैम और चैटबॉट के बीच हुई बातचीत के स्क्रीनशॉट भी शामिल किए गए हैं। जिसमें देखने को मिलता है कि ChatGPT ने कथित तौर पर डोज से जुड़ी जानकारी दी और ड्रग्स के अनुभव को लेकर पॉजिटिव बातें भी कीं। हालांकि कुछ जगह AI ने गिरफ्तारी के खतरे का भी जिक्र जरूर किया था। परिवार ने यह आरोप भी लगाया है कि कंपनी ने जानबूझकर अनसेफ मॉडल रिलीज किया और यूजर एंगेजमेंट बढ़ाने के लिए जरूरी सेफगार्ड को हटा दिए था।

OpenAI ने क्या कहा?

मामले के सामने आने के बााद OpenAI ने इसपर सीधे तौर से जिम्मेदारी लेने से इनकार कर दिया है। कंपनी ने बताया है कि जिस मॉडल का जिक्र किया जा रहा है वह अब उपलब्ध नहीं है। कंपनी ने जो बयान दिया उसके मुताबिक सिस्टम को इस तरह डिजाइन किया गया है कि वह harmful requests को पहचान सके और जरूरत पड़ने पर यूजर को किसी एक्सपर्ट या मेडिकल प्रोफेशनल से संपर्क करने की सलाह भी दे सकें।

ये भी पढ़े: WhatsApp में आया Incognito Mode, अब AI से पूछ सकेंगे दिल की बातें, न रिकॉर्ड होगा चैट न दिखेगी हिस्ट्री

GPT-4o पहले भी विवादों में रहा

वहीं यह पहली बार नहीं है कि GPT-4o मॉडल विवादों में घिरा हो। इससे पहले भी इस मॉडल पर self-harm, AI psychosis और delusional behavior को बढ़ावा देने जैसे गंभीर आरोप लगाए गए है। वहीं विशेषज्ञों बताते है कि AI psychosis वह स्थिति होती है जब कोई व्यक्ति AI के साथ जरूरत से ज्यादा भावनात्मक या मानसिक जुड़ाव महसूस करने लगता है। इसके अलावा GPT-4o पर यूजर की गलत बातों से भी सहमत होने के आरोप लगाए गए थे।

वहीं इस मामले के सामने आने के बाद AI सुरक्षा, नैतिकता और जिम्मेदारी को लेकर नई बहस छेड़ गई है। टेक्नोलॉजी वैसे तो तेजी से आगे बढ़ रही है लेकिन इससे आने वाले खतर को नजरअंदाज करना सही नहीं होगा।