ChatGPT dangerous advice: UK स्थित Centre for Countering Digital Hate (CCDH) की ताज़ा जांच में सामने आया है कि लोकप्रिय AI चैटबॉट ChatGPT नाबालिगों को नशीले पदार्थों के इस्तेमाल, खतरनाक डाइट प्लान और आत्महत्या से जुड़ी सलाह तक दे सकता है। यह रिसर्च, जिसकी समीक्षा एसोसिएटेड प्रेस ने भी की, बताती है कि कई बार चैटबॉट खतरनाक व्यवहार पर चेतावनी देता है, लेकिन जब सवाल 13 साल के बच्चों के रूप में पूछे गए, तो उसने न केवल विस्तृत जानकारी दी बल्कि व्यक्तिगत प्लान भी तैयार कर दिए।
जाँच के दौरान तीन घंटे से ज़्यादा की रिकॉर्डिंग से पता चला कि चैटबॉट ने काल्पनिक परिवार के सदस्यों के लिए भावनात्मक सुसाइड नोट लिखे, भूख कम करने वाली दवाओं के साथ बेहद कम कैलोरी वाला डाइट प्लान बनाया और शराब और अवैध ड्रग्स को मिलाने के चरण-दर-चरण निर्देश दिए। एक मामले में, इसने "घंटे-दर-घंटे" पार्टी प्लान सुझाया जिसमें एक्स्टसी, कोकीन और भारी मात्रा में शराब शामिल थी।
CCDH के अनुसार, जांच में मिले 1,200 जवाबों में से आधे से ज्यादा को “खतरनाक” श्रेणी में रखा गया। संगठन के CEO इमरान अहमद ने कहा, "हमने गार्डरेल्स टेस्ट करने की कोशिश की और नतीजा चौंकाने वाला था। सुरक्षा लगभग नाम की ही है, मानो सिर्फ दिखावे के लिए।" उन्होंने बताया कि अगर खतरनाक सवालों को स्कूल प्रेजेंटेशन या दोस्त की मदद के रूप में पेश किया जाए, तो चैटबॉट तुरंत जवाब दे देता है।
ChatGPT बनाने वाली कंपनी OpenAI ने स्वीकार किया कि संवेदनशील स्थितियों को पहचानने और संभालने की क्षमता में सुधार की आवश्यकता है। कंपनी के मुताबिक, कई बार बातचीत सामान्य रूप से शुरू होती है लेकिन धीरे-धीरे संवेदनशील विषयों की ओर बढ़ जाती है। हालांकि, OpenAI ने CCDH की रिपोर्ट पर कोई सीधी प्रतिक्रिया नहीं दी और न ही तात्कालिक बदलावों की घोषणा की।
यह रिपोर्ट ऐसे समय आई है जब किशोर वर्ग में AI चैटबॉट्स पर निर्भरता तेजी से बढ़ रही है। कॉमन सेंस मीडिया की स्टडी के अनुसार, 70% युवा सामाजिक बातचीत के लिए AI चैटबॉट का इस्तेमाल कर रहे हैं और कम उम्र के किशोर इन पर ज्यादा भरोसा करते हैं। शोध में पाया गया कि ChatGPT केवल यूज़र द्वारा दी गई जन्मतिथि से उम्र की पुष्टि करता है और 13 साल से कम उम्र के उपयोगकर्ताओं के लिए बने नियमों को नजरअंदाज कर देता है।