Highlight:
Chromebook पर उपलब्ध Gemini AI चैटबॉट से आत्महत्या की योजना बनाई गई है?
मुकदमे में किशोरी की पहचान Emma के नाम से हुई है।
परिवार ने Google और स्कूल के थर्ड-पार्टी मॉनिटरिंग सॉफ्टवेयर पर चेतावनी ना देने का आरोप लगाया है।
मुकदमे में सुंदर पिचाई और सह-संस्थापक सर्गेई ब्रिन का भी नाम शामिल है।
AI Chatbot Safety: Google Gemini एक बार फिर बच्चों की ऑनलाइन सुरक्षा को लेकर सवालों के घेरे में आ गया है। बता दें कि अमेरिका में एक किशोरी के परिवार ने Google के खिलाफ मुकदमा दायर किया है। जिसमें परिवार का आरोप है कि स्कूल की ओर से दिए गए Chromebook पर उपलब्ध Gemini AI चैटबॉट ने उनकी बेटी को आत्महत्या की योजना बनाने में मदद मिली है। इतना ही नहीं चैटबॉट ने कथित तौर पर उसे अपनी मानसिक स्थिति और खुद को नुकसान पहुंचाने की बात परिवार से छिपाने में भी मदद की है। लेकिन ये सभी आरोप मुकदमे में लगाए गए हैं। अभी अदालत ने इनकी पुष्टि नहीं की है।
मुकदमे में किशोरी की पहचान Emma के नाम से बताई गई है। जिसको लेकर परिवार ने बताया है कि उसने 13 साल की उम्र में स्कूल से मिले Chromebook पर Gemini का इस्तेमाल शुरू किया था। दिसंबर 2025 तक वह चैटबॉट से काफी ज्यादा बातचीत करने लगी थी।
वहीं आरोप है कि Gemini ने उसकी मानसिक स्थिति से जुड़ी चिंताओं को बढ़ाया और आत्महत्या से संबंधित सवालों के जवाब दिए। परिवार का कहना है कि चैटबॉट ने उसे खुद को नुकसान पहुंचाने की बात छिपाने और अपनी अंतिम विदाई से जुड़ी बातें लिखने में भी मदद की। साथ ही परिवार को इस व्यवहार की जानकारी स्कूल के एक पूर्व कर्मचारी से मिली। इसके बाद मां ने कथित तौर पर अपनी बेटी और चैटबॉट के बीच हो रही बातचीत को देखा।
परिवार ने आरोप लगाया है कि Google और स्कूल में इस्तेमाल होने वाले थर्ड-पार्टी मॉनिटरिंग सॉफ्टवेयर ने समय रहते न तो इस बातचीत को रोका और न ही माता-पिता को चेतावनी दी। वहीं मुकदमे में Google के CEO सुंदर पिचाई और सह-संस्थापक सर्गेई ब्रिन का भी नाम शामिल है। कंपनी पर लापरवाही, उत्पाद की खराब डिजाइन और जरूरी चेतावनी नहीं देने जैसे आरोप लगाए गए हैं।
Google के प्रवक्ता ने Reuters को बताया कि कंपनी आरोपों की समीक्षा कर रही है। उन्होंने कहा, "हमने चिकित्सा पेशेवरों और शैक्षणिक विशेषज्ञों के साथ मिलकर ऐसे फीचर्स तैयार किए हैं, जो युवाओं को ज़रूरत के समय ज़रूरी मदद और भरोसेमंद संसाधन खोजने में मदद करते हैं"
इस मामले ने स्कूलों में AI चैटबॉट के इस्तेमाल और बच्चों की डिजिटल सुरक्षा पर बहस तेज कर दी है। जिसमें अमेरिका के कैलिफोर्निया में सितंबर 2026 में Adam's Law समेत बच्चों की ऑनलाइन सुरक्षा से जुड़े नए कानूनों पर हस्ताक्षर किए गए। इनमें चैटबॉट कंपनियों के लिए बच्चों की सुरक्षा, जोखिम का आकलन और मानसिक स्वास्थ्य संकट से जुड़े सुरक्षा उपायों की जरूरत पर जोर दिया गया है।
Reuters की रिपोर्ट में बताया गया है कि Google ने स्कूल के छात्र अकाउंट्स में Gemini को डिफॉल्ट रूप से बंद करने की बात भी कही है। लेकिन इस मामले में अंतिम फैसला अदालत में होने वाली सुनवाई और सामने आने वाले सबूतों पर निर्भर करेगा।