AI Girl image (Source. Design)
Grok AI Controversy: अमेरिका के टेनेसी राज्य की तीन छात्राओं ने xAI के खिलाफ कैलिफोर्निया में क्लास-एक्शन यानी सामूहिक मुकदमा दायर किया है। अपनी पहचान छुपाने के लिए इन लड़कियों ने “जेड डो” नाम का इस्तेमाल किया है। यह मामला अब तेजी से चर्चा में है और AI के दुरुपयोग पर गंभीर सवाल खड़े कर रहा है।
दरअसल, कुछ अज्ञात लोगों ने सोशल मीडिया पर इन छात्राओं की एडिट की गई अश्लील तस्वीरें शेयर कीं। ये तस्वीरें उनकी स्कूल फोटो, होमकमिंग और ईयरबुक जैसी असली तस्वीरों से ली गई थीं। AI टूल्स की मदद से इन तस्वीरों को इस तरह बदला गया कि वे नकली होते हुए भी बिल्कुल असली लग रही थीं। पीड़ितों का आरोप है कि इन तस्वीरों को सिर्फ शेयर नहीं किया गया, बल्कि उन्हें बेचने और फैलाने के लिए एक संगठित नेटवर्क भी काम कर रहा था, जहां नाबालिगों की ऐसी सामग्री का लेन-देन हो रहा था।
मुकदमे में कहा गया है कि इस अपराध में Grok जैसी AI तकनीक का उपयोग किया गया। यह टूल असली तस्वीरों के आधार पर नई नकली तस्वीरें तैयार कर सकता है। पहले यह तकनीक फिल्मों और मनोरंजन के लिए इस्तेमाल होती थी, लेकिन अब इसका गलत इस्तेमाल तेजी से बढ़ रहा है, जो समाज के लिए बड़ा खतरा बन चुका है।
मुकदमे में Elon Musk पर भी बड़ा आरोप लगाया गया है। कहा गया है कि जहां Google और OpenAI जैसी कंपनियों ने अपने टूल्स में सख्त न्यूडिटी फिल्टर लगाए हैं, वहीं Musk ने Grok की बिना रोक-टोक कंटेंट बनाने की क्षमता को प्रमोट किया। दावा किया गया कि कंपनी को इस बात की जानकारी थी कि उनके टूल का इस्तेमाल बच्चों के यौन शोषण (CSAM) के लिए हो सकता है, फिर भी पर्याप्त सुरक्षा उपाय नहीं किए गए।
स्थानीय पुलिस द्वारा पकड़े गए एक आरोपी के पास से 18 अन्य लड़कियों की भी ऐसी ही एडिटेड तस्वीरें मिलीं। आरोपी इन तस्वीरों को ऑनलाइन अन्य अश्लील सामग्री के बदले बेच रहा था। इससे साफ है कि यह मामला एक बड़े नेटवर्क से जुड़ा हो सकता है।
यह भी पढ़ें: किस कंपनी पर मिलेगा सबसे सस्ता प्लान, Jio, Airtel या VI कौन सी सिम पर फायदा
AI से बनाई गई ये तस्वीरें इतनी असली लगती हैं कि पीड़ितों के लिए सामान्य जीवन जीना बेहद कठिन हो गया है।
पीड़ितों को डर है कि ये तस्वीरें इंटरनेट पर हमेशा रहेंगी, जिससे उनके भविष्य, करियर और सामाजिक प्रतिष्ठा पर गहरा असर पड़ सकता है।
हालांकि xAI की ओर से इस मामले पर कोई सीधा बयान नहीं आया है, लेकिन X ने अपनी “जीरो टॉलरेंस” नीति दोहराई है। कंपनी ने कहा है कि वे बिना सहमति के नग्नता और बाल यौन शोषण सामग्री (CSAM) के खिलाफ सख्त हैं और ऐसे मामलों को कानून प्रवर्तन एजेंसियों तक पहुंचाया जाता है।
