AI का खतरनाक खेल, बेटियों की फोटो से बनाई अश्लील तस्वीरें, अब कोर्ट में बड़ा बवाल

AI Misuse Case: अमेरिका के टेनेसी राज्य की तीन छात्राओं ने xAI के खिलाफ कैलिफोर्निया में क्लास-एक्शन यानी सामूहिक मुकदमा दायर किया है। अपनी पहचान छुपाने के लिए इन लड़कियों ने जेड डो का इस्तेमाल किया।

Grok AI Controversy: अमेरिका के टेनेसी राज्य की तीन छात्राओं ने xAI के खिलाफ कैलिफोर्निया में क्लास-एक्शन यानी सामूहिक मुकदमा दायर किया है। अपनी पहचान छुपाने के लिए इन लड़कियों ने “जेड डो” नाम का इस्तेमाल किया है। यह मामला अब तेजी से चर्चा में है और AI के दुरुपयोग पर गंभीर सवाल खड़े कर रहा है।

क्या है पूरा मामला?

दरअसल, कुछ अज्ञात लोगों ने सोशल मीडिया पर इन छात्राओं की एडिट की गई अश्लील तस्वीरें शेयर कीं। ये तस्वीरें उनकी स्कूल फोटो, होमकमिंग और ईयरबुक जैसी असली तस्वीरों से ली गई थीं। AI टूल्स की मदद से इन तस्वीरों को इस तरह बदला गया कि वे नकली होते हुए भी बिल्कुल असली लग रही थीं। पीड़ितों का आरोप है कि इन तस्वीरों को सिर्फ शेयर नहीं किया गया, बल्कि उन्हें बेचने और फैलाने के लिए एक संगठित नेटवर्क भी काम कर रहा था, जहां नाबालिगों की ऐसी सामग्री का लेन-देन हो रहा था।

AI तकनीक का गलत इस्तेमाल कैसे हुआ?

मुकदमे में कहा गया है कि इस अपराध में Grok जैसी AI तकनीक का उपयोग किया गया। यह टूल असली तस्वीरों के आधार पर नई नकली तस्वीरें तैयार कर सकता है। पहले यह तकनीक फिल्मों और मनोरंजन के लिए इस्तेमाल होती थी, लेकिन अब इसका गलत इस्तेमाल तेजी से बढ़ रहा है, जो समाज के लिए बड़ा खतरा बन चुका है।

Elon Musk पर भी गंभीर आरोप

मुकदमे में Elon Musk पर भी बड़ा आरोप लगाया गया है। कहा गया है कि जहां Google और OpenAI जैसी कंपनियों ने अपने टूल्स में सख्त न्यूडिटी फिल्टर लगाए हैं, वहीं Musk ने Grok की बिना रोक-टोक कंटेंट बनाने की क्षमता को प्रमोट किया। दावा किया गया कि कंपनी को इस बात की जानकारी थी कि उनके टूल का इस्तेमाल बच्चों के यौन शोषण (CSAM) के लिए हो सकता है, फिर भी पर्याप्त सुरक्षा उपाय नहीं किए गए।

पीड़ित आईं सामने

स्थानीय पुलिस द्वारा पकड़े गए एक आरोपी के पास से 18 अन्य लड़कियों की भी ऐसी ही एडिटेड तस्वीरें मिलीं। आरोपी इन तस्वीरों को ऑनलाइन अन्य अश्लील सामग्री के बदले बेच रहा था। इससे साफ है कि यह मामला एक बड़े नेटवर्क से जुड़ा हो सकता है।

यह भी पढ़ें: किस कंपनी पर मिलेगा सबसे सस्ता प्लान, Jio, Airtel या VI कौन सी सिम पर फायदा

“सामान्य जीवन जीना हुआ मुश्किल”

AI से बनाई गई ये तस्वीरें इतनी असली लगती हैं कि पीड़ितों के लिए सामान्य जीवन जीना बेहद कठिन हो गया है।

• जेन डो 1: एंग्जायटी, डिप्रेशन और बुरे सपनों का सामना कर रही हैं।
• जेन डो 2: स्कूल जाने और अपने ग्रेजुएशन समारोह में शामिल होने से डर रही हैं।

पीड़ितों को डर है कि ये तस्वीरें इंटरनेट पर हमेशा रहेंगी, जिससे उनके भविष्य, करियर और सामाजिक प्रतिष्ठा पर गहरा असर पड़ सकता है।

कंपनी और प्लेटफॉर्म का जवाब

हालांकि xAI की ओर से इस मामले पर कोई सीधा बयान नहीं आया है, लेकिन X ने अपनी “जीरो टॉलरेंस” नीति दोहराई है। कंपनी ने कहा है कि वे बिना सहमति के नग्नता और बाल यौन शोषण सामग्री (CSAM) के खिलाफ सख्त हैं और ऐसे मामलों को कानून प्रवर्तन एजेंसियों तक पहुंचाया जाता है।