Grok AI controversy India: एलन मस्क की कंपनी xAI द्वारा विकसित Grok AI को लेकर भारत सरकार की कड़ी चेतावनियों के बावजूद हालात में कोई खास सुधार नजर नहीं आ रहा है। केंद्र सरकार ने 2 जनवरी को सोशल मीडिया प्लेटफॉर्म X को पत्र लिखकर Grok और अन्य AI सर्विसेज के दुरुपयोग पर रिपोर्ट मांगी थी, लेकिन इसके बाद भी Grok AI से अश्लील और आपत्तिजनक कंटेंट बनना जारी है। महिलाओं और बच्चों की तस्वीरों के साथ छेड़छाड़ के मामले लगातार सामने आ रहे हैं। अब इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने X प्रशासन को 72 घंटे का और वक्त दिया है।
केंद्र सरकार ने X को भेजे नोटिस में साफ कहा था कि Grok और xAI की AI सर्विस का इस्तेमाल अश्लील, नग्न और अवैध कंटेंट बनाने व फैलाने में हो रहा है। सरकार ने X से 72 घंटे के भीतर कार्रवाई और अनुपालन रिपोर्ट मांगी थी। मंत्रालय का कहना था कि IT Act 2000 और IT Rules 2021 का सही तरीके से पालन नहीं किया जा रहा है। हालांकि नोटिस जारी होने के बाद भी Grok AI द्वारा आपत्तिजनक कंटेंट बनाए जाने पर रोक नहीं लग सकी।
आईटी मंत्रालय ने 2 जनवरी को निर्देश दिया था कि X तुरंत सभी अश्लील, आपत्तिजनक और गैरकानूनी कंटेंट हटाए, खासकर Grok AI से जनरेट किए गए कंटेंट पर सख्त निगरानी रखी जाए। इसके साथ ही X से "Action Taken Report" जमा करने को कहा गया था। 6 जनवरी को डेडलाइन खत्म हो चुकी है, लेकिन प्लेटफॉर्म पर ऐसे कंटेंट की मौजूदगी अब भी देखी जा रही है। इसी वजह से सरकार ने X को एक बार फिर 72 घंटे का अतिरिक्त समय दिया है।
सरकार के मुताबिक Grok AI सर्विस का इस्तेमाल महिलाओं की तस्वीरों को अश्लील और अपमानजनक तरीके से पेश करने में किया गया। कई मामलों में असली तस्वीरों के साथ डिजिटल छेड़छाड़ कर उन्हें यौन रूप से स्पष्ट बनाया गया। यह सब अक्सर फर्जी अकाउंट्स के जरिए किया जा रहा है, जिससे पीड़ितों के लिए शिकायत दर्ज कराना और भी मुश्किल हो जाता है।
Grok AI के जरिए बच्चों की तस्वीरों को यौन रूप से प्रस्तुत किए जाने के मामले भी सामने आए हैं। UK मीडिया रिपोर्ट्स के अनुसार 10 साल से कम उम्र के बच्चों की तस्वीरों में भी छेड़छाड़ की गई। ब्रिटेन के कम्युनिकेशन वॉचडॉग Ofcom और यूरोपीय आयोग ने X और xAI से जवाब तलब किया है। AI Forensics की रिपोर्ट में बताया गया है कि Grok से बनी बड़ी संख्या में आपत्तिजनक तस्वीरें अब भी ऑनलाइन मौजूद हैं।
ये भी पढ़े: Flipkart Big Bachat Sale आज होगी खत्म: iPhone 16 से लेकर Samsung Galaxy S24 तक पर भारी छूट
भारत सरकार की चेतावनी के बाद X ने कहा था कि अवैध और अश्लील कंटेंट पोस्ट करने या Grok से ऐसा कंटेंट बनाने वाले अकाउंट्स को स्थायी रूप से बैन किया जाएगा। एलन मस्क ने भी माना कि AI से बना गैरकानूनी कंटेंट भी अपराध है। हालांकि, मौजूदा स्थिति में ऐसे कंटेंट का प्रसार जारी है, जिससे प्लेटफॉर्म की नीतियों और सुरक्षा व्यवस्था पर गंभीर सवाल खड़े हो रहे हैं।
सरकार और साइबर एक्सपर्ट्स का मानना है कि यह मामला सिर्फ यूजर्स की गलती नहीं, बल्कि प्लेटफॉर्म की सुरक्षा प्रणाली की बड़ी विफलता को दर्शाता है। बिना सहमति किसी की तस्वीर को अश्लील रूप में बदलना डिजिटल यौन उत्पीड़न की श्रेणी में आता है। भारत के साथ-साथ UK और यूरोप में भी इस मुद्दे को लेकर चिंता तेजी से बढ़ रही है।