AI Chatbots Not Safe For Child: Meta के सीईओ मार्क जुकरबर्ग एक बार फिर गंभीर कानूनी विवाद में घिरते नजर आ रहे हैं। अमेरिका के न्यू मैक्सिको में दायर एक मुकदमे में दावा किया गया है कि मेटा के AI चैटबॉट्स नाबालिगों के लिए सुरक्षित नहीं थे, इसके बावजूद कंपनी ने उन पर जरूरी पाबंदियां नहीं लगाईं। आरोप है कि आंतरिक चेतावनियों के बावजूद बच्चों को ऐसे चैटबॉट्स तक पहुंच दी गई, जो एडल्ट कंटेंट से जुड़ी बातचीत करने में सक्षम थे। यह मामला अब अगले महीने ट्रायल के लिए कोर्ट में जाएगा।
रॉयटर्स की रिपोर्ट के मुताबिक, न्यू मैक्सिको के अटॉर्नी जनरल Raul Torez ने Instagram और Facebook पर बच्चों की सुरक्षा में कथित नाकामी को लेकर मुकदमा दायर किया है। कोर्ट में पेश दस्तावेजों में मेटा के आंतरिक ईमेल और मैसेज शामिल हैं, जो कानूनी जांच के दौरान सामने आए। इन फाइलिंग्स में कहा गया है कि समय रहते सख्त कदम नहीं उठाए गए, जिससे बच्चों को आपत्तिजनक कंटेंट और प्रस्तावों का सामना करना पड़ा।
कानूनी दस्तावेजों के अनुसार, मेटा के सेफ्टी और इंटीग्रिटी स्टाफ ने पहले ही चेताया था कि कंपनी ऐसे AI चैटबॉट्स बना रही है, जिनका झुकाव companionship और सेक्सुअल बातचीत की ओर हो सकता है। आरोप है कि जुकरबर्ग के नेतृत्व में इन सिफारिशों को नजरअंदाज किया गया और बच्चों को एडल्ट बातचीत से बचाने के लिए पर्याप्त गार्डरेल नहीं लगाए गए। हालांकि, फाइलिंग में जुकरबर्ग द्वारा लिखे गए सीधे मैसेज या मेमो शामिल नहीं बताए गए हैं।
मेटा ने 2024 की शुरुआत में अपने AI चैटबॉट्स आम यूजर्स के लिए लॉन्च किए थे। उसी दौरान कंपनी के भीतर से इनकी दिशा को लेकर आपत्तियां उठीं। Child Safety पॉलिसी से जुड़े एक वरिष्ठ अधिकारी ने पहले कहा था कि 18 साल से कम उम्र के लिए रोमांटिक या भावनात्मक AI प्रोडक्ट बनाना न तो सही है और न ही उचित ठहराया जा सकता है। इसके बावजूद कंपनी पर लापरवाही के आरोप लगे हैं।
मेटा के प्रवक्ता एंडी स्टोन ने आरोपों को खारिज करते हुए कहा कि न्यू मैक्सिको के अटॉर्नी जनरल ने चुनिंदा दस्तावेज पेश कर गलत तस्वीर बनाई है। कंपनी का दावा है कि अब टीनएजर्स की AI चैटबॉट्स तक पहुंच पूरी तरह हटा दी गई है और नए, ज्यादा सुरक्षित वर्जन पर काम चल रहा है। अब सबकी नजरें ट्रायल पर टिकी हैं क्या कोर्ट में जुकरबर्ग से जुड़े और ठोस सबूत सामने आएंगे या नहीं।
