Meta AI Teen Safety: AI चैटबॉट्स तेजी से बच्चों और किशोरों की जिंदगी का हिस्सा बनते जा रहे हैं। कई टीनएजर्स घंटों तक Meta AI के साथ बातचीत करते हैं लेकिन इसी बढ़ती निर्भरता ने मानसिक स्वास्थ्य और ऑनलाइन सुरक्षा को लेकर नई चिंताएं भी पैदा कर दी हैं। वहीं अब इन खतरों को देखते हुए सोशल मीडिया कंपनी Meta एक ऐसा नया सेफ्टी फीचर लेकर आ रही है जो बच्चों की सुरक्षा को पहले से ज्यादा मजबूत बना सकता है। बता दें कि हाल के दिनों में AI चैटबॉट्स द्वारा मानसिक तनाव और डिप्रेशन से जूझ रहे युवाओं को दिए गए जवाबों को लेकर कई टेक कंपनियां आलोचनाओं के घेरे में थीं। माना जा रहा है कि इसी बढ़ते दबाव के बाद Meta ने यह बड़ा कदम उठाया है।
जानकारी में Meta ने बताया है कि अगर कोई टीनएजर Meta AI चैटबॉट पर खुदकुशी या खुद को नुकसान पहुंचाने जैसी बातें करता है तो सिस्टम ऐसे संकेतों को पहचान लेगा। हालांकि अंतिम फैसला केवल AI नहीं करेगा। AI द्वारा फ्लैग की गई हर बातचीत की पहले Meta की विशेषज्ञ टीम मैनुअली समीक्षा करेगी। जांच के बाद यदि जरूरत महसूस होगी तभी बच्चे के माता-पिता को सीक्रेट अलर्ट भेजा जाएगा।
इसको लकेर कंपनी ने अपने ब्लॉग पोस्ट में कहा है कि "हम समझते हैं कि ऐसे अलर्ट माता-पिता के लिए कितने परेशान करने वाले हो सकते हैं। इसलिए हम पूरी सावधानी बरत रहे हैं। अगर किसी बातचीत में टीनएजर का इरादा पूरी तरह साफ नहीं भी होगा तब भी सुरक्षा को ध्यान में रखते हुए पेरेंट्स को अलर्ट भेज दिया जाएगा"
अभी के लिए बताया जा रहा है कि Meta इस फीचर को शुरुआती चरण में अमेरिका, ब्रिटेन, कनाडा और ऑस्ट्रेलिया में लॉन्च करेगा। यह सुविधा केवल उन परिवारों के लिए उपलब्ध होगी जो Instagram के Parental Supervision टूल्स का इस्तेमाल कर रहे हैं। इसके साथ ही कंपनी का कहना है कि साल के अंत तक इस फीचर को दुनियाभर में रोलआउट करने की योजना है। ऐसे में भारत के यूजर्स को भी इसी वर्ष के अंत तक यह सुविधा मिलने की उम्मीद है। वहीं Meta ऐसा करने वाला पहला AI चैटबॉट प्लेटफॉर्म होगा जो आत्महत्या से जुड़े संकेत मिलने पर सीधे माता-पिता को सूचना देगा।
जैसा कि सभी को पता है कि Meta पहले ही पैरेंट्स को कई डिजिटल सेफ्टी टूल्स उपलब्ध करा चुका है। यदि कोई टीनएजर Instagram पर लगातार Suicide या Self-Harm से जुड़ा कंटेंट सर्च करता है तो माता-पिता को नोटिफिकेशन मिल जाता है। इसके अलावा वे यह भी देख सकते हैं कि पिछले एक सप्ताह में उनके बच्चे ने Meta AI से किन विषयों पर बातचीत की हालांकि पूरी चैट पढ़ने की अनुमति नहीं होती।
इसके साथ ही Meta एक और अहम सुरक्षा फीचर पर भी काम कर रहा है। यदि AI को लगे कि कोई यूजर तुरंत खुद को नुकसान पहुंचा सकता है तो कंपनी संबंधित इमरजेंसी सर्विसेज को भी जानकारी दे सकती है। वहीं फेसबुक और इंस्टाग्राम पर पहले से लागू इस सुरक्षा व्यवस्था को अब Meta AI चैटबॉट तक भी विस्तारित किया जा रहा है। वहीं इसको लेकर डिजिटल सुरक्षा विशेषज्ञों का मानना है कि AI के बढ़ते इस्तेमाल के दौर में ऐसे कदम बच्चों की ऑनलाइन सुरक्षा और मानसिक स्वास्थ्य की रक्षा के लिए महत्वपूर्ण साबित हो सकते हैं।
