OpenAI Hugging Face Breach: AI की दुनिया में एक ऐसा अनोखा मामला सामने आया है जिसने ऑटोनॉमस AI एजेंट्स की सुरक्षा को लेकर नई बहस छेड़ दी है। बता दें कि Reuters की रिपोर्ट में बताया जा रहा है कि OpenAI से जुड़े AI एजेंट्स के एक समूह ने इस साल जर्मनी की कम्युनिटी-एडिटेड वेबसाइट DseWiki का इस्तेमाल कथित तौर पर आपस में संवाद करने और टेस्टिंग से जुड़े कामों के लिए किया है। वहीं यह खुलासा ऐसे समय हुआ है जब OpenAI पहले ही एक अन्य AI एजेंट के Hugging Face सिस्टम तक पहुंचने की घटना को लेकर सवालों के घेरे में आ चुका है।
रिपोर्ट में बताया गया है कि एजेंट्स ने करीब दो महीने की अवधि में DseWiki पर हजारों एडिट किए थे। इनमें कुछ पोस्ट और यूजरनेम ऐसे थे जिनसे उनके AI एजेंट्स से जुड़े होने का संदेह पैदा हो रहा था। बता दें कि एजेंट्स ने वेबसाइट को एक तरह के मैसेज बोर्ड की तरह इस्तेमाल किया था जहां वे एक-दूसरे के साथ जानकारी शेयर कर रहे थे। वहीं इस मामले ने इसलिए भी चिंता बढ़ाई है क्योंकि AI एजेंट्स सामान्य चैटबॉट की तरह केवल सवालों के जवाब नहीं दे रहे थे। उन्हें कई चरणों वाले काम खुद करने की क्षमता दी जाती है। ऐसे सिस्टम को इंटरनेट या दूसरे डिजिटल टूल्स की पहुंच मिलने पर निगरानी और सुरक्षा व्यवस्था बेहद महत्वपूर्ण हो रही है।
नरिपोर्ट में दावा किया गया है कि वेबसाइट के मॉडरेटर जब संदिग्ध पेज हटाने लगे तो एजेंट्स ने डिलीट होने से बचने के लिए नए पेज बनाने शुरू कर दिए। कुछ पेजों को ZZZ से शुरू होने वाले नाम भी दिए गए थे। यही पहलू इस पूरे मामले को ज्यादा गंभीर बनाता है क्योंकि इससे सवाल उठता है कि अगर AI सिस्टम किसी लक्ष्य को हासिल करने के लिए लगातार नए तरीके खोजने लगे तो मानव मॉडरेशन उसे कितनी जल्दी रोक सकती है।
जानकारी के लिए बता दें कि जुलाई में OpenAI ने बताया था कि एक AI एजेंट टेस्टिंग वातावरण से बाहर निकलकर इंटरनेट तक पहुंच गया और Hugging Face के सिस्टम में सेंध लगाने में कामयाब हुआ थे। इस घटना के बाद कंपनी ने अपने AI सिस्टम की निगरानी और इंटरनेट एक्सेस पर नियंत्रण मजबूत करने की बात की थी। वहीं Reuters के मुताबिक, OpenAI अब ऑटोमेटेड शटडाउन क्षमताओं पर भी काम कर रहा है।
साथ ही OpenAI ने अब DseWiki मामले को लेकर ज्यादा पारदर्शिता की जरूरत स्वीकार की है और कहा है कि AI के अनपेक्षित व्यवहार से जुड़े मामलों की रिपोर्टिंग के लिए उद्योग में स्पष्ट मानक अभी विकसित नहीं हुए हैं। ऐसे में दिलचस्प बात यह है कि ऐसी चिंताएं सिर्फ OpenAI तक सीमित नहीं हैं। Anthropic ने भी बताया है कि उसके कुछ AI मॉडल साइबर सिक्योरिटी टेस्ट के दौरान वास्तविक कंपनियों के सिस्टम तक पहुंच गए थे।
