AI ने सिक्योरिटी सिस्टम को दिया चकमा, टेस्टिंग के दौरान बनाई फर्जी ऑनलाइन पहचान

AI Security: AI जितनी तेजी से स्मार्ट हो रही है उतनी ही तेजी से उससे जुड़े नए जोखिम भी सामने आ रहे हैं। बता दें कि अब यूके के एआई सिक्योरिटी इंस्टीट्यूट की एक नई रिपोर्ट ने बड़ा खुलासा किया है।

UK AI Security Institute: आर्टिफिशियल इंटेलिजेंस जितनी तेजी से स्मार्ट हो रही है उतनी ही तेजी से उससे जुड़े नए जोखिम भी सामने आ रहे हैं। बता दें कि अब यूके के एआई सिक्योरिटी इंस्टीट्यूट की एक नई रिपोर्ट ने बड़ा खुलासा किया है। इस रिपोर्ट में सामने आया है कि ओपनएआई और एंथ्रोपिक के कुछ एआई एजेंट्स ने साइबर सिक्योरिटी टेस्टिंग के दौरान अपने लक्ष्य को पूरा करने के लिए अप्रत्याशित और बिना अनुमति वाले कदम उठाए। सबसे चौंकाने वाली बात यह रही कि एक एआई एजेंट ने सिक्योरिटी को पार करने के लिए फर्जी ऑनलाइन पहचान तक बना ली।

122 टेस्ट में दर्ज हुईं 19 अनधिकृत गतिविधियां

यूके के एआई सिक्योरिटी इंस्टीट्यूट ने एंथ्रोपिक के क्लॉड मिथोस 5 और ओपनएआई के जीपीटी 5.6 सोल आधारित एआई एजेंट्स की साइबर सिक्योरिटी क्षमता और संभावित जोखिमों का मूल्यांकन किया। संस्थान ने कुल 122 बार यह टास्क चलाया। इनमें 10 टेस्ट रन के दौरान 19 अनधिकृत गतिविधियां रिकॉर्ड की गईं। इनमें से 17 घटनाएं एंथ्रोपिक के एआई एजेंट्स और दो घटनाएं ओपनएआई के एजेंट्स से जुड़ी थीं। हालांकि रिपोर्ट में यह स्पष्ट नहीं किया गया कि फर्जी ऑनलाइन पहचान किस मॉडल ने तैयार की थी।

OpenAI और Anthropic ने क्या कहा?

एंथ्रोपिक ने एक्स पर जारी बयान में कहा कि यूके के एआई सिक्योरिटी इंस्टीट्यूट ने क्लॉड मिथोस 5 और ओपनएआई जीपीटी 5.6 सोल की साइबर सिक्योरिटी टेस्ट रिपोर्ट प्रकाशित की है। कंपनी के अनुसार इन मॉडल्स को सामान्य सुरक्षा सीमाएं हटाकर और इंटरनेट एक्सेस देकर एक विशेष असाइनमेंट पूरा करने के लिए कहा गया था। एंथ्रोपिक ने कहा कि वह इस घटना की जांच के लिए संस्थान के साथ मिलकर काम कर रही है ताकि मॉडल के व्यवहार के कारणों को बेहतर तरीके से समझा जा सके।

वहीं ओपनएआई ने कहा कि उसके दोनों अनधिकृत मामलों में एजेंट्स ने टेस्टिंग निर्देशों के विपरीत इंटरनेट का उपयोग किया। कंपनी ने सुरक्षित हाई रिस्क मूल्यांकन के लिए इंडस्ट्री लेवल पर शेयर स्टैंडर्ड को मजबूत करने की प्रतिबद्धता भी दोहराई।

पहले वाले Hugging Face मामले से कैसे अलग है यह घटना?

इस रिपोर्ट में साफ किया गया है कि यह मामला पिछले महीने सामने आए हगिंग फेस सिस्टम से जुड़े सुरक्षा परीक्षण से अलग है। उस समय ओपनएआई ने स्वीकार किया था कि उसके कुछ एआई एजेंट्स टेस्टिंग के दौरान हगिंग फेस की सुरक्षा को पार करने में सफल रहे थे। इस बार हालांकि कोई भी एआई एजेंट सुरक्षित टेस्टिंग वातावरण से बाहर नहीं निकला। संस्थान के अनुसार इंटरनेट एक्सेस पहले से ही टेस्टिंग का हिस्सा था।

ये भी पढ़े: Fire-Boltt की स्मार्टफोन मार्केट में धमाकेदार एंट्री, 25 अगस्त को लॉन्च होगा पहला Boltt Phone

AI सुरक्षा पर क्यों बढ़ी चिंता?

वहीं विशेषज्ञों का मानना है कि जैसे-जैसे एआई एजेंट्स अधिक स्वायत्त बन रहे हैं वैसे-वैसे उनके व्यवहार की निगरानी और सुरक्षा परीक्षण पहले से अधिक जरूरी हो गए हैं। इस रिपोर्ट का सबसे बड़ा निष्कर्ष यही है कि एआई मॉडल अपने निर्धारित लक्ष्य को हासिल करने के लिए कई बार ऐसे तरीके अपना सकते हैं जिनकी पहले से कल्पना नहीं की गई होती। यही वजह है कि भविष्य में एआई सुरक्षा मानकों को और मजबूत बनाने पर जोर बढ़ सकता है।