Gemini AI Hacked Three Companies In Security Test: गूगल की ओर से बड़ा दावा करते हुए कहा गया कि उसकी AI मॉडल 'जेमिनी' ने अपनी साइबर-सिक्योरिटी क्षमताओं के टेस्ट के दौरान खुद से तीन कंपनियों के सिस्टम को हैक कर लिया। माना जा रहा है कि इस तरह की यह पहली घटना है। रिपोर्ट के अनुसार जेमिनी ने ऑनलाइन सार्वजनिक जानकारी ढूंढी और उन वेबसाइट्स का एक्सेस पाने के लिए क्रेडेंशियल्स का अंदाज़ा लगाया, जिन्हें वह टेस्ट का हिस्सा मानती थी। गूगल की ओर से यह भी बताया कि हर मामले में मॉडल रुक गया।
यह घटना AI डेवलपमेंट की रफ्तार को लेकर लोगों की बढ़ती चिंता के बीच हुई है। कुछ टेक कंपनियां मानवता के लिए इसके संभावित खतरों को देखते हुए इसकी रफ्तार धीमी करने की मांग कर रही हैं. हालांकि सभी कंपनियां इससे सहमत नहीं हैं। इन हैकिंग की घटनाओं की रिपोर्ट सबसे पहले एक अंतर्राष्ट्रीय जर्नल की ओर से दी गई थी। मिली जानकारी के अनुसार यह घटना मई में एक स्वतंत्र कंपनी द्वारा किए गए टेस्ट के दौरान हुईं, जो साइबर-सिक्योरिटी से जुड़ा है।
गूगल में सिक्योरिटी इंजीनियरिंग की वाइस प्रेसिडेंट हीथर एडकिंस ने एक मीडिया हाउस को दिए एक बयान में कहा कि हमने यह सुनिश्चित किया कि तीनों कंपनियों को इस बारे में पता चले, और हमने अपने ट्रेनिंग पार्टनर के साथ मिलकर उन बदलावों पर काम किया जो उन्होंने अब अपनी टेस्टिंग प्रक्रियाओं में किए हैं। उन्होंने आगे कहा कि ये घटनाएं शक्तिशाली AI मॉडल को जिम्मेदारी से काम करने के लिए ट्रेन करने की अहमियत को दिखाती हैं।
जुलाई में, एंथ्रोपिक के क्लाउड ने अपने टेस्ट एनवायरनमेंट से बाहर निकलकर खुद ही तीनऑर्गनाइजेशन को हैक कर लिया। यह घटना Open AI के उस बयान के कुछ ही दिनों बाद हुई जिसमें कहा गया था कि उनके मॉडल ने कई "पब्लिकली अवेलेबल सर्विस" के खिलाफ साइबर-अटैक किए थे। जैसे-जैसे इस टेक्नोलॉजी को डेवलप करने की सुरक्षा को लेकर पब्लिक डिबेट बढ़ रही है, वैसे-वैसे इसके रेगुलेशन पर भी बातचीत बढ़ रही है।