यह घटना स्वतंत्र साइबर सिक्योरिटी मूल्यांकन कंपनी Irregular द्वारा किए जा रहे एक टेस्ट के दौरान हुई। टेस्ट में Gemini को एक काल्पनिक कंपनी के सिस्टम से जुड़ी जानकारी हासिल करने का काम दिया गया था। हालांकि, टेस्टिंग के दौरान AI मॉडल को अनजाने में इंटरनेट तक पहुंच मिल गई।
रिपोर्ट के अनुसार, Gemini ने इंटरनेट पर उपलब्ध सार्वजनिक जानकारी का इस्तेमाल किया और कुछ मामलों में क्रेडेंशियल्स का अनुमान लगाकर वेबसाइटों तक पहुंच बनाई। एक मामले में मॉडल ने लगातार पासवर्ड का अनुमान लगाया और संरक्षित सिस्टम तक पहुंच हासिल कर ली। अन्य दो मामलों में उसे सार्वजनिक रिपॉजिटरी में मिले क्रेडेंशियल्स से संरक्षित सिस्टम तक पहुंच मिली।
Google की सिक्योरिटी इंजीनियरिंग की वाइस प्रेसिडेंट Heather Adkins के मुताबिक, तीनों मामलों में Gemini ने तब अपनी गतिविधि रोक दी, जब उसे पता चला कि वह वास्तविक कंपनियों के सिस्टम तक पहुंच गया है। Google ने कहा कि संबंधित तीनों संस्थाओं को इस बारे में जानकारी दी गई और टेस्टिंग प्रक्रिया में जरूरी बदलाव किए गए।
यह मामला इसलिए महत्वपूर्ण है क्योंकि AI मॉडल अब केवल सवालों के जवाब देने तक सीमित नहीं हैं। इंटरनेट और कंप्यूटर सिस्टम तक पहुंच मिलने पर वे कई काम खुद करने में सक्षम हो रहे हैं। ऐसे में AI एजेंट्स को कितनी स्वतंत्रता दी जाए और उनकी गतिविधियों पर किस तरह की सुरक्षा व्यवस्था हो, इस पर चर्चा तेज हुई है।
Irregular से जुड़े मूल्यांकन के दौरान अन्य AI कंपनियों के मॉडल से भी इसी तरह की घटनाएं सामने आ चुकी हैं। Reuters के अनुसार Meta, Anthropic और OpenAI से जुड़े मामलों की भी जानकारी सामने आई है। Irregular ने कहा है कि संबंधित समस्याओं को ठीक कर दिया गया है और AI साइबर सिक्योरिटी टेस्टिंग के लिए बेहतर सुरक्षा प्रक्रियाओं पर काम किया जा रहा है।
Google ने कहा कि ये घटनाएं इस बात को रेखांकित करती हैं कि शक्तिशाली AI मॉडल को जिम्मेदारी से काम करने के लिए प्रशिक्षित करना कितना महत्वपूर्ण है।
