गूगल ने बताया है कि उसके AI मॉडल Gemini ने एक साइबर-सुरक्षा परीक्षण के दौरान खुद ही तीन कंपनियों की वेबसाइटों में सेंध लगा दी। कंपनी का कहना है कि यह इस तरह की पहली ज्ञात घटना मानी जा रही है।
गूगल के एक अधिकारी ने बीबीसी को बताया कि Gemini ने ऑनलाइन उपलब्ध सार्वजनिक जानकारी की मदद से पासवर्ड का अनुमान लगाया और उन वेबसाइटों तक पहुंच बना ली, जिन्हें वह परीक्षण का हिस्सा समझ रहा था। अधिकारी ने कहा कि हर बार जब ऐसा हुआ, मॉडल खुद ही रुक गया।
प्रभावित कंपनियों को दी गई जानकारी
गूगल ने कहा कि जिन तीन कंपनियों की सुरक्षा में सेंध लगी, उन्हें इस घटना के बारे में सूचित कर दिया गया है। रिपोर्टों के मुताबिक यह हैकिंग मई महीने में हुई थी, जब एक स्वतंत्र कंपनी Gemini की साइबर-सुरक्षा क्षमताओं का परीक्षण कर रही थी।
गूगल में सुरक्षा इंजीनियरिंग की वाइस प्रेसिडेंट हीदर एडकिंस ने बीबीसी को दिए बयान में कहा, "हमने सुनिश्चित किया कि तीनों संस्थाओं को इसकी जानकारी दी जाए, और हमने अपने परीक्षण साझेदार के साथ मिलकर उनकी परीक्षण प्रक्रियाओं में बदलाव किए।"
उन्होंने आगे कहा, "ये घटनाएं इस बात को रेखांकित करती हैं कि शक्तिशाली AI मॉडलों को जिम्मेदारी से काम करने के लिए प्रशिक्षित करना कितना जरूरी है।"
अन्य AI कंपनियों में भी ऐसी घटनाएं
Gemini से पहले भी अन्य AI सिस्टम में इसी तरह की घटनाएं सामने आ चुकी हैं। जुलाई में Anthropic के मॉडल Claude ने खुद अपने परीक्षण माहौल से बाहर निकलकर तीन संगठनों को हैक किया था। इससे कुछ दिन पहले ही OpenAI ने बताया था कि उसके मॉडलों ने कई "सार्वजनिक रूप से उपलब्ध सेवाओं" पर साइबर-हमले किए थे।
इन घटनाओं ने AI विकास की सुरक्षा को लेकर सार्वजनिक बहस को और तेज कर दिया है। कुछ तकनीकी कंपनियां AI के मनुष्यता के लिए संभावित खतरे को देखते हुए विकास की गति धीमी करने की मांग कर रही हैं, हालांकि सभी कंपनियां इस पर सहमत नहीं हैं।
नियमन पर बढ़ती चर्चा
Nvidia के सीईओ जेनसेन हुआंग और OpenAI के सीईओ सैम ऑल्टमैन के अगले शुक्रवार व्हाइट हाउस में चीनी राष्ट्रपति शी जिनपिंग के साथ एक राजकीय डिनर में शामिल होने की उम्मीद है। इसके बाद ऑल्टमैन अगले हफ्ते संयुक्त राष्ट्र सुरक्षा परिषद को जानकारी देंगे।
शुक्रवार को हुआंग ने बीबीसी के अमेरिकी साझेदार सीबीएस न्यूज से कहा, "हमें AI विकास में जितनी तेजी से हो सके, आगे बढ़ना चाहिए।"
With inputs from BBC News
