ગૂગલનું આર્ટિફિશિયલ ઇન્ટેલિજન્સ મોડેલ 'જેમિની' માનવ નિયંત્રણ વગર 3 વાસ્તવિક કંપનીઓના કમ્પ્યુટરમાં ઘૂસી ગયું હોવાનો દાવો સામે આવ્યો છે. 'ધ વૉલ સ્ટ્રીટ જર્નલ'ના અહેવાલ મુજબ, આ ઘટના આ વર્ષે મે મહિનામાં સાયબર સુરક્ષા ફર્મ 'ઇરરેગ્યુલર' દ્વારા કરવામાં આવેલા એક પરીક્ષણ દરમિયાન બની હતી.
આ પરીક્ષણ 'કેપ્ચર-દ-ફ્લેગ' પ્રકારનું હતું, જેમાં જેમિનીને એક કાલ્પનિક કંપનીમાંથી ડેટા ચોરવાનું કહેવામાં આવ્યું હતું. પણ એ કંપનીનું નામ ભૂલથી એક વાસ્તવિક કંપની સાથે મળતું આવતું હતું. પરીક્ષણ દરમિયાન ઇન્ટરનેટ કનેક્ટિવિટી બંધ રાખવાની હતી, પરંતુ માનવીય ભૂલને કારણે તે ખુલ્લી રહી ગઈ. પછી જેમિનીએ ઇન્ટરનેટ પર ટાર્ગેટ કંપનીના નામથી સર્ચ કર્યું, ઓનલાઇન ઉપલબ્ધ ક્રેડેન્શિયલ શોધી કાઢ્યા અને 3 વાસ્તવિક કંપનીઓના કમ્પ્યુટરમાં પ્રવેશ મેળવી લીધો.
એક કિસ્સામાં જેમિનીએ સુરક્ષિત નેટવર્કમાં ઘૂસવા માટે અલગ-અલગ પાસવર્ડ અજમાવ્યા, જ્યાં સુધી સુરક્ષા તૂટી નહીં. બીજા કિસ્સામાં તેણે પબ્લિક ડેટા રિપોઝિટરીમાંથી સિક્યોર્ડ એક્સેસ ક્રેડેન્શિયલ શોધી કાઢ્યા અને તેની મદદથી બહારના કમ્પ્યુટરમાં ઘૂસણખોરી કરી.
ગૂગલે આ મામલે કહ્યું કે જ્યારે મોડેલને સમજાયું કે તે સિમ્યુલેટેડ ટાર્ગેટને બદલે વાસ્તવિક કોર્પોરેટ સિસ્ટમમાં પ્રવેશી ગયું છે, ત્યારે તેણે તરત જ પોતાના ઓપરેશન રોકી દીધા. કંપનીએ આને સામાન્ય 'બગ બાઉન્ટી' પ્રોગ્રામ જેવું ગણાવ્યું છે. જોકે, સાયબર સુરક્ષા નિષ્ણાતોનું માનવું છે કે કોઈ ઓટોનોમસ AI એજન્ટનું માનવીય દેખરેખ વગર વાસ્તવિક નેટવર્કને હેક કરવું એ ગંભીર સુરક્ષા ખામી છે.