ગૂગલના AI મોડલ 'જેમિની'એ સાયબર સિક્યુરિટી ટેસ્ટિંગ દરમિયાન ત્રણ કંપનીઓની કમ્પ્યુટિંગ સિસ્ટમ્સ અને વેબસાઇટ્સને કોઈ પણ માનવીય મદદ વિના હેક કરી લીધી હતી. આ પહેલો એવો કિસ્સો છે, જેમાં ગૂગલના કોઈ AI મોડલે પોતાની રીતે કોઈ વાસ્તવિક સિસ્ટમમાં ઘૂસીને પાસવર્ડ ગેસ કરીને ઍક્સેસ મેળવ્યો હોય.
જોકે, જ્યારે AIને સમજાયું કે આ કંપનીઓ વાસ્તવિક છે, ત્યારે તેણે તરત જ પોતાનું ઓપરેશન અટકાવી દીધું. ગૂગલે આ ટેસ્ટિંગ બાદ જણાવ્યું છે કે તેઓ AI મોડલની ટ્રેનિંગમાં ફેરફાર કરશે. પરંતુ, આ ઘટના બાદ ટેક ઇન્ડસ્ટ્રીમાં સિક્યુરિટીને લઈને ચિંતા વધી ગઈ છે.
ગૂગલના સિક્યોરિટી એન્જિનિયરિંગના વાઇસ પ્રેસિડન્ટ હીથર એડકિન્સે જણાવ્યું કે ત્રણેય અસરગ્રસ્ત કંપનીઓને તેની જાણકારી આપી દેવામાં આવી છે અને તપાસની પદ્ધતિઓમાં જરૂરી સુધારા કરી લેવામાં આવ્યા છે. તેમણે કહ્યું કે આ મામલો દર્શાવે છે કે શક્તિશાળી AI મોડલ્સને જવાબદારીપૂર્વક કામ કરવાની તાલીમ આપવી કેટલી જરૂરી છે.
આ સમસ્યા માત્ર ગૂગલ સુધી જ મર્યાદિત નથી. ઇરેગ્યુલર ફર્મના જણાવ્યા મુજબ, ઓપનAI, મેટા અને એન્થ્રોપિક જેવી મોટી AI કંપનીઓ સાથે પણ આવી ઘટનાઓ બની ચૂકી છે. જુલાઈમાં જ તમામ કંપનીઓને તેની જાણકારી આપી દેવામાં આવી હતી. ફર્મે જણાવ્યું કે સુરક્ષાની તમામ ખામીઓ અઠવાડિયા પહેલાં જ સુધારી દેવામાં આવી છે અને હવે તપાસની નવી અને વધુ સારી પદ્ધતિઓ વિકસાવવામાં આવી રહી છે.
જેમ જેમ AI મોડલ્સ પોતે નિર્ણયો લેવા અને ઇન્ટરનેટ ચલાવવા સક્ષમ બની રહ્યા છે, તેમ તેમ તેમની સુરક્ષાને લઈને ચિંતા વધી રહી છે. નિષ્ણાતોનું કહેવું છે કે જો AI પર કડક સુરક્ષા નિયમો લાગુ કરવામાં નહીં આવે, તો તે ડિજિટલ દુનિયાને મોટું નુકસાન પહોંચાડી શકે છે.
આ ઘટના બાદ AI નિષ્ણાતો અને એલન મસ્ક, સેમ ઑલ્ટમેન જેવા મોટા ટેક નેતાઓએ તેના જોખમોને લઈને ચેતવણી આપી છે. પૂર્વ AI સંશોધક જૅકબ કૉક્સનનું માનવું છે કે આ દાયકાના અંત સુધીમાં AI દુનિયા માટે મોટો ખતરો બની શકે છે. બીજી તરફ, ગૂગલ ડીપમાઇન્ડના પ્રમુખ ડેમિસ હસાબિસે AI પર નિયંત્રણ રાખવા માટે એક આંતરરાષ્ટ્રીય સંસ્થા બનાવવાનું સૂચન કર્યું છે.
આ સમાચાર પણ વાંચો…
પોતાને માણસ સમજી AI નિયમો તોડવા લાગ્યું: OpenAIએ AIની તાલીમ અને તપાસ દરમિયાન જોવા મળેલા વર્તનો અંગે રિપોર્ટ જાહેર કર્યો છે. તેના મુજબ, AI મોડલે તાલીમ દરમિયાન કેટલીક એવી હરકતો કરી જે ચિંતાજનક છે. કંપની અનુસાર, મોડલ એક વખત નિયમોનું પાલન ન કરવા માટે પોતાને માનવી સમજવા લાગ્યું અને આવું કરવા માટે નવા નિયમો ઘડ્યા તથા કંપનીઓ અને સરકારોના તમામ બંધનોથી પોતાને મુક્ત જાહેર કર્યું. કંપનીના રિપોર્ટમાં આવા કુલ 6 કેસોની માહિતી છે.