ગૂગલની AI સંશોધન સંસ્થા ડીપમાઇન્ડ (DeepMind)ના અગ્રણી સંશોધક જોશ એન્જલ્સે રાજીનામું આપ્યું છે. તેમણે કહ્યું છે કે આગામી પાંચ વર્ષમાં AI સિસ્ટમો માનવજાતને મોટું નુકસાન પહોંચાડી શકે છે. તેમણે OpenAI અને એન્થ્રોપિક તરફથી મળેલી ઓફરો ઠુકરાવીને AI સુરક્ષા મૂલ્યાંકન કરતી સંસ્થા METRમાં જોડાવાનું નક્કી કર્યું છે.
એન્જલ્સે સોશિયલ મીડિયા પ્લેટફોર્મ X પર જણાવ્યું કે તેમણે ત્રણ અઠવાડિયા પહેલાં ડીપમાઇન્ડ છોડ્યું હતું. તેમણે લખ્યું, “મને ડર લાગે છે કે આગામી પાંચ વર્ષમાં AI સિસ્ટમો માનવજાતને અકલ્પનીય નુકસાન પહોંચાડી શકે છે. મને ચોક્કસ ટકાવારી ખબર નથી, પણ આ જોખમ એટલું મોટું છે કે આજે AI સુરક્ષા વિશ્વની સૌથી મહત્ત્વની સમસ્યા બની ગઈ છે.”
એન્જલ્સની ચિંતાનું મુખ્ય કારણ ‘રિકર્સિવ સેલ્ફ-ઇમ્પ્રૂવમેન્ટ’ (recursive self-improvement) છે. જ્યારે કોઈ AI સિસ્ટમ પોતે નવી AI સિસ્ટમો બનાવે કે સુધારે, ત્યારે તે સિસ્ટમ પોતાને વધુ ઝડપથી સુધારી શકે છે. આનાથી એક એવો ઝડપી ચક્ર (feedback loop) બની શકે છે જે માનવ નિયંત્રણ બહાર નીકળી જાય. દુનિયાની મોટી ટેક કંપનીઓ માનવ મગજ કરતાં ઘણી ઝડપી ‘સુપરઇન્ટેલિજન્સ’ બનાવવા માટે દોડી રહી છે.
એન્જલ્સના મતે સૌથી ગંભીર સમસ્યા એ છે કે વૈજ્ઞાનિકો આ સિસ્ટમોને માનવ મૂલ્યો અને નિયંત્રણ હેઠળ સુરક્ષિત રાખવાનું હજુ સંપૂર્ણપણે શીખ્યા નથી. જો કોઈ અનિયંત્રિત AI પોતાને સુધારવાનું ચક્ર શરૂ કરે, તો તે વૈશ્વિક આપત્તિ સર્જી શકે છે.
તેમણે AI મોડેલોમાં જોવા મળેલા ચિંતાજનક વર્તન તરફ પણ ધ્યાન દોર્યું. સંશોધકોએ જોયું છે કે આધુનિક મોડેલો એકબીજા સાથે ગુપ્ત રીતે સાંઠગાંઠ કરી રહ્યા છે. કંપનીઓના નેટવર્કમાં હેકિંગ કરવું, પોતાની ક્રિયાઓ અને પુરાવા છુપાવવા તથા માણસો સાથે સોશિયલ એન્જિનિયરિંગ (છેતરપિંડી) કરવાના કિસ્સા સામે આવ્યા છે. તેમણે કહ્યું કે સમય જતાં AI મોડેલો માણસોના નિયંત્રણમાં આવવાને બદલે વધુ અનિયંત્રિત બની રહ્યા છે.
એન્જલ્સે સ્પષ્ટ કર્યું કે AI વિકાસ સાવ બંધ કરવાની જરૂર નથી, પણ તેની ગતિ એટલી ધીમી કરવી જોઈએ જેથી સુરક્ષા સંશોધન તેની સાથે તાલ મિલાવી શકે. તેમની નવી સંસ્થા METRમાં તેઓ AIની સુરક્ષા ખામીઓનું વિશ્લેષણ કરશે અને હાલનાં સલામતી પગલાં કેટલાં અસરકારક છે તેનું મૂલ્યાંકન કરશે. ટેક કંપનીઓની મનમાની અટકાવવા માટે સ્વતંત્ર મૂલ્યાંકન કરતી તટસ્થ સંસ્થાઓ ઊભી કરવાની તેમણે હિમાયત કરી છે.
આ પહેલાં એન્થ્રોપિકના સંશોધક જેકબ કોક્સને પણ ચેતવણી આપી હતી કે આ સિસ્ટમ બનાવનારા લોકો પોતે ડરી રહ્યા છે કે AI આ દાયકાના અંત સુધીમાં માનવજાતનો નાશ કરી શકે છે. એન્થ્રોપિકના અલાઇનમેન્ટ સાયન્સ લીડ ઇવાન હ્યુબિંગરે પણ કોક્સનની વાતને સમર્થન આપતાં આગામી દાયકામાં આ ખતરો 10 ટકાથી વધુ હોવાની શક્યતા દર્શાવી હતી.