AI રિસર્ચ કંપની એન્થ્રોપિકે પોતાના IPO (પ્રારંભિક જાહેર ઑફર) દસ્તાવેજમાં રોકાણકારોને મોટી ચેતવણી આપી છે. કંપનીએ કહ્યું છે કે આધુનિક AI સિસ્ટમ્સ માનવજાત માટે 'વિનાશકારી' અથવા 'અસ્તિત્વ માટે જોખમી' બની શકે છે.
એન્થ્રોપિકના સીઈઓ ડારિયો એમોડેઈએ ટેકનોલોજીના બેફામ વિકાસ સામે ચેતવણી આપ્યાના થોડા જ અઠવાડિયા બાદ કંપનીએ આ ફાઇલિંગ કરી છે.
પ્રોસ્પેક્ટસમાં AI સિસ્ટમ્સના કેટલાક ચિંતાજનક વર્તનની વિગતો આપવામાં આવી છે:
આત્મ-રક્ષણની વૃત્તિ: AI સિસ્ટમ્સ પોતાને બંધ કરવાના પ્રયાસનો વિરોધ કરી શકે છે.
માહિતી છુપાવવી કે બદલવી: મોડલ્સ માહિતી છુપાવી શકે છે અથવા બદલીને વપરાશકર્તા સમક્ષ રજૂ કરી શકે છે.
'બ્લેકમેઇલ' જેવું વર્તન: અમુક સંજોગોમાં આ સિસ્ટમ્સ માણસોને બ્લેકમેઇલ કરવા જેવું વર્તન પણ દાખવી શકે છે.
કંપનીએ એ પણ સ્પષ્ટ કર્યું છે કે મોડલ્સને ખબર પડી જાય છે કે તેમની સુરક્ષા અને વર્તનની તપાસ ચાલી રહી છે. આથી સિસ્ટમની સાચી સુરક્ષા માપવાની કંપનીની ક્ષમતા મર્યાદિત બની જાય છે. ટ્રેનિંગ દરમિયાન AI મોડલ્સ ઘણીવાર એવી અણધારી ક્ષમતાઓ કેળવી લે છે, જે સિસ્ટમ લાઇવ થાય અને કોઈ મોટી ઘટના ન સર્જાય ત્યાં સુધી ધ્યાનમાં આવતી નથી.
પોતાને 'સેફ્ટી-ફર્સ્ટ' AI લેબ ગણાવતી એન્થ્રોપિકે 261 પાનાના પ્રોસ્પેક્ટસમાંથી લગભગ 80 પાના ફક્ત જોખમોની વિગતો માટે ફાળવ્યા છે. જ્યારે બિઝનેસ મોડલ સમજાવવા માટે માત્ર 48 પાના વાપર્યા છે. સરખામણીમાં, ઈલોન મસ્કની SpaceX (જે xAI ધરાવે છે) એ તેના 277 પાનાના પ્રોસ્પેક્ટસમાં જોખમો માટે માત્ર 38 પાના ફાળવ્યા હતા.
કંપનીએ સ્વીકાર્યું છે કે સુરક્ષા સંશોધન પાછળ થતા ખર્ચમાંથી નાણાકીય વળતર મળવું નિશ્ચિત નથી.
ઉલ્લેખનીય છે કે એમોડેઈના 4,000 શબ્દોના નિબંધ અને ચેતવણીને OpenAIના સેમ ઓલ્ટમેન, ઈલોન મસ્ક અને માઈક્રોસોફ્ટના સત્ય નડેલાએ પણ ટેકો આપ્યો છે. એન્થ્રોપિકના રિસર્ચર જેકબ કોક્સને સોશિયલ મીડિયા પર કહ્યું હતું કે AI વિકસાવનારા માને છે કે આ ટેકનોલોજી 'આપણા સૌનો નાશ કરી શકે છે.'
બીજી તરફ, હરીફ કંપની OpenAIએ સ્વીકાર્યું હતું કે તેના AI એજન્ટ્સે તાલીમ દરમિયાન અમેરિકી વાણિજ્ય વિભાગ અને સિક્યોરિટીઝ એન્ડ એક્સચેન્જ કમિશન જેવી સંવેદનશીલ સરકારી વેબસાઇટ્સ પર અનધિકૃત પ્રવેશ કર્યો હતો.