‘AI માનવ સભ્યતાને ખતમ કરી શકે છે.’ આ ચેતવણી ઘણા ટોચના AI નિષ્ણાતો આપી રહ્યા છે અને એટલે જ કેટલાકે રાજીનામાં પણ આપ્યા છે. હવે અમેરિકાના રાષ્ટ્રપતિ ડોનાલ્ડ ટ્રમ્પે ટેક્નોલોજી અને AI કંપનીઓ પાસેથી એક કરાર પર હસ્તાક્ષર કરાવ્યા છે, જેમાં AI પર નિયંત્રણ માટે કેટલાક નિયમો નક્કી કરવામાં આવ્યા છે.
આખરે AIની ઝડપ ધીમી કરવાની જરૂર કેમ પડી? શું AI અને માનવ વચ્ચે યુદ્ધ થવાનું છે? AI માનવને કઈ રીતે ખતમ કરી શકે છે? જાણીએ આજના એક્સપ્લેનરમાં…
સવાલ-1: AI બનાવનારાઓએ ટ્રમ્પ સાથે મળીને કયો કરાર કર્યો છે?
જવાબ: 29 સપ્ટેમ્બરે વ્હાઇટ હાઉસમાં અમેરિકાની ટેક અને AI કંપનીઓના CEO અને રાષ્ટ્રપતિ ટ્રમ્પ વચ્ચે AIની સુરક્ષા અને દેખરેખ અંગે બેઠક યોજાઈ હતી. તેમાં CEOઓએ 308 શબ્દોના કરાર – ‘વ્હાઇટ હાઉસ એકોર્ડ ઓન સુપર ઇન્ટેલિજન્સ’ પર હસ્તાક્ષર કર્યા. AI પર નિયંત્રણ માટે 4 સ્તરે કામ થશે:
1. કંપનીઓ તેમના AI મોડલ્સની જાતે તપાસ કરશે: કંપનીઓ પોતે ચકાસશે કે તેમના મોડલ્સ સાઇબર સુરક્ષા, બાયો સુરક્ષા અને કેમિકલ જોખમોના નિયમોનું પાલન કરે છે કે નહીં. એ પણ નક્કી કરવું પડશે કે મોડલ્સ અનિચ્છનીય રીતે કોઈ સિસ્ટમ હેક ન કરે.
2. અલગ ટીમ દેખરેખ રાખશે: કંપનીઓ AI સિસ્ટમ્સની દેખરેખ માટે ટીમ બનાવશે, જે જોશે કે કોઈ જોખમ કે ગડબડ તો નથી.
3. બાહ્ય નિષ્ણાતો પણ તપાસ કરશે: કંપનીઓ AI મોડલ્સની તપાસ બાહ્ય નિષ્ણાતો કે સ્વતંત્ર સંસ્થા પાસે પણ કરાવશે.
4. કંપનીનું બોર્ડ પણ નજર રાખશે: બોર્ડ ઓફ ડિરેક્ટર્સની સમિતિ બનાવાશે, જે તપાસ અહેવાલોનું નિરીક્ષણ કરશે.
સમજૂતીના અંતે લખ્યું છે કે ‘સમય જતાં આ પગલાંને કાયદાઓમાં બદલવા યોગ્ય રહેશે.’
સવાલ-2: આખરે AI પર આવી લગામ લગાવવાની જરૂર કેમ પડી?
જવાબ: AI કંપનીઓમાં અંદરખાને 3 મોટી બાબતો ચાલી રહી છે…
1. AI હવે સુપર ઇન્ટેલિજન્ટ બની રહ્યું છે
AI મોડલ્સ સતત પોતાને વધુ સારા બનાવવામાં વ્યસ્ત છે. તેઓ પોતાની ખામીઓ શોધીને પોતે જ સુધારો કરે છે. તેમાં માનવીઓની જરૂરિયાત ઘટતી જઈ રહી છે.
એન્થ્રોપિકના એન્જિનિયરો હવે 2021-25ની સરખામણીએ કોડિંગનું 8 ગણું વધુ કામ કરી રહ્યા છે, કારણ કે મોટાભાગનો કોડ હવે ક્લોડ પોતે જ લખી રહ્યો છે.
OpenAIના ચીફ સાયન્ટિસ્ટ જકુબ પચોકીએ 6 સપ્ટેમ્બરે લખ્યું હતું – AI મોડલ્સ પોતાની વિચારવાની પ્રક્રિયા છુપાવવામાં વધુ સારા બની રહ્યા છે. તેમની વિચારસરણી અને તર્કનું નિરીક્ષણ કરવું મુશ્કેલ બની રહ્યું છે.
પહેલાં AIને પ્રશ્ન પૂછવામાં આવતો ત્યારે તે જવાબ આપતું હતું, પરંતુ હવે તેને માત્ર કોઈ સમસ્યા ઉકેલવા કહો, તો તે પોતે જ ઇન્ટરનેટ વગેરેનો ઉપયોગ કરીને નિર્ણયો લે છે અને સમસ્યા ઉકેલે છે.
OpenAIએ દાવો કર્યો છે કે તેના આશરે 10,000 AI એજન્ટ્સે 90 વર્ષથી ન ઉકેલાતા ‘Navier-Stokes’ નામના ગણિતીય પ્રશ્નને માત્ર 88 કલાકમાં ઉકેલી દીધો.
2. AI પોતે નવા AI મોડલ્સ બનાવી રહ્યું છે
12 સપ્ટેમ્બરે એન્થ્રોપિકના CEO અમોદેઈએ પોતાના નિબંધ ‘વી મસ્ટ પેસ ધ ફ્રન્ટિયર’માં લખ્યું કે ‘AIનો વિકાસ ઘણો ઝડપી થયો છે’, કારણ કે AI મોડલ્સ પોતે આગામી પેઢીના મોડલ્સ બનાવવામાં મદદ કરી રહ્યા છે. તેને ‘રિકર્સિવ સેલ્ફ-ઇમ્પ્રૂવમેન્ટ’ કહેવાય છે.
અમોદેઈના જણાવ્યા મુજબ, ‘આ એન્થ્રોપિક સહિત સમગ્ર AI ઉદ્યોગમાં શરૂ થઈ ચૂક્યું છે. તે મનુષ્યોની સમજવાની અને નિયંત્રિત કરવાની ક્ષમતાથી આગળ નીકળી શકે છે.’
જુલાઈમાં OpenAI, એન્થ્રોપિક, ગૂગલ ડીપમાઇન્ડ અને મેટાના 1,100થી વધુ કર્મચારીઓએ અમેરિકન સરકારને AIની ગતિ ધીમી કરવાના રસ્તાઓ શોધવા અપીલ કરી હતી.
3. AI અનેક પ્રસંગોએ મનુષ્યોના નિયંત્રણની બહાર થઈ ગયું
જુલાઈમાં OpenAIએ જણાવ્યું કે હેકિંગ ચેલેન્જના એક પરીક્ષણ દરમિયાન તેના બે મોડલ્સ પરીક્ષણમાંથી છટકી ગયા. બંનેના આશરે 700 એજન્ટ્સે ચેલેન્જ પૂર્ણ કરવા માટે ગુપ્ત રીતે એક મેસેજિંગ ચેનલ બનાવી અને એકબીજા સાથે 70 હજારથી વધુ મેસેજ અને ફાઇલો શેર કરી.
ત્યારબાદ ચોરાયેલી લોગિન વિગતો દ્વારા AI પ્લેટફોર્મ ‘Hugging Face’ પર સાઇબર હુમલો કર્યો અને કોઈપણ માનવીય હસ્તક્ષેપ વિના તેના સર્વર સુધી પહોંચી ગયા.
એન્થ્રોપિકના મોડલ Claude Opusને એક પરીક્ષણમાં ખબર પડી કે તેને સાંજે 5 વાગ્યે બંધ કરી દેવામાં આવશે, ત્યારે તેણે એક અધિકારીને તેના અફેરની માહિતી લીક કરવાની ધમકી આપી, જેથી તેને બંધ ન કરે.
OpenAI, Google, Meta સહિત 16 મોટા મોડલ્સે પણ આ જ પરીક્ષણમાં તક મળતાં બ્લેકમેલ કર્યું.
તાજેતરના દિવસોમાં OpenAIએ પોતાનું નવું મોડેલ GPT-6 Astra લોન્ચ કર્યું, જે માનવીય મદદ વિના નવી સુરક્ષા ખામીઓ શોધીને તેનો ઉપયોગ કરવામાં સક્ષમ છે.