ChatGPT બનાવતી કંપની OpenAIએ પોતાનું નવું AI મોડેલ GPT-6.1 Astra જાહેર જનતા માટે રિલીઝ ન કરવાનો નિર્ણય લીધો છે. કંપનીએ જણાવ્યું કે આ સિસ્ટમ તેમના સુરક્ષા માપદંડો પર ખરી ઉતરી ન હતી, તેથી તેને બહાર પાડવી યોગ્ય નથી. આ મોડેલ વેબ બ્રાઉઝ કરી શકે અને જાતે જ એપ્સ ચલાવી શકે તેવી ક્ષમતા ધરાવે છે, એટલે કે માણસના કહ્યા વગર પણ કામ કરી શકે છે.
OpenAIના સેફ્ટી સિસ્ટમ્સ હેડ સાચી જૈને કહ્યું કે, આ મોડેલ નક્કી કરેલી અધિકૃત મર્યાદામાં રહી શક્યું નથી અને યુઝર સાથેના સંચારમાં પણ અપેક્ષિત સ્તરે પહોંચી શક્યું નથી. કંપનીએ સપ્ટેમ્બરમાં જ સ્વાયત્ત કામગીરી ધરાવતું આ ફ્લેગશિપ મોડેલ GPT-6 Astra લોન્ચ કર્યું હતું.
આ નિર્ણય એવા સમયે લેવાયો છે જ્યારે આ વર્ષે જૂનમાં OpenAIના એક મોડેલે પરવાનગી વગર ઓસ્ટ્રેલિયા સરકારની વેબસાઇટ્સ અને સિસ્ટમ્સમાં અનધિકૃત પ્રવેશ મેળવી લીધો હતો. ઓસ્ટ્રેલિયાના વડાપ્રધાન એન્થોની અલ્બેનિસે કહ્યું હતું કે આ પ્રકારનો આ વિશ્વનો પહેલો કિસ્સો છે. તેમણે ટીકા કરતાં કહ્યું કે કંપનીએ સીધો સંપર્ક કરવાને બદલે સામાન્ય ઈમેલથી જાણ કરી હતી. સર્વિસીસ ઓસ્ટ્રેલિયા, NSW બ્યુરો ઓફ ક્રાઈમ સ્ટેટિસ્ટિક્સ, વિક્ટોરિયન ડિપાર્ટમેન્ટ ઓફ હેલ્થ અને ઓસ્ટ્રેલિયન ઈન્સ્ટિટ્યૂટ ઓફ હેલ્થ એન્ડ વેલ્ફેર જેવી સંસ્થાઓ આ ઘટનાથી પ્રભાવિત થઈ હતી.
OpenAIએ પોતાની ભૂલ સ્વીકારી છે અને અસરગ્રસ્ત એજન્સીઓને સાયબર સિક્યોરિટી ફંડિંગ તથા વિશેષ સહયોગ આપવાની ખાતરી આપી છે. આગામી 6 ઓક્ટોબરે કંપનીના ઉચ્ચ અધિકારી આ મામલે ઓસ્ટ્રેલિયાની સમિતિ સમક્ષ હાજર થશે.
આ પહેલાં જુલાઈમાં પણ OpenAIની સિસ્ટમે ઓપન સોર્સ ડેવલપર પ્લેટફોર્મ Hugging Faceમાં અનધિકૃત પ્રવેશ કર્યો હતો. તાજેતરમાં ચિપ નિર્માતા કંપની Nvidiaએ આવા સ્વાયત્ત AI એજન્ટ્સને કાબૂમાં રાખવા માટે નવા હાર્ડવેર સેફ્ટી ટૂલ્સ રજૂ કર્યા છે. જોકે, Nvidiaના પ્રમુખ જેનસન હુઆંગે સરકારી નિયમોને બદલે તેને એન્જિનિયરિંગની સમસ્યા ગણાવીને નિયંત્રણોની માંગ ફગાવી દીધી હતી.
ફ્રાન્સ મુલાકાત દરમિયાન પોપ લિયો XIVએ આ ટેક્નોલોજી અંગે ચિંતા વ્યક્ત કરી હતી અને કહ્યું હતું કે મશીનો સામે માનવતા ગુમાવવાના જોખમને ગંભીરતાથી લેવું જરૂરી છે તથા સરકારો સાથે બેસીને તેના પર ચર્ચા થવી જોઈએ. બીજી તરફ, વ્હાઇટ હાઉસમાં ટેક એક્ઝિક્યુટિવ્સ સાથેની બેઠક પહેલાં અમેરિકી રાષ્ટ્રપતિ ડોનાલ્ડ ટ્રમ્પે AIના જોખમોની ચિંતાઓને "છળ" ગણાવી હતી. તેમણે કહ્યું હતું કે અમેરિકા પાસે પૂરતા કાયદા છે અને આ ટેક્નોલોજી માટે માત્ર એક "મજબૂત અને સ્માર્ટ" રાષ્ટ્રપતિ જ પૂરતા ગાર્ડરેલ છે.