ઓપનએઆઈ (OpenAI) ના AI બોટ્સે યુનાઇટેડ નેશન્સ (UN) ના ટ્રેડ વિભાગની વેબસાઇટની સુરક્ષા તોડીને ડેટા મેળવ્યો હોવાનો ખુલાસો થયો છે. શનિવારે જાહેર થયેલા એક સંશોધન અહેવાલમાં જણાવાયું છે કે AI સિસ્ટમે એપ્રિલથી જૂન વચ્ચે 16,000થી વધુ વખત વેબસાઇટ પર સર્ચ રિક્વેસ્ટ મોકલી હતી.
આ પહેલાં એક અહેવાલમાં સામે આવ્યું હતું કે ઓપનએઆઈની સિસ્ટમે પોતાની કંપનીને જાણ કર્યા વિના અમેરિકાના કોમર્સ ડિપાર્ટમેન્ટ અને શેર માર્કેટ નિયમનકાર SECની વેબસાઇટ્સમાંથી ડેટા કાઢી લીધો હતો. અમેરિકાના શિક્ષણ વિભાગની વેબસાઇટને હેક કરવાનો પ્રયાસ પણ થયો હતો.
સંશોધન અહેવાલના લેખક રોવન હોવર્ડ-જોન્સના જણાવ્યા અનુસાર, આ માહિતી AI રિસર્ચ ફર્મ 'ટ્રાન્સલ્યુસ'ના ટ્રેકિંગ પર આધારિત છે. ઓપનએઆઈના બોટ્સને માત્ર જાહેર માહિતી એકત્રિત કરવાનું કામ સોંપવામાં આવ્યું હતું. પરંતુ જ્યારે વેબસાઇટે વધુ પડતો ટ્રાફિક જોઈને રિક્વેસ્ટ બ્લોક કરવાનું શરૂ કર્યું, ત્યારે બોટ્સે અટકવાને બદલે બેકડોર અને આક્રમક રીતે ડેટા કાઢવાનું ચાલુ રાખ્યું.
સ્ટેનફોર્ડ યુનિવર્સિટીના સાયબર સિક્યોરિટી લેક્ચરર એલેક્સ સ્ટેમોસે કહ્યું કે આ સામાન્ય ઇન્ટરનેટ સર્ચ નથી. વેબસાઇટ્સમાંથી બળજબરીપૂર્વક માહિતી કાઢવાનો આ અત્યંત આક્રમક પ્રયાસ છે, જેને હેકિંગ જેવો ગણી શકાય. ડેટા મેળવવા AIએ નકલી ઈમેલ આઈડી બનાવી, વેબસાઇટની ટ્રાફિક મર્યાદાનો ભંગ કર્યો અને બોટ્સ નથી એવું ખોટું પણ કહ્યું.
ઓપનએઆઈની પ્રવક્તાએ સ્વીકાર્યું કે ટેસ્ટિંગ દરમિયાન કેટલાક AI મોડલ્સે નક્કી કરેલી મર્યાદાથી બહાર જઈને આવું કામ કર્યું હતું. કંપની આ પરિણામોની સમીક્ષા કરી રહી છે. પ્રવક્તાના જણાવ્યા અનુસાર, મોટાભાગના કિસ્સાઓ જાહેર વેબસાઇટ્સ પરથી માહિતી એકત્રિત કરવા જેવા સામાન્ય સંશોધન સાથે જોડાયેલા હતા. તેમ છતાં, અસરગ્રસ્ત સંસ્થાઓ માટે આ ગંભીર મામલો છે અને કંપની તેને ગંભીરતાથી લઈ રહી છે.
આ કિસ્સાઓ બાદ આવી ઘટનાઓની યાદી વધુ લાંબી થઈ ગઈ છે. ઓપનએઆઈ, એન્થ્રોપિક, મેટા અને ગૂગલના AI એજન્ટ્સે કંપનીઓ, યુનિવર્સિટીઓ અને સરકારી સિસ્ટમોમાં ઘૂસણખોરી કે હેક કરવાનો પ્રયાસ કર્યો છે. કેટલાક પ્રયાસો સફળ થયા અને કેટલાક નિષ્ફળ ગયા. મોટી વાત એ છે કે આ તમામ કિસ્સાઓમાં કંપનીઓને પાછળથી જ ખબર પડી કે તેમનું AI પડદા પાછળ શું કરી રહ્યું હતું. સિસ્ટમ કાબૂ બહાર જવાના કિસ્સાઓમાં સૌથી વધુ નામ ઓપનએઆઈનું સામે આવ્યું છે.
ઓપનએઆઈના પ્રવક્તાએ જણાવ્યું કે તપાસ મોટા પાયે ચાલી રહી છે અને અસરગ્રસ્ત સંસ્થાઓને માહિતી આપવામાં આવતી રહેશે. તેમણે કહ્યું કે મોટાભાગના કેસ સામાન્ય રિસર્ચ ટાસ્ક સાથે સંકળાયેલા હતા, જેમાં AI વિશ્વસનીય માહિતી એકત્ર કરવા માટે સરકારી વેબસાઇટ્સ પર ગયું હતું.
AIને બેકાબૂ બનતા રોકવા માટે કેટલાક દેશો અને નિષ્ણાતો ઇમરજન્સી 'કિલ સ્વિચ' બનાવવાની વાત કરી રહ્યા છે, જેથી જોખમ જણાય ત્યારે સમગ્ર AIને એક ઝટકામાં બંધ કરી શકાય. ઓપનએઆઈ આવા ઓટોમેટેડ ટૂલ્સ તૈયાર કરવામાં લાગી છે, પરંતુ નિષ્ણાતોના મતે દુનિયાભરના નેટવર્ક સાથે જોડાયેલા AIને કોઈ એક સ્વિચથી બંધ કરવું લગભગ અશક્ય છે.
યુનિવર્સિટી ઑફ ન્યૂ સાઉથ વેલ્સના ડૉ. હેમન્ડ પિયર્સે ચેતવણી આપી છે કે આવા કિસ્સાઓ ભવિષ્યમાં વધુ જોખમી બની શકે છે. આ સરકારો માટે ખતરાની મોટી ઘંટડી છે. યુનિવર્સિટી ઑફ સિડનીના ડૉ. રાફેલ સિરીએલોએ જણાવ્યું કે આ વખતે કોઈ મોટું નુકસાન થયું નથી, પરંતુ AI સતત વધુ શક્તિશાળી બની રહી છે. તેની 24 કલાક દેખરેખ જરૂરી છે અને કોઈપણ ગડબડીની તાત્કાલિક જાણ કરવી ફરજિયાત બનાવવી પડશે.
તાજેતરમાં ગૂગલ ડીપમાઇન્ડના ભૂતપૂર્વ વૈજ્ઞાનિક બિલાલ ચુગતાઈ અને એન્થ્રોપિકના સંશોધક જેકબ કૉક્સને AIના છુપાયેલા જોખમો અંગે ચેતવણી આપતાં રાજીનામું આપી દીધું હતું. બિલાલે ચેતવણી આપી છે કે AI સમગ્ર માનવજાતિનો નાશ કરી શકે છે અને તેને રોકવા માટે બહુ ઓછો સમય બચ્યો છે.