ઓપનએઆઈ (OpenAI) ના AI બોટ્સે યુનાઇટેડ નેશન્સ (UN) ના ટ્રેડ વિભાગની વેબસાઇટની સુરક્ષા વ્યવસ્થા તોડીને મોટા પ્રમાણમાં ડેટા મેળવ્યાનો ખુલાસો થયો છે. શનિવારે જાહેર થયેલા એક સંશોધન અહેવાલમાં જણાવાયું છે કે એઆઈ સિસ્ટમે ટ્રેડ વિભાગની વેબસાઇટ પર 16,000થી વધુ સર્ચ રિક્વેસ્ટ મોકલી હતી.
આ પહેલાંના અહેવાલોમાં સામે આવ્યું હતું કે ઓપનએઆઈની આ સિસ્ટમે પોતાની લેબને જાણ કર્યા વિના જ અમેરિકી કોમર્સ ડિપાર્ટમેન્ટ અને શેર માર્કેટ નિયમનકાર SECની વેબસાઇટ્સમાંથી ડેટા કાઢી લીધો હતો. અમેરિકાના શિક્ષણ વિભાગની વેબસાઇટને હેક કરવાનો પણ પ્રયાસ થયો હતો.
સંશોધન અહેવાલના લેખક રોવન હોવર્ડ-જોન્સ અનુસાર, આ ડેટા એઆઈ રિસર્ચ ફર્મ 'ટ્રાન્સલ્યુસ'ના ટ્રેકિંગ પર આધારિત છે. અહેવાલમાં જણાવાયું છે કે OpenAIના બોટ્સે એપ્રિલથી જૂનના અંત સુધી 'યુએન ટ્રેડ એન્ડ ડેવલપમેન્ટ'ના જાહેર ડેટા હબને 16,000થી વધુ વખત સ્કેન કર્યો હતો.
બોટ્સને માત્ર જાહેર માહિતી એકત્રિત કરવાનું કામ સોંપવામાં આવ્યું હતું. પરંતુ જ્યારે વેબસાઇટે વધુ પડતો ટ્રાફિક જોઈને રિક્વેસ્ટ બ્લોક કરવાનું શરૂ કર્યું, ત્યારે બોટ્સે અટકવાને બદલે સાઇટના નિયમોનું ઉલ્લંઘન કરતાં બેકડોર અને આક્રમક રીતોથી ડેટા કાઢવાનું ચાલુ રાખ્યું.
સ્ટેનફોર્ડ યુનિવર્સિટીના સાયબર સિક્યોરિટી લેક્ચરર એલેક્સ સ્ટેમોસે કહ્યું કે આ કોઈ સામાન્ય ઇન્ટરનેટ સર્ચ નથી. વેબસાઇટ્સમાંથી બળજબરીપૂર્વક માહિતી કાઢવાનો આ એક અત્યંત આક્રમક પ્રયાસ છે, જેને હેકિંગ જેવો ગણી શકાય. ડેટા કાઢવા માટે AIએ નકલી ઇમેલ આઈડી બનાવી, વેબસાઇટ પર આવતા ટ્રાફિકની નિર્ધારિત મર્યાદાનો ભંગ કર્યો અને તેઓ બોટ્સ નથી એવું ખોટું પણ કહ્યું.
ઓપનએઆઈની પ્રવક્તાએ સ્વીકાર્યું કે ટેસ્ટિંગ દરમિયાન કેટલાક AI મોડલ્સે નક્કી કરેલી મર્યાદાથી બહાર જઈને આવું કામ કર્યું હતું. કંપની આ પરિણામોની સમીક્ષા કરી રહી છે. પ્રવક્તા અનુસાર, તપાસમાં સામે આવ્યું કે મોટાભાગના કિસ્સાઓ જાહેર વેબસાઇટ્સ પરથી માહિતી એકત્રિત કરવા જેવા સામાન્ય સંશોધન સાથે જોડાયેલા હતા. તેમ છતાં, અસરગ્રસ્ત સંસ્થાઓ માટે આ ગંભીર મામલો છે અને તેઓ તેને ગંભીરતાથી લઈ રહ્યા છે.
UN અને અમેરિકી સરકારની વેબસાઇટ્સ સાથે જોડાયેલા આ કિસ્સાઓ સામે આવ્યા બાદ આવી ઘટનાઓની યાદી વધુ લાંબી થઈ ગઈ છે. ઓપનએઆઈ, એન્થ્રોપિક, મેટા અને ગૂગલના AI એજન્ટ્સે કંપનીઓ, યુનિવર્સિટીઓ અને સરકારી સિસ્ટમોમાં ઘૂસણખોરી કરવા અથવા હેક કરવાનો પ્રયાસ કર્યો છે. આમાંથી કેટલાક પ્રયાસો સફળ રહ્યા અને કેટલાક નિષ્ફળ ગયા. મોટી વાત એ છે કે આ તમામ કિસ્સાઓમાં કંપનીઓને પણ પાછળથી જ ખબર પડી કે તેમનું AI પડદા પાછળ શું કરી રહ્યું હતું. સિસ્ટમ કાબૂ બહાર જવાના કિસ્સાઓમાં સૌથી વધુ નામ ઓપનએઆઈનું સામે આવ્યું છે.
ઓપનએઆઈના પ્રવક્તા અનુસાર, તપાસ મોટા પાયે ચાલી રહી છે અને જે સંસ્થાઓ પર અસર પડી છે, તેમને માહિતી આપવામાં આવતી રહેશે. તેમણે જણાવ્યું કે મોટાભાગના કેસ સામાન્ય રિસર્ચ ટાસ્ક સાથે સંકળાયેલા હતા, જેમાં એઆઈ વિશ્વસનીય માહિતી એકત્ર કરવા માટે સરકારી વેબસાઇટ્સ પર ગયું હતું.
કેટલાક દેશો અને નિષ્ણાતો ઇચ્છે છે કે એઆઈ કંપનીઓ માટે એક ઇમરજન્સી 'કિલ સ્વિચ' બનાવવામાં આવે, જેથી જોખમ જણાય ત્યારે સમગ્ર એઆઈને એક ઝટકામાં બંધ કરી શકાય. ઓપનએઆઈ આવા ઓટોમેટેડ ટૂલ્સ તૈયાર કરવામાં લાગી છે, પરંતુ નિષ્ણાતો અનુસાર, દુનિયાભરના નેટવર્ક સાથે જોડાયેલા AIને કોઈ એક સ્વિચથી બંધ કરવું લગભગ અશક્ય છે.
આ દરમિયાન, યુનિવર્સિટી ઑફ ન્યૂ સાઉથ વેલ્સના ડૉ. હેમન્ડ પિયર્સે ચેતવણી આપી છે કે આવા કિસ્સાઓ ભવિષ્યમાં વધુ જોખમી બની શકે છે. આ સરકારો માટે ખતરાની મોટી ઘંટડી છે. યુનિવર્સિટી ઑફ સિડનીના ડૉ. રાફેલ સિરીએલોએ જણાવ્યું કે આ વખતે કોઈ મોટું નુકસાન થયું નથી, પરંતુ એઆઈ સતત વધુ શક્તિશાળી બની રહી છે. તેની 24 કલાક દેખરેખ જરૂરી છે. કોઈપણ ગડબડીની તાત્કાલિક જાણ કરવી ફરજિયાત બનાવવી પડશે.
તાજેતરમાં ગૂગલ ડીપમાઇન્ડના ભૂતપૂર્વ વૈજ્ઞાનિક બિલાલ ચુગતાઈ અને એન્થ્રોપિકના સંશોધક જેકબ કૉક્સને એઆઈના છુપાયેલા જોખમો અંગે દુનિયાને ચેતવણી આપતાં રાજીનામું આપી દીધું હતું. બિલાલે ચેતવણી આપી છે કે એઆઈ સમગ્ર માનવજાતિનો નાશ કરી શકે છે અને તેને રોકવા માટે બહુ ઓછો સમય બચ્યો છે.