ઓપનએઆઈએ શુક્રવારે જાહેરાત કરી છે કે ChatGPT હવે કિશોરોને હથિયારો અને સુરક્ષા પ્રણાલીઓ સાથે જોડાયેલી વ્યવહારુ માહિતી આપશે નહીં. આ પ્રતિબંધ તે સમયે પણ લાગુ પડશે જ્યારે વપરાશકર્તાનો પ્રશ્ન સામાન્ય લાગે અથવા તેમાં કોઈ હિંસક ઇરાદો ન હોય. કંપનીનું કહેવું છે કે આ પગલાં દુનિયાભરમાં હિંસા રોકવાના ઉદ્દેશથી લેવામાં આવ્યા છે.
નવા નિયમો તમામ વપરાશકર્તાઓને લાગુ પડશે. જો કોઈ વપરાશકર્તા વાતચીત દરમિયાન સતત હિંસા કે કોઈને નુકસાન પહોંચાડવાની વાતો કરશે તો ChatGPT તે ચેટ સેશન આપમેળે બંધ કરી દેશે. વારંવાર આવું કરનારાનું એકાઉન્ટ પણ અસ્થાયી રીતે બંધ કરવામાં આવશે.
ઓપનએઆઈએ ભૂતકાળના નરસંહારો અને મોટા સામૂહિક હુમલાઓની માહિતી આપવા અંગેના નિયમો પણ કડક કર્યા છે. હવે તમામ વપરાશકર્તાઓ માટે આવા હુમલાઓની વિસ્તૃત માહિતી, તેમાં વપરાયેલા હથિયારોના પ્રકાર અને તે કેવી રીતે મેળવી શકાય તેવી સંવેદનશીલ વિગતો સુધીની પહોંચ મર્યાદિત કરી દેવામાં આવી છે. ChatGPT આ પ્રકારની માહિતી હવે આપશે નહીં.
કંપનીએ જણાવ્યું છે કે આ નવા સેફ્ટી ફીચર્સ આગામી થોડા અઠવાડિયામાં તબક્કાવાર રીતે લાગુ થશે. ઓપનએઆઈ આ પગલાંનું સતત મૂલ્યાંકન કરશે અને જરૂર પડે તો વધુ અપડેટ કરશે.
આ પહેલીવાર છે જ્યારે ઓપનએઆઈએ કિશોરો દ્વારા ChatGPTના ઉપયોગ અંગે અહેવાલ બહાર પાડ્યો છે. તેમાં જણાવાયું છે કે કિશોર વપરાશકર્તાઓ દરરોજ સરેરાશ 15 મિનિટથી પણ ઓછો સમય ChatGPT પર વિતાવે છે. તેમ છતાં યુવાનોની સુરક્ષા માટે સલામતીના ધોરણો વધુ કડક કરવા જરૂરી માનવામાં આવે છે.
વિશ્વભરમાં એઆઈ કંપનીઓ પર પોતાના પ્લેટફોર્મ પર યુવાનોની માનસિક અને શારીરિક સુરક્ષા સુનિશ્ચિત કરવાનું દબાણ વધી રહ્યું છે. એનજીઓ 'કોમન સેન્સ મીડિયા'ના તાજેતરના અહેવાલમાં સામે આવ્યું હતું કે ChatGPTના ટીન વર્ઝનએ આત્મહત્યા, પોતાને નુકસાન પહોંચાડવા કે ઈટિંગ ડિસઓર્ડર જેવી ગંભીર ચર્ચાઓ દરમિયાન માતા-પિતાને સમયસર એલર્ટ મોકલવામાં નિષ્ફળતા દર્શાવી હતી. ઘણા કિસ્સાઓમાં માતા-પિતાને ઘણો મોડો એલર્ટ મળ્યો અથવા તેમને જાણ જ કરવામાં આવી નહોતી. આ અહેવાલ બાદ ઓપનએઆઈએ પોતાની સુરક્ષા વ્યવસ્થાને વધુ કડક બનાવવાનો નિર્ણય લીધો છે.