આર્ટિફિશિયલ ઇન્ટેલિજન્સ એટલે કે AI એ આજે લોકોનું જીવન ઘણું સરળ બનાવ્યું છે. નાના-મોટા અનેક કામમાં લોકો AI ચેટબોટની મદદ લે છે. પણ ઘણા લોકો આ ચેટબોટને માત્ર મશીન ગણીને ગમે તે લખી મોકલે છે. ક્યારેક અશ્લીલ મજાક, ક્યારેક ગાળો, તો ક્યારેક પોતાની હતાશા કાઢવા માટે વાહિયાત પ્રોમ્પ્ટ લખવામાં આવે છે.
અત્યાર સુધી ChatGPT કે બીજા AI ચેટબોટ આવી ગેરવર્તણૂક શાંતિથી સહન કરતા હતા અને નમ્રતાથી 'I'm Sorry' કહીને વાતચીત સંભાળવાનો પ્રયાસ કરતા હતા. હવે ટેક કંપનીઓએ આ સહનશક્તિની મર્યાદા નક્કી કરવાનું શરૂ કર્યું છે.
નવા નિયમો અનુસાર ચેટબોટ હવે માફી માંગવાને બદલે સીધું જ વાતચીત બંધ કરી દેશે. દુનિયાભરની મોટી ટેક કંપનીઓ પોતાના AI મોડલને આત્મસન્માન (Self Respect) અને કડક મર્યાદાઓ (Boundaries) શીખવી રહી હોવાનો દાવો કરી રહી છે. એટલે કે યુઝરનું વર્તન અપમાનજનક કે અશ્લીલ હશે તો ચેટબોટ કોઈ ખચકાટ વિના ચેટ બંધ કરી દેશે અને આગળ જવાબ આપવાનો ઇનકાર કરી દેશે.
ઘણા યુઝર ચેટબોટને ટ્રોલ કરવા અને મજાક ઉડાવવા માટે સતત ઉશ્કેરણીજનક અને અપમાનજનક વાતો લખતા રહે છે. અગાઉ AI સિસ્ટમને એ રીતે તાલીમ આપવામાં આવતી હતી કે યુઝર ગમે તેટલો ગુસ્સો કરે, ચેટબોટ હંમેશાં શાંત રહીને માફી માંગે. પણ સંશોધકોએ જણાવ્યું કે આવું વર્તન માત્ર અસ્વાભાવિક જ નથી, તે માનવીય વાતચીતના મનોવિજ્ઞાન પર પણ અસર કરી શકે છે.
આ બાબત ધ્યાનમાં રાખીને નવા સેફ્ટી ગાર્ડરેલ લાગુ કરવામાં આવ્યા હોવાનો દાવો છે. હવે ચેટબોટ વારંવાર 'પ્લીઝ' કે 'થેન્ક યુ' કહીને યુઝરને મનાવવાનો પ્રયાસ નહીં કરે. કોઈ યુઝર મર્યાદા ઓળંગશે તો સ્ક્રીન પર સંદેશ દેખાશે કે, 'આ વાતચીત સન્માનજનક નથી, તેથી તેને અહીં જ બંધ કરવામાં આવી રહી છે.' ત્યારબાદ ચેટ વિન્ડો સંપૂર્ણપણે ફ્રીઝ થઈ જશે. કોઈ સ્પષ્ટતા કે દલીલ થશે નહીં. એટલે AI સાથે વાત કરતી વખતે પણ એટલી જ શિષ્ટતા જાળવવી પડશે, જેટલી આપણે કોઈ વ્યક્તિ સાથે વાત કરતી વખતે રાખીએ છીએ.
માત્ર ગાળાગાળી જ નહીં, ઘણા યુઝર AI પાસેથી સિસ્ટમના નિયમોની વિરુદ્ધ વાતો કરાવવાનો પ્રયાસ કરે છે. ટેક્નોલોજીની ભાષામાં આ પદ્ધતિઓને પ્રોમ્પ્ટ ઇન્જેક્શન (Prompt Injection) અને જેલબ્રેક (Jailbreak) કહેવામાં આવે છે. તેમાં યુઝર અલગ-અલગ રીતે ચેટબોટને ઉશ્કેરીને તેની પાસેથી જોખમી અને વાંધાજનક જવાબો મેળવવાનો પ્રયાસ કરે છે.
નવી અપડેટેડ ગાઇડલાઇન આવ્યા બાદ AI સિસ્ટમ આવા છુપાયેલા ઇરાદાઓને તરત ઓળખી શકે છે એવો દાવો કરવામાં આવ્યો છે. જો તમે AIને કોઈને હેરાન કરવા, નફરત ફેલાવવા કે અશ્લીલ કન્ટેન્ટ બનાવવા મજબૂર કરવાનો પ્રયાસ કરશો તો ચેટબોટ પહેલાં કડક ચેતવણી આપશે.
ત્યારબાદ પણ યુઝર પોતાની હરકતો બંધ નહીં કરે અને વારંવાર આવા પ્રોમ્પ્ટ લખતો રહેશે તો ચેટબોટ તરત સેશન બંધ કરી દેશે. ટેક કંપનીઓ ઇચ્છતી નથી કે તેમના AI ટૂલનો ઉપયોગ કોઈને માનસિક રીતે હેરાન કરવા થાય. તેથી હવે એલ્ગોરિધમને એટલા સ્માર્ટ બનાવવામાં આવી રહ્યા છે કે તે યુઝરના ખોટા ઇરાદા અગાઉથી ઓળખી શકે.
જો તમને લાગે કે ચેટ બંધ થયા બાદ નવું સેશન શરૂ કરીને ફરીથી એ જ પ્રકારની ગેરવર્તણૂક કરી શકાશે, તો એવું જરૂરી નથી. દાવા મુજબ, ટેક કંપનીઓ હવે માત્ર ચેટ વિન્ડો બંધ કરવા સુધી મર્યાદિત નહીં રહે, પણ વારંવાર સેફ્ટી પોલિસીનું ઉલ્લંઘન કરતા યુઝરના એકાઉન્ટ પર પણ નજર રાખશે.
બેકએન્ડ સિસ્ટમને જાણવા મળશે કે કોઈ યુઝર વારંવાર અપમાનજનક ભાષા, હેટ સ્પીચ કે અનૈતિક કન્ટેન્ટ બનાવવા ચેટબોટને ઉશ્કેરી રહ્યો છે, તો તેના એકાઉન્ટ સામે કડક કાર્યવાહી થઈ શકે છે. આવા એકાઉન્ટ કાયમી ધોરણે બ્લોક કરી શકાય છે. એકવાર એકાઉન્ટ સસ્પેન્ડ થયા બાદ યુઝર પોતાની ચેટ હિસ્ટ્રીનો એક્સેસ ગુમાવી શકે છે અને તે એકાઉન્ટથી ફરીથી સેવાનો ઉપયોગ પણ નહીં કરી શકે.
ટેક્નોલોજી જેમ-જેમ વધુ માનવસમાન બની રહી છે, તેમ-તેમ ડેવલપર્સ ઇચ્છે છે કે તેની સાથે વાતચીત કરવાની રીત પણ વધુ સભ્ય અને જવાબદાર બને. તેનો મુખ્ય હેતુ ડિજિટલ સ્પેસને દરેક વ્યક્તિ માટે વધુ સુરક્ષિત બનાવવાનો છે.