દિલ્હીમાં રહેતા 27 વર્ષના સુમિત શર્માએ સોશિયલ મીડિયા પર અમદાવાદની 24 વર્ષની મહિલાને ફ્રેન્ડ રિક્વેસ્ટ મોકલી. મહિલાએ જવાબ ન આપ્યો. સુમિતે મહિલાના સોશિયલ મીડિયા અકાઉન્ટમાંથી ફોટા ડાઉનલોડ કર્યા અને ફ્રી AI ટૂલ્સથી અશ્લીલ તસવીરોમાં બદલી નાખ્યા. 100થી પણ વધુ ફોટા બનાવ્યા અને 10 અકાઉન્ટથી વાઇરલ કર્યા. આ કેસ ભાસ્કરની તપાસમાં સામે આવ્યો છે.
સુમિતની જેમ ઘણા એવા કેસ છે, જેમાં ફ્રી AI ટૂલ્સથી કોઈપણ મહિલાના અશ્લીલ ફોટા-વીડિયો બનાવી દેવામાં આવ્યા. 4 ફેબ્રુઆરી 2026ના રોજ યુનિસેફ, ECPAT ઈન્ટરનેશનલ અને ઈન્ટરપોલે 11 દેશોમાં કરેલા સરવે બાદ જણાવ્યું કે ઓછામાં ઓછા 12 લાખ બાળકોએ કહ્યું કે છેલ્લા એક વર્ષમાં તેમની તસવીરો બદલીને સેક્સ્યુઅલ ડીપફેક બનાવવામાં આવ્યા.
આ વીડિયો કયા પ્લેટફોર્મ્સ પર બની રહ્યા છે, કોણ બનાવી રહ્યું છે અને આ આખી સિસ્ટમ કેવી રીતે કામ કરી રહી છે, તે અંગેની તપાસ રિપોર્ટમાં જાણવા મળ્યું છે.
કોણ-કોણ ભાગીદાર, રોકવાની જવાબદારી કોની
- AI ટૂલ ડેવલપર: અશ્લીલ ફોટા બનાવવા વાળા મોડેલ અને ટૂલ તૈયાર કરે છે.
- વેબસાઇટ/બોટ ઓપરેટર: ટૂલ ચલાવે છે અને યુઝર્સ પાસેથી કમાણી કરે છે.
- પ્રમોટર અને રેફરલ નેટવર્ક: સોશિયલ મીડિયા પર ટૂલની લિંક ફેલાવે છે અને યુઝર ભેગા કરે છે.
- ટૂલ વાપરનારા: ફોટા બનાવીને પીડિતોને નિશાન બનાવે છે.
- પેમેન્ટ અને હોસ્ટિંગ સર્વિસીસ: પૈસાની લેવડ-દેવડ અને ડિજિટલ માળખાની કડીઓ છે.
- સોશિયલ મીડિયા પ્લેટફોર્મ: અહીંથી જ કન્ટેન્ટ વાઇરલ થાય છે.
- પોલીસ અને સાયબર સેલ: ડિજિટલ પુરાવા એકઠા કરીને આરોપીઓની ઓળખ અને તપાસ કરે છે.
- પીડિત અને સહાયતા સંગઠન: ફરિયાદ, કન્ટેન્ટ હટાવવા અને કાનૂની મદદ માટે કામ કરે છે.
અમે એક-એક કરીને બધી કડીઓ સુધી પહોંચવાનો પ્રયાસ કર્યો. તપાસમાં ખબર પડી કે ટેલિગ્રામ AI થી અશ્લીલ કન્ટેન્ટ તૈયાર કરવાનો સૌથી મોટો અડ્ડો છે. સરળ કી-વર્ડ સર્ચિંગથી અમને એવા AI બોટ મળ્યા, જેના દ્વારા ફ્રીમાં કોઈપણ ફોટો કે વીડિયોને અશ્લીલ ડીપફેકમાં બદલી શકાય છે. અમે 9 એવા બોટ-વેબસાઈટ આઈડેન્ટિફાઈ કર્યા, જેમાં આવી સર્વિસિસની ઓફર આપવામાં આવી રહી છે.
ચીન-હોંગકોંગથી ચાલી રહ્યા છે પ્લેટફોર્મ્સ
ટેલિગ્રામ પર ચાલતા આ બોટ્સને કોણ અને ક્યાંથી ઓપરેટ કરી રહ્યું છે, તે જાણવું મુશ્કેલ છે. અમે એન્ટી સાયબરક્રાઈમ સ્ટ્રેટેજિસ્ટ અને AI સાયબર સાયકોલોજિસ્ટ શૌનલ ડી સાથે એમનું બેકએન્ડ તપાસ્યું.
ખબર પડી કે ટેલિગ્રામ પર દેખાતો બોટ અસલમાં ઈન્ટરફેસ જેવો હોય છે. યુઝર બોટને મેસેજ મોકલે છે, તો ટેલિગ્રામની સિસ્ટમ તે મેસેજ બોટની પાછળ કામ કરી રહેલા સર્વર સુધી પહોંચાડે છે. આ કામ ટેલિગ્રામની સત્તાવાર Bot API દ્વારા થાય છે.
સરળ ભાષામાં કહીએ તો બોટ સામેની દુકાન છે અને એનું સર્વર પાછળની આખી સિસ્ટમ. યુઝરને બોટ ટેલિગ્રામ પર દેખાય છે, પરંતુ તેની સૂચનાઓ મુજબ કામ કરનારી અસલી સિસ્ટમ કોઈ બીજા સર્વર પર ચાલી રહી હોય છે. આનાથી કોઈ બોટને કોણ ચલાવી રહ્યું છે, તે જાણવું મુશ્કેલ થઈ જાય છે.
અમે આ તમામ ચેનલોને પોલીસ સાથે શેર કરી. તપાસમાં ખબર પડી કે આ AI બેસ્ડ પ્લેટફોર્મ્સ છે, અને તેમને ચીન-હોંગકોંગમાં બનાવવામાં આવ્યા છે. ત્યાંથી જ ઓપરેટ કરવામાં આવી રહ્યા છે. કોણ ઓપરેટ કરી રહ્યું છે, તે જાણી શકાયું નથી.
અશ્લીલ ફોટા-વીડિયોનું વેચાણ પણ થઈ રહ્યું છે, 20 રૂપિયામાં એક ફોટો
AI દ્વારા તૈયાર થઈ રહેલા આ ફોટા-વીડિયોથી માત્ર છોકરીઓને બ્લેકમેલ જ નથી કરવામાં આવી રહી પરંતુ તેને વેચવામાં પણ આવી રહ્યા છે. મુંબઈ સ્થિત રતિ ફાઉન્ડેશન ઈન્ટરનેટ પર થતી હિંસાના પીડિતોની મદદ કરે છે. ફાઉન્ડેશનના કો-ફાઉન્ડર સિદ્ધાર્થ સોમનાથ પિલ્લાઈ જણાવે છે કે દિલ્હીમાં કૉકરોચ જનતા પાર્ટીના પ્રોટેસ્ટ દરમિયાન એક છોકરીનો અશ્લીલ ફોટો વાઇરલ કરવામાં આવ્યો હતો.
સંસ્થા પાસે કેસ આવ્યા બાદ અમે તેની તપાસ કરી. ફોટો AI દ્વારા બનાવવામાં આવ્યો હતો. તસવીરના સોર્સ સુધી પહોંચતા ખબર પડી કે સંબંધિત યુઝર છોકરીઓની નાભિ બતાવવા વાળા AI ફોટા બનાવીને 20-20 રૂપિયામાં વેચતો હતો. અમે આ ચેનલ પર મેસેજ મોકલ્યો, પરંતુ કોઈ પ્રતિસાદ મળ્યો નહીં.
એક વીડિયો પાછળ મલ્ટીલેયર લિંક, તેથી રિપોર્ટ કરવું પણ મુશ્કેલ
સિદ્ધાર્થ જણાવે છે કે અમારી પાસે લગભગ 10% કેસ અશ્લીલ ડીપફેકના આવી રહ્યા છે. એમની તપાસ કરવા પર વીડિયો કે ફોટો સાથે જોડાયેલી 50-100 કે તેનાથી પણ વધુ લિંક્સ રિપોર્ટ કરવી પડે છે. કેટલાક કિસ્સાઓમાં એક જ ક્લાયન્ટ માટે 100થી વધુ લિંક્સ હટાવવી કે રિપોર્ટ કરવી પડે છે.
સિદ્ધાર્થ જણાવે છે, ‘AI ટૂલ્સે આ પ્રકારની તસવીરો બનાવવી ખૂબ જ સરળ બનાવી દીધી છે. ઘણી વેબસાઈટો પર ફોટો અપલોડ કર્યા પછી ત્રણ-ચાર ફોટા...’ (અહીંથી આગળનો ભાગ અધૂરો છે)