Zlonamerni i opasni trendovi obnaživanja žena i dece uz AI
Da li je internet iznedrio previše prestupnika ili ih je samo razgolio u javnosti? Da li je svet zbog interneta prestao da krije ono što je oduvek bilo neprihvatljivo ili je možda probudio uspavanu zver u delu ljudi koji bi u stvarnom, fizičkom svetu ostali sputani strahom od kazne i osude? Zakoni postoje da bi društvo držali u kakvoj-takvoj ravnoteži, ali šta ćemo raditi kada društveno neprihvatljive pojave postanu deo svakodnevice? Kada počnu da povređuju stvarne ljude - u ovom tekstu, žene i decu.
Odnedavno, jedan od najmračnijih trendova povezanih sa veštačkom inteligencijom počeo je da se širi mrežama, posebno na platformi X. Uz pomoć AI alata, korisnici uklanjaju odeću sa fotografija žena i dece, stvarajući lažne gole slike javnih ličnosti, ali i ljudi iz neposrednog, slučajnog kontakta. Sve ono što je nekada bilo neprihvatljivo, danas postaje zabava. A ono što je nekada vodilo u zatvor, sada se deli, lajkuje i komentariše. Pitanje više nije da li je ovo moguće, već šta je sledeće.
Vreme u kome se zlo više ne skriva
Digitalni prostor je ukinuo stid. Ono što je nekada ostajalo u mračnim mislima ili zabranjenim razgovorima danas bi moglo da postane javni sadržaj, dostupan svima, bez posledica koje su nekada bile neizbežne. Veštačka inteligencija nije stvorila nasilje, ali bi mogla da ga učini bržim, dostupnijim i društveno „podnošljivijim“. U tom prostoru, granica između igre i zločina počinje da se zamagljuje. Ono što bi u realnom svetu bilo kažnjivo, u digitalnom svetu često se doživljava kao eksperiment. Kao dokaz moći. Kao zabava. A iza te zabave ostaju stvarni ljudi, stvarne traume i stvarni strahovi. Osećanja su vrlo realna.
Zašto su meta baš žene i deca
Nije slučajno što su meta uglavnom žene. Digitalno nasilje prati logiku starog sveta, samo sa novim alatima. Žensko telo je i dalje najčešće polje projekcije moći, frustracije i kontrole. Veštačka inteligencija tu dinamiku ne stvara, ali bi mogla da je umnoži. Deca su posebna meta jer su nezaštićena, digitalno prisutna i često nesvesna opasnosti. U svetu u kome fotografija više nije uspomena, već potencijalni materijal za manipulaciju, svako dete bi moglo da postane žrtva nečije dosade, radoznalosti ili perverzije. Jasno je da svaki trenutak može biti onaj kada je neko pritisnuo okidač foto-aparata na telefonu.
U tom smislu, ovo više nije tehnološki problem. Ovo je društveni problem koji se samo preselio u digitalni prostor.
Generacija koja testira granice
Možda iznenađujuć podatak jeste da najčešći korisnici ovakvih alata dolaze iz mlađih generacija, iz prostora u kome je digitalni identitet jednako važan kao i stvarni. Za njih bi granice između realnog i virtuelnog bile poroznije nego ikada.
U svetu u kome se sve može simulirati, odgovornost postaje apstraktna. Ako je slika lažna, krivica se relativizuje, a ako je žrtva „samo digitalna“, bol se minimizuje. Trauma, međutim nije digitalna. Ona je stvarna. Možda bismo morali da priznamo da se ovde ne radi samo o tehnologiji, već o generaciji koja manje ili više, odrasta bez jasnih moralnih koordinata, u prostoru u kome je sve dozvoljeno dok nije eksplicitno zabranjeno.
Kada nasilje dobije estetski filter
Najopasniji aspekt ovog fenomena nije njegova brutalnost, već njegova normalizacija, potreba i namera. U svetu u kome algoritmi mogu da skinu odeću sa fotografije, pitanje više ne bi bilo šta tehnologija može, već šta društvo sme da dozvoli. Jer ako se granice pomeraju svaki put kada tehnologija napravi novi korak, uskoro više neće biti granica koje bi imale smisla.
Da li će zakon stići pre navike
Države širom sveta pokušavaju da reaguju. Zakoni koji kriminalizuju pravljenje i deljenje lažnih intimnih sadržaja polako nastaju, ali zakon uvek kasni za navikom. Dok se pravni sistemi prilagođavaju, digitalni svet već pronalazi nove načine da zaobiđe ograničenja. Ako društvo ne postavi jasnu moralnu granicu, zakon bi mogao da ostane samo formalna prepreka. Jer problem nije samo u tome što nešto nije dozvoljeno, već u tome što se više ne smatra pogrešnim.
Kako bismo mogli da zaštitimo decu?
Zaštita dece u digitalnom svetu ne bi mogla da se svede na aplikacije i filtere. Ona bi morala da počne mnogo ranije, u razgovoru, u obrazovanju, u kulturi. Deca bi morala da nauče da digitalna moć nije isto što i pravo. Da mogućnost ne znači dozvolu. Da je tuđa slika tuđi život, a ne materijal za eksperiment. Roditelji su izgleda shvatili da opasnost više ne dolazi samo sa ulice, već i iz ekrana. Zato bi škole bi morale da prestanu da se ponašaju kao da digitalni svet ne postoji. A društvo bi moralo da prestane da se čudi kada posledice stignu.
Društvo koje je samo sebi skinulo masku
Možda je veštačka inteligencija samo ogledalo. Ogledalo čovečanstva koje ne ulepšava. Ono što u njemu vidimo nije tehnologija, već mi sami. Živimo u vremenu u kome se ljudske anomalije više ne skrivaju. U vremenu u kome se ono što se nekada krilo sada je postalo zabava. Tu su granice čije se uklanjanje dočekalo sa aplauzom. Ako je postalo nekažnjivo skidati nekom odeću, a pri tom proći nekažnjeno, šta je to sledeće što nas čeka u virtuelnom svetu što ćemo tako benigno nazvati trendom ili ćemo umeti da kažemo – sada je dosta!
