Bolji Online
Unesi reč za pretragu

Tvoje lice, tuđi sadržaj: Kada veštačka inteligencija napravi fotografiju koja nikada nije postojala

Nije verovatno da ćete ikada naići na svoju fotografiju preoblikovanu uz pomoć veštačke inteligencije u neki drugi sadržaj. Nije verovatno ni da će vas neko drugi pronaći na takvoj fotografiji, osim ako ne prati upravo takav sadržaj. A čak i da naiđe na nju, retko ko bi vam to rekao.

Neko bi mogao da pomisli: „Pa dobro, šta me se onda tiče gde se nalazi moja nerealna fotografija?“ Međutim, neki drugi ljudi koji proučavaju ovu temu ne misle isto.

Hajde zato da zajedno pogledamo gde se krije opasnost u fotografiji na kojoj se nalazi vaše lice, ali sadržaj na fotografiji nema nikakve veze sa vama.

Jedna fotografija dovoljna je za sasvim drugačiju priču

Za pravljenje ovakvih sadržaja koriste se takozvani nudify alati, aplikacije koje pomoću veštačke inteligencije menjaju odeću na fotografiji, simuliraju golotinju ili stvaraju seksualizovane prikaze osobe. Postoje i sofisticiraniji alati koji mogu da uklope nečije lice u postojeći snimak ili naprave potpuno novi video.

Za takvu manipulaciju često nije potrebno posebno tehničko znanje. Dovoljna može da bude jedna fotografija i pristup aplikaciji koja omogućava ovakvu obradu.

Meta ne mora da bude poznata osoba, influenserka ili neko sa hiljadama pratilaca. To može da bude učenica iz odeljenja, koleginica sa posla, žena koja je objavila fotografiju sa letovanja ili dete čija je slika preuzeta sa školskog sajta.

Kada se digitalna zloupotreba preseli u školsku klupu

Jedan od zabrinjavajućih obrazaca jeste da ovakve sadržaje ne prave samo nepoznati ljudi sa interneta već i vršnjaci žrtava.

Američki Nacionalni centar za nestalu i eksploatisanu decu (NCMEC) beleži slučajeve u kojima učenici koriste AI aplikacije da naprave seksualizovane fotografije svojih drugova i drugarica, a zatim ih dele među vršnjacima. Takve slike postaju sredstvo za ismevanje, ponižavanje, ucenu i vršnjačko nasilje.

Posebno je zabrinjavajuće što se ovakve fotografije mogu koristiti i za seksualnu ucenu. Čak i kada dete nikada nije poslalo intimnu fotografiju, neko može da napravi njenu lažnu verziju i zapreti da će je podeliti sa roditeljima, nastavnicima ili prijateljima ako ne ispuni njegove zahteve.

NCMEC beleži upravo takve slučajeve, u kojima se veštački generisane fotografije koriste da bi se od dece iznudile nove fotografije, snimci ili novac.

Šta kažu istraživanja?

Jedan važan podatak donosi UNICEF-ov izveštaj iz septembra 2026. godine, Through Children’s Eyes: How Digital Technologies Enable Child Sexual Abuse. Istraživanje je obuhvatilo 21 zemlju, među kojima je i Srbija. U devet zemalja drugog kruga istraživanja, uključujući Srbiju, Crnu Goru i Severnu Makedoniju, procenjeno je da je više od 1,1 milion dece bilo prikazano u seksualizovanim fotografijama ili snimcima generisanim pomoću veštačke inteligencije.

Isti izveštaj pokazuje da više od četiri od deset dece koja su doživela neki oblik seksualnog zlostavljanja ili eksploatacije posredstvom digitalnih tehnologija nije nikome reklo šta se dogodilo. Manje od jedan odsto slučajeva prijavljeno je policiji, socijalnom radniku ili službi za pomoć.

Ovi podaci pokazuju da problem nije ograničen na poznate ličnosti i javne profile. On je već deo digitalnog okruženja u kojem odrastaju deca.

Fotografija je lažna, ali posledice nisu

Zašto bi nas onda uopšte brinulo ako je fotografija izmišljena?

Zamislimo tinejdžerku koja sazna da se među učenicima deli njena fotografija na kojoj je prikazana naga. Ona zna da fotografija nije stvarna. Znaju i njeni roditelji. Ali da li će svi koji su je videli poverovati u isto? Da li će je drugari zadirkivati, sačuvati fotografiju ili je proslediti drugima?

Posledice mogu da budu mnogo ozbiljnije od neprijatnosti ili stida.

Poniženje i vršnjačko nasilje. Fotografija može da postane sredstvo za ismevanje, seksualne komentare, ogovaranje i odbacivanje. Dete može da počne da izbegava školu, društvo, fotografisanje ili određene ljude.

Ucena i manipulacija. Neko može da zapreti detetu da će fotografiju poslati roditeljima, nastavnicima ili prijateljima ukoliko ne pristane na dodatne zahteve. Oni mogu da uključuju slanje novih fotografija, snimaka, novca ili nastavak komunikacije sa osobom koja ga ucenjuje.

Gubitak kontrole nad sopstvenim identitetom. Kada se fotografija jednom podeli, dete ne zna ko ju je sve video, sačuvao ili prosledio. Može da bude uklonjena sa jednog profila, a da se kasnije pojavi na drugom. Može da bude iskorišćena za novi sadržaj ili povezana sa drugim ličnim podacima.

Psihološke posledice. Dete može da oseća stid, strah, bespomoćnost i krivicu. Može da se povuče iz društva, izgubi poverenje u druge ljude ili počne da preispituje sopstveni izgled i vrednost. Posebno je važno razumeti da dete može da pati i kada zna da je fotografija lažna. Ne mora da veruje u njen sadržaj da bi osećalo posledice činjenice da ga drugi ljudi posmatraju kroz nju.

Digitalni trag koji ostaje. Fotografija nastala u detinjstvu može da se pojavi godinama kasnije, kada dete promeni školu, društvo ili započne profesionalni život. Može da je pronađe budući partner, kolega ili poslodavac, bez ikakvog saznanja o tome kako je nastala. Čak i kada se original ukloni, ne postoji garancija da su nestale sve njegove kopije.

Šta roditelji mogu da urade?

Potpuna kontrola nad internetom nije realna, ali postoje koraci kojima se rizik može smanjiti.

Razgovarajte o fotografijama i pristanku. Dete treba da zna da ima pravo da odluči ko sme da fotografiše i objavljuje njegove slike. (Ovo je tema koja je veoma osetljiva, deca i mladi se slikaju tokom dana koliko se i mi puta nakašljemo) Isto tako, treba da razume da nema pravo da tuđe fotografije koristi za pravljenje ponižavajućeg sadržaja.

Preispitajte šta objavljujete. Fotografije dece ne dele samo deca. Roditelji, škole i sportski klubovi često ih postavljaju na javne profile. Razmislite ko sve može da ih vidi i da li je detetu prijatno da njegova fotografija bude dostupna nepoznatim ljudima.

Ne okrivljujte dete. Ako je njegova fotografija zloupotrebljena, najvažnije je da zna da može da vam se obrati bez straha od kazne ili osude. Strah od roditeljske reakcije često je razlog zbog kojeg deca ćute. Neznanje roditelja u moderne tehnologije su najveća barijera u razumevanju na relaciji roditelj-dete.

Razgovarajte o AI alatima. Pitajte dete da li je čulo za aplikacije koje menjaju fotografije ljudi i da li ih koriste njegovi vršnjaci. Objasnite mu da pravljenje i deljenje seksualizovanih fotografija druge dece nije šala, čak ni kada su slike lažne. Tinejdžeri ovo već znaju… oni ove alate koriste svakodnevno u svoju korist.

Uključite i školu. Školske zajednice treba da razgovaraju o AI manipulacijama, digitalnom nasilju i odgovornosti za sadržaj koji se deli u grupnim četovima.

Šta ako se fotografija ipak pojavi?

Ako saznate da je nečija fotografija zloupotrebljena, važno je reagovati brzo, ali bez panike.

Sačuvajte dokaze. Zabeležite korisničko ime, link do objave, datum, poruke i pretnje. Nemojte dalje prosleđivati eksplicitni sadržaj. Ako je reč o maloletniku, nemojte preuzimati niti umnožavati seksualizovanu fotografiju radi dokazivanja.

Prijavite sadržaj platformi. Koristite opcije za prijavu neovlašćenog intimnog sadržaja i seksualnog iskorišćavanja.

Obratite se nadležnim službama. U Srbiji postoji Nacionalni kontakt centar za bezbednost dece na internetu, na besplatnom broju 19833, kao i portal Pametno i bezbedno. U slučaju ucene, pretnji ili seksualne eksploatacije obratite se i policiji.

Ne pristajte na ucene. Ne šaljite novac, dodatne fotografije ili lične podatke osobi koja preti objavljivanjem sadržaja.

Postoji i međunarodni alat Take It Down, koji je razvio američki Nacionalni centar za nestalu i eksploatisanu decu (NCMEC). Namenjen je osobama čije su intimne fotografije ili snimci nastali dok su bile mlađe od 18 godina. Alat pravi digitalni otisak fotografije direktno na uređaju korisnika, bez slanja same fotografije NCMEC-u. Platforme koje učestvuju u programu mogu da prepoznaju taj sadržaj i ograniče njegovo dalje deljenje.

Alat ne garantuje uklanjanje svih kopija, ali predstavlja dodatni mehanizam zaštite.

Više informacija: https://takeitdown.ncmec.org/ sajt je na srpskom jeziku.

Tvoje lice, tuđi digitalni otisak

Možda je najveći problem u svemu ovome upravo ono što na prvi pogled ne vidimo. Neko može da preuzme tvoju fotografiju, iskoristi tvoje lice i napravi sadržaj sa kojim nemaš nikakve veze. Bez tvog pristanka, bez tvog znanja, bez tvog učešća i bez ikakve mogućnosti da utičeš na to šta će od tvoje fotografije nastati.

Tako nastaje digitalni otisak koji nikada nisi želeo da ostaviš. Tvoje lice postaje deo priče koju nisi ispričao, sadržaja koji ne podržavaš i postupaka koje nikada nisi napravio. A možda čak ni ne znaš da takav sadržaj postoji.

I tu se krije opasnost koja prevazilazi jednu fotografiju i jedan trenutak na internetu. Ne znaš ko ju je video, ko ju je sačuvao, kome je prosledio i kada će se ponovo pojaviti. Ne znaš da li će te neko zbog nje drugačije posmatrati, osuđivati ili pokušati da je iskoristi protiv tebe.

Za razliku od fotografije koju sami objavimo, nad ovakvim sadržajem nemamo gotovo nikakvu kontrolu. On može da postane senka koju nosimo kroz život, iako nikada nismo učestvovali u njenom stvaranju. Jer, u digitalnom svetu danas više nije dovoljno da čuvamo ono što sami objavljujemo. Moramo da razmišljamo i o tome šta neko drugi može da napravi od našeg lica.