Oružje protiv dece: Šta je CSAM – opasna tehnologija koju može doneti bezazalena slika sa letovanja
Kupališna sezona na bazenima i godišnji odmori uveliko traju. Kako bi zabeležili (prve) trenutke pored vode roditelji fotografišu i snimaju svoju decu. Potom taj sadržaj postavljaju na društvene mreže i tog trenutka deca postaju meta internet predatora.
Prelepe uspomene mogu postati noćna mora. Iako mnogi misle da je deljenje lepih trenutaka sa decom bezazleno, ovaj sadržaj pojedinci mogu iskoristiti. A jednom podeljen i kreiran sadržaj ne nestaje. Može biti zloupotrebljen godinama kasnije, tako da se dete sa takvim sadržajem može susresti i kada odraste.
Fondacija za nadzor internet (IWF) nedavno je saopštila da je u porastu uznemirujućeg sadržaja o seksualnom zlostavljanju dece (CSAM) generisanog putem veštačke inteligencije. Žrtve su najčešće deca između 3 i 13 godina.
Veštački generisani CSAM podrazumeva slike koje su delimično ili potpuno generisane veštačkom inteligencijom. Softver može da „ogoli“ stvarne slike i zameni lice jednog deteta drugim, stvarajući realističnu sliku. Videi postaju toliko detaljni, da i oni deluju stvarno. U nekim slučajevima se koriste i glasovi dece iz stvarnog života, što znači da nevine žrtve zlostavljanja ponovo postaju žrtve.
Materijal pronalaze na društvenim mrežama roditelja ili profilima dece, često putem popularnih haštagova. Ako su profili zaključani do dece mogu da dođu i preko objava prijatelja i porodice. Predatori pretražuju grupne objave, tagove sa lokacijom i albume koji su dostupni javno.
Samo tokom prvih šest meseci 2025. godine, britanski nadzorni organ je verifikovao 1.286 video snimaka generisanih veštačkom inteligencijom koji sadrže nezakonito seksualno zlostavljanje dece, dok ih je u istom periodu prošle godine bilo dva. Preko 1.000 snimaka klasifikovano je kao Kategorija A, odnosno najteži oblik zlostavljanja.
IWF ističe da pedofili koriste napredak veštačke inteligencije kako bi brzo kreirali fotografije i snimke. Alati veštačke inteligencije koji su poslednjih godina dostupni sve većem broju ljudi daju počiniocima neviđen pristup tehnologiji sposobnoj da kreira hiperrealističan sadržaj zlostavljanja. Takav materijal često je zasnovan i na stvarnim žrtvama kako bi se masovno proizvodio novi materijal bez uključivanja nove dece.
Porastao je i broj URL-ova koji hostuju seksualni sadržaj generisan veštačkom inteligencijom u prvom periodu 2025. godine, pri čemu svaki URL često sadrži stotine ilegalnih slika i video-zapisa. Od jedne fotografije može da nastane bezbroj videa, a da to ni ne znate.
Ova vrsta materijala ne samo da čini ogromnu štetu, već predstavlja i nove izazove u otkrivanju takvog sadržaja, posebno kako alati postaju sofisticiraniji i pristupačniji.
Predatori koriste veštačku inteligenciju da stvore materijal o kakvom maštaju. Pojedini ih koriste kako bi zadovoljili svoje potrebe, a drugi da bi profitirali. Ovakav materijal često se deli u zatvorenim grupama i prodaje na dark vebu. Sadržaje se koriste i za ucenu i prisiljavanje žrtava na dalje zlostavljanje.
U Srbiji internet svakog dana koristi više 86 odsto dece i tinejdžera, a svako drugo dete je doživelo neku neprijatnost, pokazuju istraživanja.
Centar za nestalu i zlostavljanju decu uz podršku INL programa Ambasade Sjedinjenih Američkih Država u Srbiji od septembra 2024. sprovodi projekat PROMISE „u cilju sprečavanje seksualnog zlostavljanja dece i mladih kroz širenje svesti javnosti o problemu i druge preventivne mere, iniciranje izmena Krivičnog zakonika radi efikasnije zaštite dece, kao i unapređenje kvaliteta usluga namenjenih deci žrtvama seksualnog nasilja i njihovim porodicama”.
Fokus projekta stavljen je i na pružanje psihološke i pravne podrške, radu na mentalnom zdravlju dece i razgovorima sa roditeljima i stučnjacima za pružanje odgovarajuće podrške detetu. Sam program planirano je da traje do avgusta 2027. godine.
Net Patrola, inicijativa Centra za nestalu i zlostavljanu decu, ima za cilj zaštitu dece na internetu i uklanjanje štetnog sadržaja, posebno CSAM materijala. Putem ove platforme anonimno se može prijaviti sumnjiv sadržaj, koji će biti dalje procenjen i ukoliko se ispostavi nelegalan, biti prosleđen nadležnim državnim organima ili internet provajderima za uklanjanje.
Sam Centar za nestalu i zlostavljanu decu u decembru 2021. postao je član mreže INHOPE, globalne hotline-ove mreže koja se bavi ilegalnim sadržajem i borbom protiv seksualnog iskorišćavanja dece na internetu.
Prema podacima iz medija u akciji „Armagedon“, koja za cilj ima pronalaženje seksualnih predatora na internetu, policija je od januara do juna 2025. uhapsila 12 pedofila, odnosno 21 tokom 2024. godine zbog zbog prikazivanja, pribavljanja i posedovanja pornografskog materijala i iskorišćavanja maloletnog lica za pornografiju. Do sada je u okviru ove akcije uhapšeno više od 200 predatora.
Prema IWF-u, prvi potvrđeni slučaj CSAM-a pojavio se 2023. godine, odnosno 51 slika veštačke inteligencije. Samo godinu dana kasnije, broj prijava je porastao za 380 odsto, sa 245 prijava u 2024. godini koje su uključivale više od 7.600 slika i snimaka. Oko 98% ovog materijala prikazuje devojčice.
IWF pozvala je i na globalnu odgovornost u oblasti tehnologije, dok je Evropski parlament pozvao na zabranu CSAM materijala, navodeći kao razlog brzo rastuću pretnju. Uz zalaganje za potpunu zabranu, IWF takođe zahteva zabranu vodiča, uputstava i modela koji se koriste za kreiranje CSAM-a na nivou cele EU, kao i bolju podršku žrtvama. Ovaj globalni problem zahteva dijalog i međunarodnu saradnju, sa posebnom posvećenošću najranjivijih pojedinaca na mreži.
