Čuli ste glas bliske osobe. Kako znate da je zaista ona?

Zamislite da vas pozove dete, partner ili roditelj. Glas je potpuno prepoznatljiv. Čujete način na koji izgovara vaše ime, prepoznajete naglasak i način govora. Osoba vam govori da se nalazi u nezgodnoj situaciji, da joj treba novac ili da joj pošaljete određeni kod. Nemate mnogo vremena za razmišljanje, a poslednje na šta pomislite jeste da razgovarate sa prevarantom. Do nedavno je poznat glas bio prilično dobar način da prepoznamo ko nas zove. Danas to više nije dovoljno. Veštačka inteligencija omogućila je da se nečiji glas digitalno kopira, a zatim koristi za izgovaranje rečenica koje ta osoba nikada nije izgovorila. Tehnologija je sve dostupnija, a za početni uzorak ne mora nužno da postoji profesionalni tonski snimak. Dovoljno je pronaći kraći audio-zapis osobe koja govori.

Kako veštačka inteligencija uspeva da zvuči kao neko drugi?

Kloniranje glasa ne znači da program samo iseče nekoliko rečenica iz nečijeg intervjua i spoji ih u novi snimak. Proces je nešto drugačiji. AI alat analizira karakteristike glasa: boju i dubinu, ritam govora, naglasak, način izgovaranja pojedinih glasova, intonaciju i pauze. Na osnovu tih karakteristika pravi digitalni model koji može da se koristi za generisanje novog govora. Zatim korisnik unese tekst koji želi da se izgovori, a sistem generiše audio-zapis koji zvuči kao osoba čiji je glas poslužio kao uzor. 

Za ovakvu zloupotrebu nije neophodno da žrtva bude poznata ličnost. Glas može biti preuzet iz javnog videa na Instagramu, TikToku, YouTube-u, intervjua ili čak glasovne poruke koja je nekada poslata u grupnom četu. Tu se pojavljuje i druga tehnologija koja dodatno komplikuje situaciju – spoofing. Za razliku od kloniranja glasa, koje imitira način na koji neko zvuči, spoofing omogućava prevarantu da falsifikuje broj koji se prikazuje prilikom poziva. Tako na ekranu može da se pojavi broj člana porodice, banke ili druge institucije, iako poziv zapravo dolazi sa drugog izvora. Kada se ove dve tehnike kombinuju, prevarant može da pozove osobu sa broja koji joj je poznat i pritom govori glasom nekoga kome veruje.

Da li možemo da prepoznamo lažni glas?

Jedan od najpoznatijih scenarija jeste takozvana prevara u hitnoj porodičnoj situaciji. Prevarant se predstavlja kao dete, unuk ili drugi član porodice i tvrdi da je doživeo nezgodu, da se nalazi u policiji ili bolnici i da mu je hitno potreban novac. U takvim situacijama cilj nije samo da žrtva poveruje u lažni identitet. Mnogo je važnije da počne da reaguje pod pritiskom. Strah za blisku osobu, osećaj odgovornosti i panika mogu da potisnu potrebu za proverom. Često se traži da novac bude uplaćen odmah, da se ne prekida veza ili da se nikome ne govori šta se dogodilo.

Ministarstvo unutrašnjih poslova Srbije je tokom septembra 2025. upozorilo na sve češće slučajeve u kojima prevaranti imitiraju glas člana porodice, prijatelja ili institucije i traže novac, šifre ili druge osetljive podatke. Godinu dana kasnije, Vlada Srbije je u januaru 2026. upozorila i na zloupotrebu likova i identiteta javnih ličnosti u lažnim investicionim reklamama, uključujući AI-generisane video-snimke. Dakle, mogućnosti zloupotrebe ne završavaju se pozivom navodnog člana porodice. Moguće je imitirati direktora kompanije koji traži hitnu uplatu, bankarskog službenika koji traži podatke ili poznatu osobu koja navodno preporučuje investiciju.

Prvi instinkt je da pokušamo da čujemo da nešto nije u redu. Možda glas zvuči malo drugačije, intonacija je neobična, rečenice su neprirodne ili postoje čudne pauze. To može biti korisno, ali nije pouzdana metoda. Kvalitet generisanog govora se poboljšava, pa nije realno očekivati da ćemo svaki lažni snimak prepoznati samo slušajući ga. Čak i ako primetimo neku neobičnost, ne možemo sa sigurnošću zaključiti da je u pitanju AI. Zato stručnjaci za sajber-bezbednost sve više naglašavaju da treba proveravati sam zahtev, a ne samo kvalitet snimka. Ako nam poznata osoba iznenada traži novac, lozinku ili jednokratni SMS kod, mnogo je važnije da proverimo da li je zahtev stvaran nego da analiziramo nijansu njenog glasa.

Šta zakon kaže u svetu?

Zakonodavstvo pokušava da prati tehnologiju, ali pristupi nisu svuda isti. Jedan od zanimljivijih primera stiže iz Danske. Tamo je predstavljen predlog izmena Zakona o autorskim pravima kojim bi ljudi dobili konkretniju zaštitu od neovlašćenih digitalnih imitacija sopstvenog izgleda, glasa i drugih ličnih karakteristika. Predlog obuhvata i AI-generisane sadržaje koji realistički oponašaju stvarne osobe. Posebno je značajno to što zaštita ne bi važila samo za poznate ličnosti već i za obične građane. Na nivou Evropske unije, Akt o veštačkoj inteligenciji već predviđa obaveze transparentnosti. Primenjuju se pravila prema kojima pružaoci generativnih AI sistema treba da obezbede da generisani ili izmenjeni sadržaj bude tehnički označen tako da se može prepoznati kao AI sadržaj. Oni koji profesionalno objavljuju deepfake sadržaj imaju i obavezu da jasno obaveste publiku da je reč o veštački generisanom ili izmenjenom sadržaju, uz određene izuzetke. 

A kakva je situacija u Srbiji?

Za sada nemamo poseban zakon koji se bavi isključivo deepfake sadržajem ili kloniranjem glasa, ali to ne znači da ovakva zloupotreba nema pravne posledice. U zavisnosti od načina na koji je glas upotrebljen i štete koja je nastala, mogu se primeniti postojeći propisi. Krivični zakonik, na primer, u članu 208 predviđa krivično delo prevare, koje obuhvata dovođenje druge osobe u zabludu lažnim prikazivanjem činjenica radi sticanja protivpravne imovinske koristi. Ukoliko neko uz pomoć kloniranog glasa navede žrtvu da uplati novac, ova odredba može biti relevantna. Član 145 uređuje neovlašćeno objavljivanje tuđeg spisa, portreta i snimka ličnog karaktera bez pristanka, kada se time osetno zadire u privatni život. Ipak, primena te odredbe na sintetički generisan glas zavisi od konkretnih okolnosti, jer zakon nije posebno pisan za AI-klonirane glasove. 

Zakon o zaštiti podataka o ličnosti takođe je važan. Glas koji omogućava da se osoba identifikuje može predstavljati podatak o ličnosti. Drugim rečima, pravna zaštita postoji, ali je još uvek raspoređena kroz više propisa. Tehnologija koja može da imitira nečiji glas razvija se brže nego što se zakonodavstvo prilagođava njenim specifičnim zloupotrebama.

Porodični dogovor koji može da spreči prevaru

Postoji nekoliko jednostavnih načina provere koje mogu biti korisnije od pokušaja da naučimo kako zvuči AI-generisani glas.

• Dogovorite porodičnu tajnu reč. To može biti potpuno obična reč ili kratka rečenica koju znaju samo članovi porodice. Ako neko pozove i tvrdi da je u nevolji, možete zatražiti da je izgovori. 
• Prekinite poziv i pozovite osobu ponovo. Koristite broj koji već imate sačuvan, a ne broj sa koga ste dobili poziv. Ako se osoba ne javlja, pokušajte da stupite u kontakt sa drugim članom porodice. MUP upravo ovaj postupak preporučuje građanima.
• Ne šaljite novac i ne otkrivajte kodove pod pritiskom. Nijedna hitna situacija ne bi trebalo da bude razlog da nekome telefonom saopštite PIN, lozinku ili jednokratni kod koji vam je stigao SMS-om. Posebno budite oprezni kada osoba traži da zaobiđete uobičajenu proceduru ili da sve ostane tajna.
• Proverite zahtev drugim kanalom. Ako vas poziva navodni kolega, direktor ili poslovni partner, kontaktirajte ga na broj ili imejl koji ste ranije koristili.