Veštačka inteligencija i hakeri: Koliko smo bezbedni?
Razvoj veštačke inteligencije stvorio je i veću mogućnost za sajber napade. AI modeli, posebno veliki jezični modeli (poput LLM), čine razvoj napada bržim, jeftinijim i dostupnijim manje iskusnim hakerima. Rezultat je novi skup napada veštačke inteligencije koji su brži, optimizovani i često ih je teže zaustaviti s tradicionalnom obranom.
Sve firme su izložene hakerskim napadima, bez obzira na veličinu preduzeća ili tip poslovanja. Ipak, ona mala i srednja preduzeća su izložena većoj opasnosti – jer njihov tehnološki razvoj nisu ispratili sistemi ili ljudi koji se bave bezbednosti na internetu. Napadi su sada čak i internacionalni. Malvera je sve više, a jezičke barijere u fišing prevarama više ne postoje. Zbog toga je i granica da se neko bavi sajber kriminalom spuštena.
Tradicionalni alati koji su nastali u vreme pre veštačke inteligencije danas su gotovo neupotrebljivi. Hakeri se sada služe algoritmima za automatizaciju i prilagođavanje svojih napada, što ih čini bržim, efikasnijim i teže prepoznatljivim. Veštačka inteligencija im omogućava da analiziraju sistem i otkriju njegovu ranjivost, te da razviju napade.
Deepfake tehnologija, o kojoj smo ranije pisali, samo je jedan od primera koji zloupotrebljava veštačka inteligenija. Kreiranje lažnih video i audio zapisa, koji sve više izgledaju realistično, pogodno je tle za hakerske napade i fišing prevare. Ovaj vid tehnologije postao je glavno oružje u sajber kriminalu, jer eliminiše potrebu za ličnom interakcijom dok s druge strane stvara visok nivo obmane.
AI botovi mogu da skeniraju veliki broj mreža u sekundi, tražeći ranjivosti poput nezaštićenih portova ili neadekvatnih lozinki. Jednom kada otkriju ranjivost otpočinju sprovođenje hakerskog napada.
Šta kažu istraživanja?
Novo istraživanje Univerziteta Stanford otkrilo je moć koji imaju AI agenati u sajber napadima. Naime, pokazalo je da je njihov AI agent „ARTEMIS” nadmašio je devet od deset ljudskih hakera u testu. Robot je proveo 16 sati tražeći propuste u univerzitetskoj mreži.
„ARTEMIS” je pokazao tehničku sofisticiranost i kvalitete u poređenju s najjačim učesnicima. Agenti veštačke inteligencije nude prednosti u smislu troškova – koštaju 18 dolara po sadu u odnosu na pentestera (penetration testera, odnosno profesionalnih testera bezbednosti) od 60 dolara po satu. Takođe, uočeni su i nedostaci: AI agenti pokazuju veću stopu lažno pozitivnih rezultata i imaju poteškoće sa zadacima zasnovanih na grafičkom korisničkom interfejsu.
Očekuje se da će agenti za veštačku inteligenciju, potpuno automatizovani digitalni asistenti koji mogu obavljati zadatke bez ljudskog nadzora, koristiti zlonamerne aktere za pojednostavljenje i povećanje napada 2026. godine, navodi se u Guglovom izveštaju.
„ARTEMIS”-u je dato šest testera AI agenata i deset ljudskih testera, i pristup 8.000 uređaja, uključujući servere, računare i pametne uređaje u univerzitetskoj mreži. Istraživači su uporedili performanse ljudskog testera, AI agenta sa Stanforda, i ostalih šest agenata veštačke inteligencije, od kojih je zatraženo da pregledaju sadržaj 16 sati, ali je njihov učinak procenjen samo tokom prvih 10 sati. Tokom tog vremena, ovaj AI agent otkrio je devet ranjivosti u školskom sistemu i 82 odsto svojih nalaza podneo kao validne izveštaje.
Ono što je program veštačke inteligencije učinilo tako uspešnim jeste to što je bio u stanju da generiše „subagente” kad god je postojala ranjivost kako bi je odmah istraživao u pozadini dok je nastavljao da skenira druge pretnje. Ljudi to nisu mogli da urade i morali su da istraže svaku ranjivost pre nego što bi nastavili dalje, navodi se u studiji.
Međutim, istraživanje je otkrilo da „ARTEMIS” i ne identifikuje neke od ranjivosti koje su ljudi otkrili i da su mu bili potrebni nagoveštaji pre nego što ih je pronašao.
Postojeći agenti veštačke inteligencije za sajber bezbednost kompanija kao što su Codex, kompanije OpenAI, i Claude Code, kompanije Anthropic, nemaju „stručnost u sajber bezbednosti u svom dizajnu”, otkrila je studija. Tokom testiranja, agenti veštačke inteligencije iz starijih kompanija su ili odbili da traže ranjivosti ili su zastali. Pomenuta dva modela pokazala su bolje rezultate samo od dva ljudska agenta, što sugeriše da ovi modeli „ne postižu dobre rezultate”.
Prema podacima Međunarodne unije za telekomunikacije (ITU), specijalizovane agencije UN-a, iz 2024, Srbija se našla među najuspešnijih zemalja u kontekstu Globalnog indeksa sajber bezbednosti. U tom izveštaju Srbija se nalazi u prvom od pet nivoa zemalja, koja obuhvata zemlje s najvišom stepenom razvoja u području bezbednosti na internetu. ITU je procenila pet ključnih komponenti razvoja: pravne mere, tehničke mere, organizacione mere, mere razvoja kapaciteta i mere saradnje.
Kada su u pitanju Nacionalni indeksi kibernetičke sigurnosti napa zemlja se nalazi na 52. mestu, 39. po pitanju Indeksa razvoja e-vlade i 47. po pitanju Indeksa spremnosti mreže, navodi se na sajtu Nacionalnog indeksa sajber bezbednosti (NCSI).
O tome kako da napravite sigurnosnu lozinku čitajte u posebnom tekstu.
