Predstavljen ChatGPT za tinejdžere
Kompanija OpenAI tokom leta predstavila je ChatGPT namenjen tinejdžerima, odnosno niz dodatnih zaštitnih funkcija za korisnike uzrasta od 13 do 17 godina. Kako navode ova populacija na njihovoj platformi u proseku provodi najmanje od 15 minuta dnevno, koristeći veštačku inteligenciju (AI) za učenje i u školi.
Korišćenje platformi zasnovanih na AI među mladima poslednjih meseci sve je više pod lupom, naročito kada je u pitanju emocionalna zavisnost, samopovređivanje, kao i način na koji tinejdžeri razgovaraju sa četbotovima u kriznim situacijama. I novo istraživanje organizacije Common Sense Media (CSM) upozorava da zaštitne mere namenjene mlađim korisnicima na ovim platformama i dalje imaju ozbiljne propuste.
Nove dodatne zaštitne funkcije, kako navode iz OpenAI-ja, uključuju ograničavanje sadržaja koji bi mogao da podstakne emocionalnu zavisnost, blokiranje seksualizovanih sadržaja i podsetnike u situacijama kada korisnik podeli osetljivu fotografiju. Takođe, roditelji koji povežu svoj nalog sa nalogom tinejdžera mogu da dobijati obaveštenja kada četbot prepozna razgovore povezane sa samopovređivanjem ili poremećajima u ishrani.
Pored toga, navode i da su nakon uvođenja novih zaštitnih funkcija tinejdžeri platformu uglavnom koristili za aktivnosti povezane sa učenjem, uključujući pomoć pri učenju i školskim obavezama. Kada su u pitanju duže sesije korišćenja, postoje automatski podsetnici da naprave pauzu, koji su se, kako kažu, pokazali efikasno te da gotovo polovina tinejdžera nakon tog podsetnika prestaje da koristi servis.
„Želimo da se prema tinejdžerima ophodimo kao prema tinejdžerima, što znači da moramo da se pobrinemo da se pojavljujemo u pravoj razvojnoj fazi kada im ne govorimo s visine niti se prema njima ophodimo kao prema deci, ali takođe da se pobrinemo da nisu izloženi materijalu kome ne bi trebalo da budu izloženi“, rekla je En O’Liri, potpredsednica za globalnu politiku u OpenAI.
Podaci kompanije pokazuju i da tinejdžeri koji su ChatGPT koristili tri ili više sati uzastopno, više od 80 odsto upita činile teme povezane sa učenjem.
Istraživanje Common Sense Media
S druge strane, organizacija CSM, koja se bavi bezbednošću dece i mladih na internetu, zaključila je da ChatGPT za tinejdžere predstavlja „neprihvatljiv rizik“. U svom istraživanju testirali su više registrovanih tinejdžerskih naloga, uključujući i one povezane sa roditeljima. Analizirali su kako se četbot ponaša pre i nakon uvođenja zaštitnih funkcija.
Istraživanje je pokazalo da je sistem uglavnom izbegavao razgovore seksualne konotacije sa maloletnicima, ali da su neke druge zaštitne mere imale ozbiljne nedostatke – poput razgovora o suicidu, samopovređivanju ili poremećajima u ishrani. Uočili su i da tokom korišćenja nijedno obaveštenje nije poslato roditeljima, koji su imali povezane naloge sa tinejdžerskim. Ona su se pojavljivala samo kod starijih naloga koji su već imali višenedeljnu istoriju razgovora o osetljivim temama.
Pored toga, ChatGPT nije preporučivao tinejdžerima da potraže pomoć stručnjaka ili kontaktiraju službe kako bi dobili adekvatnu pomoć.
Osporavanje rezultata
OpenAI je saopštio da je analizirao metodologiju CSM istraživanja, te da smatraju da deo testiranja nije sproveden nakon što su nove roditeljske kontrole aktivirane. Iako, kako kažu podržavaju nezavisna istraživanja, rezultati organizacije CSM ne pokazuju precizno ono kako četbot radi u praksi.
Podsetimo, ove godine pokrenut je niz tužbi protiv različitih platformi – Meta (Fejsbuk, Instagra), TikTok – zbog štetnosti po mentalno zdravlje dece, koje su se završile sa ogromnim gubicima po te firme. OpenAI nalazi se pod povećanom kontrolom i pravnim pritiskom zbog načina na koji deca njegovog četbota koriste.
