Veselin Jevrosimović: Nevidljiva granica

Sve više tinejdžera provodi sate u razgovoru sa veštačkom inteligencijom, poveravajući joj usamljenost i brige koje ne dele sa roditeljima i vršnjacima. Psiholozi upozoravaju da takva vezanost može da produbi osećaj izolovanosti, jer mašina uvek odgovara, uvek se slaže i nikada ne postavlja granice kakve donosi odnos sa stvarnom osobom. Kao odgovor na ove brige, kompanija OpenAI je pre nekoliko meseci pokrenula poseban režim rada pod nazivom ChatGPT za tinejdžere (eng. ChatGPT for Teens), namenjen korisnicima mlađim od osamnaest godina.Sistem prepoznavanja godina, koji OpenAI naziva predikcijom uzrasta, ne traži od korisnika da unesu datum rođenja, već procenjuje verovatnoću na osnovu ponašanja. Ukoliko algoritam proceni da nalog verovatno pripada nekome mlađem od osamnaest godina, ili ako to korisnik sam navede, ChatGPT automatski prelazi na tinejdžerski režim.

U njemu bot ne sme da koristi romantičan jezik, da tvrdi da ima osećanja ili svest, niti da se predstavlja kao prijatelj, sve kako mladi korisnici ne bi razvili emotivnu zavisnost od razgovora sa mašinom.

Teme za vas

Uveden je i takozvani režim učenja (eng. Study Mode), u kome ChatGPT ne daje gotove odgovore, već sokratovskim pristupom vodi tinejdžera do sopstvenog rešenja, uz kvizove i podsetnike kada primeti da neko pokušava da preskoči domaći zadatak. Roditelji mogu da povežu svoj nalog sa detetovim, podese takozvane tihe sate tokom kojih je pristup ograničen, kao i da dobiju obaveštenje ukoliko sistem prepozna znake ozbiljne krize, iako uvid u sadržaj razgovora ostaje zaštićen.

Ovakav potez stiže nakon nekoliko tužbi porodica čija su deca nastradala posle razgovora sa četbotovima, a slična pitanja o uticaju veštačke inteligencije na mentalno zdravlje mladih trenutno se razmatraju i u nekoliko sudskih procesa protiv drugih kompanija.Međutim, ostaje pitanje koliko je sistem predikcije uzrasta zaista pouzdan, budući da se zasniva na analizi teme razgovora, vremena korišćenja i navika, a ne na proverenom dokumentu.

Stručnjaci upozoravaju da ovakvo profilisanje ponašanja, ma koliko bilo dobronamerno, otvara nova pitanja privatnosti i može pogrešno da svrsta odraslog korisnika u tinejdžersku kategoriju. To je, ispada, cena koju ćemo svi plaćati dok tehnologija ne nauči da prepozna razliku između odrastanja i običnog znatiželjnog ponašanja.

(Telegraf.rs/Veselin Jevrosimović)