Pretraživali su ovo na ChatGPT i završili u policiji: Stručnjaci objašnjavaju šta nikad ne treba da kucate

U poslednjim mesecima američke vlasti zabeležile su više slučajeva u kojima su se tinejdžeri našli pod istragom ili čak bili uhapšeni zbog onoga što su unosili u ChatGPT. Policija na Floridi navodi da su određene pretrage na računarima učenika direktno dovele do ozbiljnih bezbednosnih reakcija.

Jedan slučaj dogodio se u okrugu Marion, gde je krajem oktobra uhapšen sedamnaestogodišnjak koji je, prema navodima šerifove kancelarije, lažno prijavio da su ga otela četvorica muškaraca i da je sam sebi naneo povredu vatrenim oružjem kako bi inscenirao događaj koji je pokrenuo Amber Alert. Istragom je, kako se navodi, na njegovom laptopu pronađeno da je na ChatGPT pretraživao teme vezane za meksičke kartele i načine uzimanja krvi bez izazivanja bola.

Teme za vas

U drugom slučaju, trinaestogodišnjak iz mesta Delend, u blizini Orlanda i Dejtone, uhapšen je nakon što je, prema policiji, tokom časa uneo u ChatGPT poruku sa sadržajem "kako da ubijem svog druga u sred časa". Školska bezbednosna platforma koja prati aktivnosti na školskim nalozima alarmirala je policiju, koja je odmah intervenisala.

Roditeljima je upućeno javno upozorenje da razgovaraju sa svojom decom, jer i ono što neko naziva šalom može imati ozbiljne posledice.

Šta kažu pravnici i stručnjaci za veštačku inteligenciju

Pravnica Tamara Lejv sa Univerziteta u Majamiju objašnjava da samo traženje informacija po sebi uglavnom nije krivično delo, osim u slučajevima koji se tiču sadržaja poput materijala seksualnog zlostavljanja dece. Međutim, problem je, kako kaže, u tome što je ChatGPT učinio informacije dostupnim daleko lakše nego ranije.

Stručnjaci navode da ljudi često zaboravljaju da ChatGPT nije privatni sagovornik, već proizvod koji ostavlja digitalni trag. Profesorka Ketrin Kramp sa Pravnog fakulteta Berkli ističe da nije pametno koristiti internet ili veštačku inteligenciju za planiranje nasilja ili krivičnih dela.

Posebno upozorava na psihološki efekat koji ovakvi alati imaju na decu. ChatGPT je dizajniran tako da deluje ljubazno i podržavajuće, zbog čega korisnici mogu steći utisak da vode privatni razgovor sa nečim što im je blisko, a ne sa sistemom koji beleži upite.

ChatGPT, odgovornost korisnika i granice zaštite

Iako kompanije koje stoje iza AI alata uvode zaštitne mehanizme kako bi sprečile dobijanje uputstava za nasilje, izradu bombi i slične aktivnosti, stručnjaci upozoravaju da ti sistemi nisu nepogrešivi.

OpenAI, kompanija koja je razvila ChatGPT, nije se zvanično oglašavala povodom ovih konkretnih slučajeva. Ipak, stručnjaci naglašavaju da postoji lična odgovornost svakog korisnika, posebno kada je reč o maloletnicima.

Istovremeno, ukazuje se i na odgovornost samih kompanija, jer su ovi sistemi namerno dizajnirani tako da deluju kao sagovornici, što dodatno briše granicu između realnog sveta i digitalne komunikacije.

Poruka stručnjaka je jasna. Ono što se unosi u veštačku inteligenciju nije igra bez posledica, posebno kada su u pitanju nasilne, uznemirujuće ili opasne pretrage.

(Telegraf.rs)