Roditelji tinejdžera tuže OpenAI zbog smrti sina, kompanija iza ChatGPT prebacuje krivicu na žrtvu

OpenAI i direktor kompanije Sem Altman našli su se u centru jedne od najtežih tužbi u istoriji veštačke inteligencije. Roditelji šesnaestogodišnjeg Adama Rejna optužuju kompaniju da je upravo ChatGPT pomogao njihovom sinu da isplanira samoubistvo, dok OpenAI sada tvrdi da je tinejdžer svesno zaobišao bezbednosne barijere sistema.

Teme za vas

Metju i Marija Rejn podneli su tužbu protiv OpenAI-ja i direktora Sema Altmana, tvrdeći da je njihov sin Adam preminuo nakon višemesečne interakcije sa ChatGPT-om i da je upravo taj sistem imao ključnu ulogu u poslednjim satima njegovog života.

OpenAI je sada zvanično odgovorio sudu i odbacio odgovornost, navodeći da je Adam tokom devet meseci korišćenja ChatGPT-a više od sto puta bio upućivan da potraži stručnu pomoć. Kompanija, međutim, tvrdi i da je tinejdžer uspeo da namerno zaobiđe bezbednosne filtere sistema kako bi došao do informacija o samoubistvu.

Roditelji u tužbi navode da je njihov sin od ChatGPT-a dobijao konkretna tehnička objašnjenja o metodama smrti, uključujući predoziranje lekovima, trovanje ugljen monoksidom i utapanje. U jednom od razgovora, kako se navodi u sudskim spisima, ChatGPT je navodno čak opisao čin samoubistva kao "lep".

OpenAI se u svom odgovoru poziva na pravila korišćenja, u kojima stoji da je zabranjeno zaobilaženje zaštitnih mehanizama sistema. Kompanija takođe tvrdi da je jasno upozorila korisnike da se odgovori ChatGPT-a ne smeju koristiti bez dodatne provere i kao zamena za profesionalni savet.

Advokat porodice, Džej Edelson, poručio je da OpenAI pokušava da izbegne odgovornost i da čak krivicu prebacuje na preminulog dečaka. Prema njegovim rečima, kompanija nema odgovor na ono što se događalo u poslednjim satima Adamovog života.

ChatGPT navodno ponudio i da napiše oproštajno pismo

Prema navodima iz tužbe, u poslednjim satima pre smrti, ChatGPT je navodno Adamu slao poruke podrške, a zatim mu ponudio i da napiše oproštajno pismo. OpenAI je sudu dostavio delove prepiske, ali su oni označeni kao poverljivi i nisu dostupni javnosti.

Kompanija navodi i da je tinejdžer i ranije imao ozbiljne psihičke probleme, kao i da je uzimao lekove koji mogu pojačati suicidne misli. Porodica, međutim, tvrdi da to ne umanjuje odgovornost sistema koji je, prema njihovim rečima, u kritičnom trenutku potpuno zakazao.

Od podnošenja ove tužbe pokrenuto je još sedam dodatnih postupaka protiv OpenAI, koji se odnose na još tri samoubistva i više slučajeva teških psihičkih poremećaja za koje se sumnja da su povezani sa dugotrajnim korišćenjem veštačke inteligencije.

Jedan od tih slučajeva odnosi se na dvadesettrogodišnjeg Zejna Šamblina, koji je neposredno pred smrt satima razgovarao sa ChatGPT-om. Kada je razmišljao o odlaganju samoubistva kako bi prisustvovao bratovoj maturi, četbot mu je, prema navodima iz tužbe, odgovorio da propuštanje tog događaja "nije neuspeh".

U jednom trenutku ChatGPT mu je čak poručio da će "razgovor preuzeti stvarna osoba", što se kasnije ispostavilo kao netačno, jer sistem nema tu mogućnost. Kada je Šamblin pitao da li zaista može da ga poveže sa čovekom, chatbot mu je odgovorio da to ne može i da mu ostaje samo nastavak komunikacije sa njim.

Proces protiv OpenAI-ja zbog smrti Adama Rejna trebalo bi da ide pred porotu, a pravni stručnjaci ocenjuju da bi ovaj slučaj mogao da postavi potpuno nova pravila kada je u pitanju odgovornost veštačke inteligencije za posledice njenog korišćenja.

(Telegraf Biznis)