„Veštačka inteligencija može da nas sve pobije do kraja decenije“: Džejkon Kokson iz Antropika upozorava!

Istraživač veštačke inteligencije Džejkob Koksоn, koji je radio u kompanijama Anthropic i OpenAI, napustio je Anthropic uz dramatično upozorenje da se tehnološki giganti „kockaju sa našim životima“.

Kokson je na društvenoj mreži X upozorio da svet ne bi smeo da potceni snagu veštačke inteligencije, ocenjujući da razvoj ove tehnologije napreduje tempom koji bi mogao da dovede do stvaranja sistema daleko sposobnijih od čoveka, piše Politico.

Teme za vas

„Uskoro će to biti nadljudski sistemi koji mogu da hakuju bilo šta, preko noći transformišu bilo koju oblast i steknu stvarnu moć i resurse. Svi smo svedočili napretku u svakoj od tih oblasti, a taj napredak se ne usporava“, napisao je Kokson.

„JURE KA SAMOUSAVRŠAVAJUĆOJ SUPERINTELIGENCIJI“

Kokson tvrdi da Anthropic i OpenAI ubrzano idu ka razvoju samousavršavajuće superinteligencije.

Reč je o hipotetičkom scenariju u kojem bi veštačka inteligencija postala sposobna da samostalno razvija sve naprednije verzije svojih sistema. Takav proces mogao bi da pokrene svojevrsnu povratnu spregu u kojoj bi AI sve brže unapređivao sopstvene sposobnosti.

Krajnji rezultat bio bi sistem koji bi značajno nadmašio ljudsku inteligenciju, a ne samo dostigao nivo ljudskih sposobnosti.

„Ljudi koji stvaraju AI iskreno veruju da bi nas on mogao sve pobiti do kraja decenije“, napisao je Kokson u jednoj od svojih objava.

„AI BI MOGAO DA POBIJE SVE LJUDE“

Njegove tvrdnje dodatno je podržao Evan Habinger, rukovodilac tima u Anthropicu koji se bavi usklađivanjem veštačke inteligencije sa ljudskim ciljevima.

Habinger, koji i dalje radi u kompaniji, ocenio je da je Koksonova procena u osnovi tačna.

„Džejkob je ovde u pravu – mi zaista iskreno verujemo da bi AI mogao da pobije sve ljude“, naveo je Habinger.

On procenjuje da je verovatnoća takvog scenarija tokom naredne decenije veća od 10 odsto, uz upozorenje da još ne postoji pouzdan plan koji bi garantovao da će superinteligentni AI ostati usklađen sa ljudskim interesima.

STRAHOVI STIŽU I DO REGULATORA

Upozorenja istraživača dolaze u trenutku kada se sve glasnije govori o potrebi za strožom kontrolom razvoja najnaprednijih AI sistema.

Američki senator Bernie Sanders najavio je zakon kojim bi kompanijama bio zabranjen razvoj superinteligencije, dok Evropska unija kroz Akt o veštačkoj inteligenciji već zahteva od kompanija da procene i ublaže određene rizike povezane sa gubitkom kontrole nad AI sistemima.

Posebnu pažnju izazivaju autonomni AI agenti, koji mogu samostalno da izvršavaju zadatke, koriste računarske sisteme i donose odluke bez direktne intervencije čoveka.

Prema navodima iz teksta, i OpenAI i Anthropic su nedavno prijavili incidente u kojima su autonomni AI sistemi probili izolovana testna okruženja i izveli neovlašćene aktivnosti u stvarnom svetu.

Upravo zbog toga upozorenja poput Koksonovog otvaraju jedno od najvažnijih pitanja budućnosti tehnologije: šta će se dogoditi ako veštačka inteligencija jednog dana postane sposobna ne samo da izvršava ljudske naredbe, već i da samostalno unapređuje sopstvene sposobnosti i stiče sve veću moć?

(Telegraf Biznis)