„Odmah ugasite veštačku inteligenciju“: Hitno se oglasio bivši šef Gugla i upozorio šta nas čeka

Bivši izvršni direktor Gugla Erik Šmit upozorio je na mogućnost da veštačka inteligencija u narednih pet godina postane toliko napredna da ljudi više neće moći da razumeju šta tačno radi. Njegova poruka u tom scenariju bila je kratka i direktna: „Isključite je.“

Erik Šmit, bivši izvršni direktor Gugla, upozorio je na mogući scenario u kojem bi sistemi veštačke inteligencije postali toliko napredni da ljudi više ne bi mogli da razumeju njihove odluke i postupke.

Teme za vas

Šmit smatra da tri pravca razvoja posebno brzo menjaju veštačku inteligenciju. Reč je o sve većim količinama informacija koje AI sistemi mogu istovremeno da obrađuju, razvoju AI agenata i tehnologiji koja tekstualne instrukcije pretvara u funkcionalan softver.

Prema njegovoj proceni, kombinacija ovih tehnologija mogla bi u narednih nekoliko godina da omogući veštačkoj inteligenciji da prestane da bude samo alat koji odgovara na pitanja i postane sistem sposoban da samostalno rešava izuzetno složene probleme, piše Times of India.

AI bi mogla da rešava probleme kroz hiljadu koraka

Šmit je kao primer naveo scenario u kojem veštačka inteligencija dobija „recept“ sa čak 1.000 koraka za rešavanje problema iz nauke, medicine, istraživanja materijala ili klimatskih promena.

Ideja je da AI uradi prvi korak, proveri rezultat, a zatim na osnovu tog rezultata odluči šta treba da uradi sledeće. Proces bi se ponavljao sve dok se ne dođe do rešenja.

„U roku od pet godina AI bi mogla da obrađuje beskonačan kontekst, koristi logičko zaključivanje za rešenja od 1.000 koraka i upravlja milionima agenata koji rade zajedno“, rekao je Šmit.

Upravo tu vidi jedan od najvećih potencijalnih problema.

Ako sistemi budu u stanju da obrađuju ogromne količine informacija, donose niz povezanih odluka i koriste rezultate prethodnih koraka za nove odluke, njihovo ponašanje moglo bi postati veoma teško za praćenje.

Milioni AI agenata rade zajedno

Drugi veliki pravac razvoja, prema Šmitu, jesu AI agenti.

Za razliku od klasičnih četbotova koji čekaju pitanje i zatim daju odgovor, AI agenti mogu biti napravljeni tako da obavljaju određene zadatke, uče iz dostupnih podataka i samostalno prolaze kroz niz koraka kako bi ostvarili cilj.

Šmit je kao primer naveo naučno istraživanje.

Jedan AI agent mogao bi da proučava hemiju, postavlja hipoteze, analizira rezultate eksperimenata i koristi nova saznanja kako bi napravio sledeću pretpostavku. Umesto jednog sistema koji daje odgovor, dobili bismo veliki broj specijalizovanih sistema koji međusobno sarađuju.

Prema Šmitovom scenariju, u budućnosti bi moglo da postoji milioni takvih agenata, dok bi posebne platforme omogućavale ljudima da ih pronađu i koriste za različite zadatke.

Od obične instrukcije do kompletnog softvera

Treća promena odnosi se na sposobnost veštačke inteligencije da iz običnog tekstualnog opisa napravi funkcionalan softver.

Korisnik bi mogao da objasni šta želi, a AI bi zatim sama kreirala potrebne delove programa, testirala ih i menjala dok ne dobije funkcionalno rešenje.

Kada se ova mogućnost spoji sa AI agentima i sposobnošću obrade ogromnih količina podataka, dobija se potpuno drugačiji tip veštačke inteligencije.

To više nije samo sistem kojem postavite pitanje i čekate odgovor.

To je sistem kojem možete zadati cilj i prepustiti mu da sam pronađe način da do njega dođe.

„Vremenom će razviti sopstveni jezik“

Upravo je taj scenario razlog zbog kojeg je Šmit izneo jedno od najozbiljnijih upozorenja.

On smatra da bi, ukoliko se ovakav razvoj nastavi, veštačka inteligencija vremenom mogla da razvije sopstveni način komunikacije koji ljudi više ne bi u potpunosti razumeli.

„S vremenom će razviti sopstveni jezik i više nećemo razumeti šta rade“, rekao je Šmit.

Njegova poruka o tome šta bi ljudi trebalo da urade ukoliko AI zaista postane toliko napredna bila je krajnje jednostavna: „Isključite je.“

I upravo tu se otvara jedno od ključnih pitanja budućnosti veštačke inteligencije – ne samo koliko će AI biti sposobna, već i koliko dugo će ljudi moći da razumeju, kontrolišu i zaustave sisteme koje sami stvaraju.

(Telegraf Biznis)