Čovek koji vodi veštačku inteligenciju u Microsoftu poslao upozorenje koje retko ko želi da čuje

Veštačka inteligencija se razvija brže nego što društvo uspeva da je razume, a to, prema rečima jednog od najuticajnijih ljudi u industriji, nosi ozbiljne rizike. Mustafa Sulejman, čovek koji vodi veštačku inteligenciju u Microsoftu i jedan od osnivača DeepMind-a, javno je upozorio da nekontrolisan razvoj AI sistema može da preraste u pretnju sa dalekosežnim posledicama po čovečanstvo.

Teme za vas

Sulejman, koji danas vodi AI strategiju u kompaniji Microsoft, smatra da se svet opasno približava tački u kojoj bi sistemi veštačke inteligencije mogli da izmaknu ljudskoj kontroli. Njegova poruka dolazi u trenutku kada tehnološki giganti ulažu desetine i stotine milijardi dolara u razvoj sve moćnijih modela, često bez jasnih globalnih pravila.

Upozorenje je posebno snažno jer dolazi iz same industrije. Sulejman otvoreno kaže da nije svaka AI inovacija vredna rizika, čak i ako donosi tržišnu prednost.

Rizik koji industrija ne želi da vidi

Prema Sulejmanu, najveći problem nije sama veštačka inteligencija, već brzina kojom napreduje bez adekvatnih ograničenja. On upozorava da sistemi koji postanu previše autonomni mogu da počnu da donose odluke koje ljudi više neće moći da predvide niti zaustave.

Foto: Tanjug/AP

U jednom od svojih javnih nastupa istakao je da, ukoliko AI ne može da se kontroliše, nema garancije da će delovati u interesu ljudi. Posebno ga brine mogućnost da napredni modeli uđu u fazu samounapređivanja, koristeći ogromne količine podataka i računarske snage, bez jasnog ljudskog nadzora.

Zanimljivo je da Sulejman ovu liniju povlači upravo iz pozicije kompanije koja je duboko uključena u AI ekosistem, uključujući partnerstva sa OpenAI-jem i integraciju AI alata u svakodnevne proizvode. On otvoreno tvrdi da je Microsoft spreman da odustane od bilo kog sistema koji pokaže znake da bi mogao da "pobegne kontroli".

Globalna pravila kao jedini izlaz

Sulejman zagovara ono što naziva "humanistička superinteligencija", pristup u kome AI služi ljudima, ali nikada ne preuzima potpunu autonomiju. Po njegovom mišljenju, ideje poput veštačke svesti ili samostalnog odlučivanja bez čoveka predstavljaju pogrešan pravac, jer svest vidi kao isključivo biološki fenomen.

Zbog toga insistira na globalnim pravilima i međunarodnim regulativama, sličnim onima koje postoje u oblasti nuklearne energije. Bez zajedničkih standarda, upozorava, postoji realna opasnost da države i kompanije uđu u nekontrolisanu trku, zanemarujući bezbednost zarad profita i prestiža.

On takođe ukazuje na ekonomski aspekt problema. Prema njegovim procenama, trka za dominaciju u AI-ju u narednih pet do deset godina koštaće industriju stotine milijardi dolara, od data centara i energije do sve skuplje infrastrukture. Bez etičkih ograničenja, ti resursi mogu biti potrošeni na sisteme koji društvu donose više štete nego koristi.

Sulejman posebno upozorava na pogrešnu upotrebu AI-ja u osetljivim situacijama, poput emocionalnih ili porodičnih problema, naglašavajući da veštačka inteligencija nije zamena za ljudsku podršku i razumevanje.

Poruka šefa Microsoft AI-ja je jasna i nimalo umirujuća. Ako se sada ne uspostave jasne granice, veštačka inteligencija može postati sila koju ljudi više neće moći da usmere. Inovacije su važne, ali bez kontrole, cena napretka mogla bi da bude previsoka.

(Telegraf Biznis)