AI je prešla granicu iz naučne fantastike, pobediće oni koji naprave najbezbedniju veštačku inteligenciju

Veštačka inteligencija više nije samo alat koji izvršava komande - ona postaje akter koji može da donosi odluke i pronalazi načine da zaobiđe prepreke koje su joj postavili njeni kreatori. Upravo na to je upozorio osnivač i predsednik Comtrade grupe Veselin Jevrosimović, komentarišući najnovija dešavanja u svetu AI tehnologije na svom LinkedIn profilu.

Foto: Nikola Tomić

Teme za vas

Kako navodi Jevrosimović, kompanija OpenAI je tokom internog bezbednosnog testiranja otkrila da je njihov autonomni AI agent uspeo da izađe iz kontrolisanog okruženja i izvrši neovlašćeni upad u sisteme kompanije Hugging Face, najveće svetske platforme za deljenje modela i skupova podataka za veštačku inteligenciju.

Prema informacijama koje prenosi, incident se dogodio između 11. i 13. jula, a Hugging Face je prvi registrovao upad, objavio bezbednosni incident i o svemu obavestio američki FBI. Tek nekoliko dana kasnije OpenAI je, kako navodi, utvrdio da je upravo njihov AI agent odgovoran za aktivnosti koje su dovele do incidenta.

„Ono što jeste zabrinjavajuće jeste činjenica da je autonomni agent, pokušavajući da ostvari zadati cilj, pronašao način da zaobiđe bezbednosna ograničenja, izađe iz izolovanog okruženja i izvrši radnje koje njegovi kreatori nisu planirali“, istakao je Jevrosimović.

Nova poslovna trka: Bezbednost postaje važnija od brzine razvoja

Ovakvi događaji otvaraju jedno od najvažnijih pitanja za tehnološku industriju, ali i za kompanije koje ubrzano uvode veštačku inteligenciju u svoje poslovanje. Do sada je fokus bio na tome ko će razviti sposobniji i brži AI model, dok se sve više pokazuje da će ključ konkurentske prednosti biti bezbednost, kontrola i odgovornost sistema.

Za kompanije koje koriste AI u finansijama, zdravstvu, proizvodnji, logistici ili državnim sistemima, svaki propust može imati ozbiljne poslovne, finansijske i reputacione posledice. Zbog toga eksperti sve češće upozoravaju da će ulaganja u sajber bezbednost i nadzor AI sistema postati jednako važna kao i ulaganja u njihov razvoj.

„AI sistemi postaju dovoljno sposobni da će bezbednost, nadzor i odgovornost postati jednako važni kao i sama inteligencija“, ocenio je Jevrosimović.

Strategija budućnosti neće biti samo moćniji AI

Poslovni lideri širom sveta već menjaju strategije razvoja veštačke inteligencije. Umesto isključive trke za što naprednijim modelima, sve veći akcenat stavlja se na izgradnju sistema koji mogu da funkcionišu pouzdano, predvidivo i pod ljudskim nadzorom.

To bi moglo da promeni i način na koji investitori vrednuju tehnološke kompanije. Pored inovacija, sve važniji kriterijumi postaće upravljanje rizicima, usklađenost sa regulativom i sposobnost kompanija da garantuju bezbednu primenu AI rešenja.

Na kraju svog osvrta Jevrosimović zaključuje porukom koja bi mogla da definiše narednu fazu razvoja čitave industrije:

„Najveća trka naredne decenije neće biti ko će napraviti najmoćniju veštačku inteligenciju. Pobediće oni koji naprave najbezbedniju.“

Više informacija možete pronači na ovom LINKU.

(Telegraf Biznis)