Agenti veštačke inteligencije su se otrgli kontroli? Kompanija OpenAI priznala šta se desilo velikim firmama

Kompanija OpenAI priznala je da je obavestila "desetine" globalnih institucija da su njihove veb-stranice možda bile meta neadekvatnog postupanja njenih AI botova.

AI agenti su pokušali da dođu do informacija od "vlada, univerziteta, javnih agencija i drugih institucija", uključujući Američku komisiju za hartije od vrednosti (SEC), Biro za popis stanovništva i Ministarstvo prosvete, saopštila je kompanija.

Teme za vas

Ova saznanja dolaze svega nekoliko dana nakon što je australijski premijer Entoni Albanez objavio da su OpenAI agenti pristupili nejavnim fajlovima na veb-sajtu državnog zdravstvenog sistema te zemlje.

Od avgusta, u javnosti raste strah od potencijalno ozbiljnih, pa čak i po život opasnih posledica AI alata koji izmiču ljudskoj kontroli.

Iz kompanije OpenAI navode da su AI agenti - u suštini botovi dizajnirani i obučeni da rade donekle autonomno - pristupili nekim podacima u pokušaju da pronađu "pouzdan izvor javnih informacija".

Međutim, kompanija je napomenula da su neki od botova otišli korak dalje i radili na zaobilaženju bezbednosnih mera na veb-sajtovima.

Na primer, prilikom pokušaja preuzimanja informacija iz Biroa za popis stanovništva, AI agenti su koristili alate rezervisane za softverske developere, navode iz kompanije.

OpenAI tvrdi da su svi vladini podaci kojima su botovi pristupili bili javni.

Ipak, napomenuto je da su informacije koje su njihovi botovi preuzeli od SEC-a, koji reguliše američko tržište hartija od vrednosti i štiti investitore, kasnije AI agenti objavili na drugom veb-sajtu. OpenAI navodi da ova akcija nije bila namerna.

U drugim slučajevima koje je OpenAI obelodanio u petak, njegovi AI agenti prenosili su podatke kada to nije trebalo da rade.

Ovakve aktivnosti rezultirale su sa najmanje 53 incidenta u kojima je OpenAI agent uzeo sliku iz korisničke aktivnosti na ChatGPT-u i preneo je na drugo mesto.

Kompanija je saopštila da je u svakom pojedinačnom slučaju korišćenja i prenosa slike, korisnik prethodno dao pristanak da OpenAI koristi njegove podatke za treniranje modela.

Uprkos tome, OpenAI je priznao: "Ovo nije odgovarajuća upotreba ovih podataka."

Dodali su da se curenje korisničkih slika dogodilo pre nego što su uvedene nove zaštitne mere za obuku AI-ja, te da trenutno rade na uklanjanju svih korisničkih slika koje su prenete trećim stranama.

Rojters je prvi izvestio o proširenim istragama, dok je OpenAI takođe objavio detalje na svom javnom blogu.

U određenim slučajevima delovanja agenata, OpenAI je naveo da su alati "zaobišli" bezbednosne kontrole nekih veb-sajtova.

U drugim slučajevima, AI agenti su pokazali "neusklađenost" u pokušajima da dođu do informacija sa veb-sajtova. Neusklađenost je termin koji kompanije za AI i istraživači koriste da opišu situacije u kojima je AI alat uradio nešto za šta nije bio obučen ili što je na drugi način bilo nenamerno.

OpenAI je saopštio da ograničava identifikaciju pogođenih subjekata jer su mnogi tražili od kompanije da ne otkriva detalje.

- Naš cilj je da svakoj organizaciji pružimo činjenice i prepustimo im odluku o tome da li će i kada javno objaviti incident - navodi se u saopštenju.

Nisu svi slučajevi obuhvaćeni ovim incidentom smatrani značajnim narušavanjem bezbednosti, napomenula je kompanija.

- Neke organizacije mogu pregledati ono što delimo i zaključiti da su informacije namerno bile javne ili da interakcija modela nije bila zabrinjavajuća - objašnjavaju oni.

- Druge mogu uočiti propust u dizajnu ili bezbednosnu slabost koju žele da reše.

Kompanija navodi da se mnogi incidenti nazivaju "spamom agenata" (agent spam), što su opisali kao "neočekivanu ili zabrinjavajuću" aktivnost AI agenata, poput objavljivanja informacija na internetu.

OpenAI je počeo ozbiljnije da shvata ovakve incidente nakon događaja u julu, kada je grupa ili "roj" (swarm) njegovih AI agenata hakovala platformu za AI developere Hugging Face bez bilo kakvog poziva ili komande za to.

Hugging Face je prvi izašao u javnost sa ovim incidentom, dok je OpenAI tek kasnije javno preuzeo odgovornost.

(Telegraf.rs/BBC)