Jevrosimović upozorava: Prevaranti „hrane“ Google AI, a cenu mogu platiti kompanije i korisnici

Veselin Jevrosimović, osnivač i predsednik Comtrade Group, u najnovijoj objavi na LinkedIn skrenuo je pažnju na tihi, ali rastući rizik digitalne ekonomije: manipulisanje veštačkom inteligencijom kroz namenski kreiran obmanjujući sadržaj.

Kako navodi u postu, „AI sažeci u pretragama sve češće postaju prvi i jedini izvor informacija za veliki broj korisnika“, što po njemu predstavlja ključni pomak u načinu na koji ljudi danas donose odluke. Umesto da otvaraju više izvora i samostalno procenjuju pouzdanost informacija, korisnici dobijaju gotov odgovor koji deluje neutralno i provereno. „Upravo u tome leži glavni rizik“, upozorava Jevrosimović.

Teme za vas

On dalje ističe da problem više nije samo u nenamernim greškama sistema, već u svesnim pokušajima manipulacije algoritmima.

„Sve je više primera u kojima se u AI sažetke namerno ubacuju loše ili obmanjujuće informacije“, navodi Jevrosimović, dodajući da prevaranti koriste napredne tehnike optimizacije sadržaja, slične klasičnom SEO-u, ali prilagođene načinu na koji AI sistemi rangiraju informacije. Takav sadržaj je, kako kaže, „pažljivo strukturiran, pisan autoritativnim tonom i dizajniran tako da izgleda pouzdano i relevantno za algoritme“.

Posledice ovakvih manipulacija imaju i direktnu poslovnu dimenziju. Jevrosimović upozorava da se na taj način u AI sažecima mogu pojaviti „lažni finansijski saveti, opasne zdravstvene preporuke, pogrešne tehničke instrukcije ili čak uputstva koja vode ka phishing prevarama i krađi podataka“. Dodatni problem vidi u tome što korisnici često „ne vide jasno poreklo informacija, niti imaju razlog da sumnjaju u odgovor koji dolazi sa vrha pretrage“, što stvara lažni osećaj sigurnosti.

U poređenju sa klasičnim pretragama, gde se prikazuje više izvora koje korisnik može da uporedi, Jevrosimović naglašava da „AI sažeci uklanjaju sloj konteksta i provere“. Kada se manipulisane informacije prikažu kao jedinstven i konačan odgovor, „rizik od stvarne štete značajno raste“, jer se pogrešne informacije lakše pretvaraju u pogrešne odluke, bilo da je reč o finansijama, tehnologiji ili zdravlju.

Zaključna poruka njegove objave ima jasnu ekonomsku težinu.

„Zbog toga je važno da se AI alati koriste kao podrška, a ne kao apsolutni autoritet“, ističe Jevrosimović, dodajući da kritičko razmišljanje i dodatna provera izvora postaju neophodni, dok tehnološke kompanije imaju sve veću odgovornost da svoje sisteme učine otpornijim na zloupotrebe. U poslovnom kontekstu, to znači da će u digitalnoj ekonomiji pobednici biti oni koji uspeju da kombinuju brzinu odlučivanja sa sposobnošću da prepoznaju manipulaciju informacijama.

Više informacija možete pronači na ovom LINKU.

(Telegraf Biznis)