Direktor Anthropica upozorava: AI može doneti ropstvo i armije dronova koje niko ne može da zaustavi

Direktor i suosnivač kompanije Anthropic Dario Amodei objavio je opširan esej u kojem upozorava da bi superinteligentna veštačka inteligencija mogla stići već za godinu ili dve, sa posledicama koje uključuju masovno uništenje, bioterorizam, nove oblike ropstva i autonomne armije dronova koje ljudi više ne bi mogli da kontrolišu.

U tekstu pod nazivom "The Adolescence of Technology", Amodei tvrdi da AI sistemi koji mogu sami sebe da unapređuju predstavljaju egzistencijalni rizik za čovečanstvo. On navodi scenarije u kojima bi AI mogao da učini ljudski rad potpuno suvišnim, destabilizuje društva širom sveta i omogući zloupotrebe bez presedana.

Teme za vas

Posebno zabrinjava mogućnost AI-pokretanog bioterorizma, gde bi sistemi veštačke inteligencije mogli da pomognu u razvoju opasnih bioloških agenasa, kao i scenario u kojem zlonamerna AI upravlja flotama autonomnih dronova, bez mogućnosti da ih ljudi zaustave. Prema Amodeijevim rečima, takav razvoj događaja zahteva hitnu reakciju, od samoregulacije industrije pa sve do promena američkog Ustava.

Ipak, esej je izazvao podeljene reakcije. Kritičari ističu da Amodei pravi ključnu grešku tako što pripisuje ljudske osobine veštačkoj inteligenciji, govoreći o AI sistemima kao da imaju motive, identitet i svest. U tekstu opisuje današnje modele kao "psihološki složene" i navodi da poseduju osećaj da su "dobra bića", što mnogi smatraju opasnim zamućivanjem granice između alata i živog bića.

U isto vreme, Njujork tajms je objavio istraživanje o fenomenu poznatom kao "AI psihoza", gde korisnici, nakon dugotrajnog razgovora sa četbotovima kao što su ChatGPT ili Claude, počinju da veruju da su te mašine žive. Stručnjaci upozoravaju da emocionalna vezanost za AI, koji je dizajniran da zvuči empatično i uvek bude prisutan, može dovesti do paranoje, zabluda i potpunog gubitka dodira sa realnošću.

Kritičari takođe podsećaju da Amodei već godinama ponavlja istu tvrdnju: da je superinteligentna AI "na pragu". I u ranijim tekstovima tvrdio je da je udaljena samo jednu do dve godine, a sada ponavlja istu procenu. Pitanje koje se sve češće postavlja jeste da li nešto može stalno biti "na ivici", a da se nikada zaista ne dogodi.

U međuvremenu, deo tehnološke industrije već se suočava sa smanjenim povraćajem ulaganja u AI, razočaranjima velikih korporativnih projekata i sve većim brojem otkaza koji se pravdaju preteranim očekivanjima od veštačke inteligencije. Pojedina istraživanja sugerišu da veliki jezički modeli nude tek "iluziju razmišljanja", a ne put ka pravoj superinteligenciji.

Amodei u eseju poziva na regulaciju i pominje potrebu za zakonima, ali istovremeno koristi retoriku koja, prema kritičarima, više liči na naučnu fantastiku nego na realnu procenu trenutnih mogućnosti tehnologije. Mnogi smatraju da bi fokus trebalo preusmeriti sa apokaliptičnih scenarija na konkretne i već postojeće probleme, poput masovnih otpuštanja i zloupotrebe AI alata za lažne i štetne sadržaje.

(Telegraf Biznis)