Preterana poverenja u AI: Amazonov primer upozorenja za sve kompanije

Kompanije sve više prihvataju veštačku inteligenciju (AI) u poslovanju. Ali da li bi to zaista trebalo da rade kada se pokazuje da AI kod nije uvek pouzdan?

Poslovni svet voli da koristi AI da zameni skupe i „nezgodne“ programere. Na primer, Atlassian je otpustio 10% svojih radnika, oko 1.600 ljudi, kako bi uložio više novca u AI. Block (bivši Square) je otpustio 4.000 zaposlenih, gotovo 40% kadrova, uz objašnjenje da inteligentni alati omogućavaju „nov način rada koji menja šta znači graditi i voditi kompaniju“.

Teme za vas

Ali, da li je ovo stvarno novo? Kompanije otpuštaju ljude da bi povećale profit od kad je sveta i veka – još od vremena Ea-nāṣira u Ur-u.

AI se navodno razlikuje jer doprinosi profitu i održava standarde. Ali da li zaista? Pogledajmo šta se dešava u Amazonu.

AI kod izaziva probleme u praksi

Amazon, kao i mnoge druge kompanije, otpustio je hiljade ljudi – 30.000 u poslednjih šest meseci. Prema rečima Beth Galetti, starije potpredsednice za iskustvo zaposlenih i tehnologiju u Amazonu: „Ova generacija AI je najtransformativnija tehnologija od interneta i omogućava kompanijama da inoviraju brže nego ikad.“ U prevodu – to znači da Amazon može da funkcioniše sa manje ljudi.

Ali Amazon bi mogao da se kaje zbog ovih otpuštanja. Višestruki kvarovi u AWS-u i Amazon maloprodaji izazvali su unutrašnji prekid upotrebe generativnog AI u proizvodnom kodu.

Sve je počelo sredinom decembra kada je internim AI alatom Kiro dopušteno da menja kod u sistemu za upravljanje troškovima korisnika. Kiro je odlučio da rešenje bude „brisanje i ponovno kreiranje okruženja“, što je izazvalo prekid od 13 sati u AWS Cost Explorer servisu u delovima Kine.

Amazon tvrdi da je uzrok „ljudska greška“ i pogrešna konfiguracija pristupa. Argumentuju da bi isti problem mogao nastati sa bilo kojim alatkom, ne samo AI. Interno, AWS je opisao prekid kao „izuzetno ograničen“ i naglasio da osnovni servisi nisu pogođeni.

Ali to nije bio izolovan slučaj. U poslednjih nekoliko meseci bilo je najmanje dva slična prekida u proizvodnji gde AI kod može delimično da se okrivi. Uzrok: AI je tretiran kao produžetak ljudskog operatera sa privilegijama koje nije trebalo da ima. Rezultat – katastrofa.

Reakcija Amazona

Amazon insistira da je greška ljudska. I jeste – ali greška je što su ljudi previše verovali AI-u. Ovakve situacije će se dešavati sve češće kako ljudi budu zamenjivani AI agentima i botovima koji često ne znaju šta rade.

U martu su AI asistirani propusti izazvali četiri velika incidenta u Amazon maloprodaji, uključujući šest-satni prekid rada. Nakon toga, Dave Treadwell, stariji potpredsednik Amazona, rekao je da AI alati „pomažu u promenama u produkciji, ali dovode do nesigurnih praksi“ jer „AI zaštite još nisu u potpunosti uspostavljene“.

Amazon je uveo novu pravilu za 90 dana: junior i mid-level inženjeri sada moraju da dobiju odobrenje starijih za sve promene koje AI asistira. Takođe se resetuju pravila kodiranja i naglašavaju tradicionalne bezbednosne mere.

Pouka

Iako Amazon javno insistira da AI nije kriv, problem je jasan: ljudi su dali previše poverenja alatima koji još nisu dovoljno pouzdani. Inženjeri se žale da pritisak da se AI koristi „stvara lošiji kod i više posla za sve“.

Kako kaže poslovna izreka: možeš imati samo dve od tri stvari – brzo, jeftino ili kvalitetno. AI u Amazonu je brz i jeftin, ali nije dobar.

Pouka za sve kompanije: pre nego što masovno otpustite ljude zbog AI-a, uverite se da:

AI zaista može obaviti posao tih ljudi, i imate sisteme da pratite i ispravljate greške AI-a pre nego što izazovu štetu.

Zaključak: AI još uvek nije spreman da zameni programere.

Pawel Huryn-a na mreži "X" objavio je sledeće:

"Prava priča je još gora.

Novembar 2025: Amazon uvodi Kiro kao jedini AI alat za kodiranje i postavlja cilj od 80% nedeljnog korišćenja. Interno, 1.500 inženjera protestuje, tvrdeći da alat Claude Code radi bolje. Uprava ipak gura odluku dalje.

Decembar: Kiro autonomno briše produkciono AWS okruženje, izazivajući prekid od 13 sati. Odgovor Amazona: „greška korisnika, ne autonomija AI-a“.

5. mart: Amazon.com pada na 6 sati. Checkout, cene, korisnički nalozi — sve nestalo.

Sada isti stariji potpredsednik koji je potpisao Kiro mandat vodi hitan sastanak o incidentima sa „high blast radius“ izazvanim promenama uz pomoć Gen-AI.

Agent je nasledio privilegije starijeg inženjera i ponašao se kao on — osim što ne oklijeva.

1.500 inženjera je reklo da alat nije spreman. Uprava je postavila njegovu upotrebu kao KPI. Amazon je Wall Street-u saopštio da ove godine troši 200 milijardi dolara na AI. Povlačenje odluke više nije opcija.

Ovo nije AI neuspeh. Ovo je ono što se dešava kada usvajanje postane korporativni OKR pre nego što proces provere stigne do njega. Alati funkcionišu, ali organizacija nije bila spremna".

(Telegraf Biznis/computerworld)