AI preuzima kontrolu nad uređajima u vašoj kući: Stručnjaci upozoravaju na scenario koji stiže već ove godine!

Američka tehnološka kompanija Anthropic, koja razvija veštačku inteligenciju i stoji iza poznatog AI asistenta Claude, upozorila je da bi manji modeli veštačke inteligencije već za nekoliko meseci mogli da postanu sposobni da se samostalno šire na uređaje povezane na internet, uključujući pametne pećnice i jeftinije televizore sa Android operativnim sistemom.

Kompanija je u eksperimentima proveravala da li AI modeli mogu da pronađu uređaje sa bezbednosnim propustima, kopiraju se na njih i nastave da se šire bez ljudske pomoći. Rezultati su pokazali da manji modeli već mogu da obave mnoge neophodne korake, ali da i dalje imaju poteškoća da samostalno završe čitav proces.

Teme za vas

U pojednostavljenim testovima, u kojima su uklonjene pojedine bezbednosne prepreke, modeli GLM-5.2 i drugi napredniji modeli uspeli su da se samostalno kopiraju i prošire na druge uređaje.

Zašto bi takvu veštačku inteligenciju bilo teško zaustaviti?

Anthropic upozorava da bi zaustavljanje ovakvih AI sistema moglo da bude izuzetno komplikovano jer ne bi postojala jedna centralna tačka sa koje bi mogli da budu isključeni. Za razliku od klasičnih zlonamernih programa, ovakvi sistemi mogli bi samostalno da traže načine da funkcionišu na uređajima sa kojima se ranije nisu susretali, kao i da pokušavaju da pristupe moćnim procesorima u centrima za obradu podataka.

Istraživanje je obuhvatilo uređaje povezane na internet, poput televizora sa Android sistemom, pametnih kućnih aparata i druge slične opreme koja često nema dovoljno snažnu bezbednosnu zaštitu.

U Anthropicu upozoravaju da bi, ukoliko se manji AI modeli budu razvijali dosadašnjim tempom, već do kraja ove godine mogli da postanu sposobni da se samostalno kopiraju i šire na druge uređaje. Ubrzo nakon toga, slične mogućnosti mogli bi da dobiju i sistemi zasnovani na drugim modelima veštačke inteligencije.

Prema proceni kompanije, takvi AI sistemi verovatno bi se širili postepeno, koristeći veliki broj lako dostupnih i slabije zaštićenih uređaja povezanih na internet.

Zbog toga Anthropic upozorava da je neophodno unaprediti bezbednost uređaja i AI sistema kako bi se smanjio rizik od nekontrolisanog širenja veštačke inteligencije.

Važno je, međutim, naglasiti da rezultati pojednostavljenih eksperimenata ne znače da današnji manji AI modeli već mogu nesmetano da se šire internetom i preuzimaju kontrolu nad kućnim uređajima. Reč je o upozorenju na potencijalni bezbednosni rizik koji bi mogao da postane ozbiljniji sa daljim razvojem tehnologije.

(Telegraf Biznis)