Snoudenovo jezivo upozorenje postaje stvarnost: Da li nas algoritmi već prate na svakom koraku?

O onome na šta je Edvard Snouden godinama upozoravao danas više ne moramo da razmišljamo kao dalekoj distopijskoj budućnosti. Tehnologija koja je nekada delovala kao scenario naučnofantastičnog filma polako postaje deo svakodnevice, a ono što je Kina izgradila moglo bi da posluži kao model za ono što se, prema kritičarima, priprema i u zapadnim društvima.

Snouden je upozoravao na svet u kojem se svaka fotografija, svaka kupovina, svaka poruka i svaki naš pokret mogu pretvoriti u podatak, a zatim analizirati algoritmima koji o nama donose zaključke i utiču na naše mogućnosti.

Teme za vas

U Kini su sistemi veštačke inteligencije i takozvani „mozgovi gradova“ razvijeni za prikupljanje i obradu ogromne količine podataka o građanima. Tehnologija može da prati gde živite, sa kim se sastajete, kako odlažete otpad, gde se krećete u javnosti i da li poštujete određena pravila.

Foto: Shutterstock

Zamislite da kamera zabeleži vaš prekršaj. Informacija se beleži, povezuje sa drugim podacima i može da utiče na vaš društveni profil. Jedan potez, jedan zapis u sistemu, a posledice mogu da se šire mnogo dalje nego što očekujete.

Upravo tu Snouden vidi najveću opasnost. Upozoravao je na mogućnost društva u kojem algoritam, a ne čovek, odlučuje ko će imati pristup određenim mogućnostima. Ako se vaše ponašanje ne uklapa u ono što vlast smatra prihvatljivim, posledice bi mogle da budu ozbiljne: od problema sa putovanjem i zapošljavanjem do ograničavanja pristupa različitim uslugama.

Njegova ključna poruka bila je jednostavna i zastrašujuća: kada jednom dozvolimo sistemu da o nama zna sve, pitanje više nije šta tehnologija može da uradi, već ko kontroliše tehnologiju.

I tu priča postaje mnogo šira od Kine.

Digitalni identiteti, sistemi za prepoznavanje lica, veštačka inteligencija u policijskom radu, automatizovana procena rizika i različiti sistemi za praćenje sadržaja na internetu sve više ulaze u svakodnevni život širom sveta. Sami po sebi, ovi sistemi ne moraju nužno biti loši. Mogu da povećaju bezbednost, olakšaju administraciju i pomognu institucijama da efikasnije funkcionišu.

Foto-ilustracija: Shutterstock/Oselote

Problem nastaje kada tehnologija dobije moć da ne samo posmatra čoveka već i da procenjuje kakav je čovek i šta zaslužuje.

Tada granica između bezbednosti i kontrole postaje opasno tanka.

Najveća opasnost možda nije u tome da neko jednog dana napravi savršeni sistem nadzora. Mnogo je važnije to što se takvi sistemi mogu uvoditi korak po korak, pod izgovorom praktičnosti, bezbednosti ili efikasnosti. Ljudi se naviknu na kameru, zatim na digitalni identitet, potom na automatizovanu procenu ponašanja. Svaka pojedinačna promena deluje bezazleno.

A onda jednog dana shvatimo da je sistem koji nas je samo posmatrao počeo da odlučuje umesto nas.

Kina je možda pokazala koliko daleko takav model može da ode. Pitanje koje ostaje jeste da li će ostatak sveta iz toga izvući pouku ili će, fasciniran mogućnostima veštačke inteligencije i digitalne države, početi da preuzima iste principe.

Jer tehnologija sama po sebi nije ni dobra ni loša. Pravo pitanje je ko drži ključeve sistema i ko kontroliše one koji kontrolišu nas.

Snoudenovo upozorenje zato danas zvuči aktuelnije nego ikada: najopasniji sistem nadzora nije onaj koji znamo da postoji, već onaj koji prihvatimo kao normalan.

(Telegraf Biznis)