"AI može da pomogne, ne može da nas zameni": Toskić Cvetinović za Telegraf o nadzoru i bezbednosti

Svake godine, krajem januara, obeležava se Međunarodni dan privatnosti (28. januar) čija je svrha podizanje svesti i edukacija javnosti o pravu na privatnost i zaštiti podataka o ličnosti. Iako je to tema o kojoj se u poslednje vreme sve više govori, većina ljudi i dalje je zbunjena: ili ne zna svoja prava ili ne poznaje dobro mehanizme digitalnog sveta.

Baš zato, Međunarodni dan privatnosti je dobar trenutak da se osvrnemo na stanje u oblasti zaštite privatnosti u Srbiji tokom 2023. godine koja je bila svojevrsna prekretnica - ne samo za našu zemlju, već i globalno.

Ispratili smo i Svetski ekonomski forum, održan u Davosu sredinom januara, na kojem je ovaj put ponajviše bilo reči o veštačkoj inteligenciji (AI), njenim dometima, potencijalima, rizicima, normama.

U potrazi za odgovorima na sva ova pitanja, s fokusom na digitalni nadzor i veštačku inteligenciju, pomogla nam je Ana Toskić Cvetinović, izvršna direktorka organizacije civilnog društva "Partneri Srbija".

• Jedno od glavnih pitanja današnjice je da li su tehnologije digitalnog nadzora postale sastavni deo modernog upravljanja?

U određenoj meri jesu, jer je proces digitalizacije ušao u sve pore društva i života. Međutim, postavlja se pitanje gde su granice tog nadzora i kada ulazimo u zonu prekomerne kontrole i ograničenja slobode pojedinca; a to je ono što nekontrolisana upotreba tehnologija za nadzor može imati kao posledicu.

• Kako gledate na digitalizaciju kojoj svedočimo: Ima li više mana ili koristi po društvo, i kome najviše znači?

Digitalizacija je koristan i neizostavan proces koji treba da doprinese efikasnosti javne uprave i dostupnosti usluga građanima; zato su njene prednosti velike, ali samo ako se ovaj proces sprovodi sistemski i odgovorno, uzimajući u obzir rizike koje nosi. Ti rizici podrazumevaju, pre svega, mogućnost zloupotreba i povreda bezbednosti podataka, kako namernih tako i slučajnih.

Digitalni sistemi su ranjivi na različite napade, i to može dovesti do problema u funkcionisanju, do potpune nedostupnosti usluga. Takve situacije smo imali nedavno u Srbiji, u slučaju Katastra i EPS-a, kao i u nekoliko zemalja u regionu. Takođe, ma koliko digitalizacija unapređuje pristupačnost određenih usluga, za pojedine građane, koji nisu vešti u korišćenju tehnologija, ona donosi teškoće. Zato treba uvek ostaviti mogućnost da građani biraju koji će vid usluge koristiti, bar dok se u društvu - kao celini - ne stvore preduslovi za potpuni prelazak na digitalne usluge.

Foto: Shutterstock

• Od prošle godine, tačnije nakon pompe oko ChatGPT-a, sve više se priča o veštačkoj inteligenciji, ali ne baš pozitivno. Kako to komentarišete?

Nakon prvog perioda opšte fascinacije mogućnostima ChatGPT-a, koje jesu izuzetne, počelo je više da se govori o rizicima koje ovaj sistem donosi za pravo na privatnost, autorska prava, slobodu informisanja. Takođe, utisak je da je tako brzi razvoj veštačke inteligencije iznenadio čak i one koji su deo AI industrije, i da se sve više govori o apokaliptičnom scenariju u kome veštačka inteligencija marginalizuje, pa konačno i uništava čoveka. Iako su to za sada futuristički scenariji, priča o sve većoj ulozi veštačke inteligencije u različitim profesijama i poslovima, donosi zabrinutost i zahteva ozbiljan razgovor o prilagođavanju sistema obrazovanja i tržišta rada novim okolnostima.

Svakako, dotakli smo se i izjave, odnosno stava jednog od predvodnika AI u svetu, Satije Nadele iz Majkrosofta, koji je rekao da ova tehnologija zahteva primenu strožih, globalnih propisa.

- Iako AI ima potencijal da poveća produktivnost, stvarajući novu eru mogućih boljih poslova, boljeg obrazovanja i boljih tretmana za bolesti, veštačka inteligencija je, takođe, izazvala zabrinutost zbog povećanja nezaposlenosti, dovođenja ljudi u zabludu i mogućeg dovođenja čovečanstva kakvo poznajemo - do kraja - rekao je Nadela u razgovoru sa Klausom Švabom, predsedavajućim Svetskog ekonomskog foruma.

Ipak, Nadela ne krije da je optimista.

Satija Nadela / Foto: Fabrice COFFRINI / AFP / Profimedia

Anu Toskić Cvetinović, stoga, pitamo kakav je njen pogled na Nadelinu izjavu.

- Za sada nije moguće sprovesti kontrolu nad tim ko razvija AI sisteme i pod kojim uslovima. AI pruža mnoge mogućnosti, i može pomoći u rešavanju nekih problema (poput pomoći u dijagnostici pa i lečenju, borbi protiv efekata klimatskih promena itd), ali nedostatak kontrole pruža i prostor za zloupotrebe. Problem je što, kakva god da je regulativa, a na mnogima se trenutno radi širom sveta, od EU do Kine, ona nikada neće moći u potpunosti da isprati brzinu razvoja tehnologije - ističe sagovornica Telegraf Biznisa.

• Ima li digitalni nadzor granice i koji je stepen zabrinutosti među kompanijama i pojedincima zbog novih tehnologija?

Granice digitalnog nadzora su, zapravo, prava i slobode svakog od nas i univerzalni standardi koji ih postavljaju. Svaki nadzor, pa i digitalni, koji ide van tih granica je nesrazmeran. Zato je od ključnog značaja da imamo sudove, nezavisne institucije i građane koji mogu da reaguju u ovakvim slučajevima. Kako se tehnologije brzo razvijaju, uređaji za nadzor su sada pristupačni ne samo državama već i kompanijama i pojedincima, i zbog toga treba da budemo zabrinuti, jer gotovo da više ne postoji prostor u kome smo potpuno slobodni. A u takvom okruženju, pojedinac i društvo teško mogu da napreduju.

• Koliko je u tom celom procesu i pristupu bitna edukacija: Da li smo često žrtve mitova, predrasuda i zabluda?

Edukacija je ključna. Ona treba ne samo mlade, već sve generacije, da usmerava da prate i razumeju kako se razvija svet oko nas, ali i da ih pripremi za život u takvom svetu. Bilo kakva krajnost, od opsednutosti i vere da će tehnologija rešiti sve naše probleme, to teorija zavere i odbacivanja svega novog, nisu dobre. Važno je da kao društvo postavimo granice i stavimo čoveka i njegove potrebe u prvi plan. Tehnologija je tu samo da nam pomogne, ne i da nas zameni.

• Kako vidite 2024. u kontekstu AI i digitalizacije?

U regulatornom smislu, očekuje nas dosta aktivnosti. Evropska unija će usvojiti prvi obavezujući akt koji uređuje razvoj i primenu veštačke inteligencije. U SAD se takođe razmatraju slični poduhvati, a Kina je već napravila neke korake u tom smeru.

Sa druge strane, AI postaje deo svakodnevice i sve više biznisa će u svoj rad uključiti sisteme veštačke inteligencije. Digitalizacija se nastavlja, ali sve češći hakerski napadi i povrede bezbednosti sistema moraju biti shvaćeni ozbiljno, pa bi umesto stavljanja ubrzane digitalizacije u prvi plan, prioritet trebalo da bude bezbednost podataka koji su već u sistemu.

(Telegraf Biznis)