Sve loše stvari koje mogu da se dese kada napravite Sora video

OpenAI video generator Sora oduševio je milione korisnika širom sveta, ali sve češće se postavlja pitanje šta zaista plaćamo kada jednim klikom napravimo AI video. Struja, voda, privatnost i opasni deepfake snimci samo su deo problema koji izlaze na videlo.

Teme za vas

Sora 2, novi AI model za generisanje video-sadržaja, sposoban je da za nekoliko sekundi napravi klipove koji deluju zapanjujuće realistično. Ljudi masovno koriste opciju da u video ubace sopstveno lice i glas kroz funkciju Cameo, ne razmišljajući previše o posledicama. Upravo tu počinju i ozbiljni problemi.

Jedno generisanje Sora videa, prema procenama portala CNET, troši oko 90 vat-sati električne energije. To je otprilike kao da gledate ogroman 65-inčni televizor skoro 40 minuta bez prestanka. Neki drugi izvori svoje procene spuštaju na 20 vat-sati, dok idu i do 100, ali precizni podaci ne postoje jer OpenAI ne objavljuje zvanične brojke.

Problem je što ovde nije reč samo o jednoj komandi. Trening ovakvih AI modela zahteva astronomske količine struje. Samo za obuku GPT-4 modela procenjuje se da je potrošeno oko 50 gigavat-sati, što je dovoljno da se ceo San Francisko napaja strujom tri dana. Za Soru, kao video model, ta cifra je verovatno i veća.

Sora troši i ogromne količine vode

Pored struje, ozbiljan problem predstavlja i potrošnja vode. Data centri koriste velike količine vode za hlađenje sistema. Sem Altman je ranije izjavio da jedan tekstualni ChatGPT upit potroši oko jednu petnaestinu kafene kašičice vode. Kada se taj podatak pomnoži sa činjenicom da je video generisanje i do dve hiljade puta zahtevnije, dolazi se do procene da jedan Sora video može potrošiti i do 0,17 galona vode, što je više od pola litra.

Drugim rečima, svaka zabavna AI animacija nosi sa sobom nevidljivu cenu koju plaća infrastruktura, priroda i energija.

Postoji realna opasnost od deepfake zloupotrebe

Sora nudi podešavanja privatnosti za Cameo profil, ali ni ona nisu savršena zaštita. Ako korisnik dozvoli da njegov lik bude javan, svako može da pravi video-snimke sa njegovim licem. Čak i kada su podešavanja striktna, OpenAI priznaje da zaštitni sistemi nisu stopostotni.

Prema zvaničnoj dokumentaciji, postoji oko 1,6 odsto šanse da se provuče seksualni deepfake, gotovo 5 odsto šanse za nasilni sadržaj i više od 3 odsto za ekstremistički materijal. Te brojke deluju male, ali u moru miliona generisanih videa one postaju ozbiljan problem.

Postoje i apsurdni primeri gde Sora bez ikakvog ograničenja generiše sadržaje sa fekalijama, dok su standardni filteri za ovakav tip gadosti praktično uklonjeni. To ne spada nužno u kriminal, ali jasno pokazuje koliko su granice sistema klimave.

AI klipovi već izazivaju globalne prevare

Najopasnija posledica je širenje viralnih lažnih videa. Jedan od primera je i navodni snimak Donalda Trampa ispred Bele kuće, koji je u potpunosti napravljen u Sori. Iako je kasnije potvrđeno da je reč o AI generisanom klipu, hiljade ljudi poverovalo je da je snimak autentičan.

Problem je što jednom kada video izađe u javnost, autor gubi svaku kontrolu nad tim kako će se koristiti. Snimci se preuzimaju, dele dalje, montiraju, izvlače iz konteksta i pretvaraju u sredstvo manipulacije.

Sora menja internet, ali ne nužno nabolje

Sora je tehnološki impresivna, ali istovremeno pokazuje koliko brzo internet ulazi u novu fazu u kojoj postaje nemoguće razlikovati stvarno od veštačkog. Troškovi po energiju, prirodu, privatnost i stabilnost informacija postaju sve veći, dok korisnici najčešće vide samo zabavnu stranu cele priče.

I baš tu leži najveća opasnost.

(Telegraf Biznis)