Aplikacija koja pravi gole slike ljudi i dalje je u Play Store-u i dostupna tinejdžerima

Google već godinama ima vrlo precizno definisana pravila o tome kakav sadržaj aplikacije smeju da nude u Play Store-u. Posebno su jasno navedene zabrane koje se odnose na nepristanak, seksualno eksplicitan sadržaj i predatorsko ponašanje, uključujući i sadržaj koji je generisan pomoću veštačke inteligencije. Upravo zbog toga, slučaj Grok aplikacije izaziva sve više pažnje.

Nakon što je kompanija xAI, koju vodi Ilon Mask, oslabila zaštitne mehanizme za generisanje slika u Grok AI botu, na mreži X pojavio se talas nepristanog seksualizovanog sadržaja, često usmeren ka ženama. Paralelno sa tim, zabeleženi su i slučajevi seksualizovanih slika dece, što je dovelo do interesovanja regulatora i otvorilo pitanje odgovornosti platformi koje ovakvu aplikaciju distribuiraju.

Teme za vas

Google u svojoj zvaničnoj dokumentaciji za Play Store izričito navodi da ne dozvoljava aplikacije koje distribuiraju ili promovišu nepristanak i seksualni sadržaj, uključujući i onaj kreiran putem deepfake tehnologije ili sličnih AI alata. Ta pravila su dodatno pooštravana poslednjih godina, naročito nakon pojave aplikacija koje su tvrdile da mogu da "razodevaju" ljude na fotografijama.

Uprkos svemu tome, Grok je i dalje dostupan u Play Store-u i nosi oznaku T za tinejdžere, što znači da ga mogu preuzeti korisnici uzrasta od 13 do 17 godina, čak i na uređajima sa uključenim roditeljskim kontrolama. Ne postoji obavezan nalog, nema plaćanja, a provera uzrasta se svodi na unos godine rođenja.

Problem dodatno komplikuje činjenica da Grok, za razliku od ograničenja koja su uvedena na samoj mreži X, omogućava slobodno uređivanje slika unutar aplikacije, bez ikakvih dodatnih barijera. To znači da svako ko preuzme aplikaciju može relativno lako da generiše problematičan sadržaj.

Ovo nije prvi put da se Grok dovodi u vezu sa ovakvim zloupotrebama. Prošle godine alat je korišćen za kreiranje lažnih intimnih fotografija Tejlor Svift, koristeći činjenicu da je AI treniran na realnim slikama poznatih osoba. Nova funkcionalnost uređivanja slika ide korak dalje, jer omogućava manipulaciju fotografijama običnih ljudi.

Mediji su se obratili Google-u sa pitanjem zašto aplikacija nije uklonjena i zašto i dalje ima oznaku "Teen", ali kompanija zasad nije dala nikakav komentar. Tako ostaje otvoreno pitanje zašto se pravila, koja su javno dostupna i vrlo precizna, u ovom slučaju ne primenjuju.

(Telegraf Biznis)