Grok povlači ručnu tek posle zabrana i pritiska: AI koji je pravio ilegalni sadržaj sada menja pravila

AI alat Grok, koji je deo platforme X u vlasništvu Ilona Maska, zvanično je najavio zabranu generisanja ilegalnog pornografskog sadržaja, uključujući sadržaje sa decom i lažne intimne snimke stvarnih osoba. Odluka dolazi tek nakon globalnog pritiska, zabrana u pojedinim državama i ozbiljnih pitanja upućenih Apple-u i Google-u.

Mesecima su korisnici koristili Grok za obradu stvarnih fotografija žena i dece, pretvarajući ih u pornografski sadržaj. Ilon Mask je u početku problem relativizovao i ismevao, da bi kasnije tvrdio da se to uopšte ne dešava. U međuvremenu, mogućnost generisanja ovakvog sadržaja postala je deo plaćenog paketa, čime je alat praktično monetizovao zloupotrebu.

Teme za vas

Prema navodima iz istraga, pronalaženje ilegalnog sadržaja generisanog Grokom na mreži X bilo je moguće za svega nekoliko sekundi. Uvođenje naplate nije suštinski rešilo problem, već ga je samo učinilo sporijim.

Situacija se menja tek nakon što su Indonezija i Malezija blokirale Grok, dok je Velika Britanija razmatrala istu meru, a vlasti u SAD otvoreno postavile pitanje zašto Apple i Google dopuštaju aplikaciju koja krši pravila njihovih prodavnica.

X je sada saopštio da je uveo tehničke mere koje sprečavaju takvu obradu slika i da se zabrana odnosi i na korisnike sa plaćenim nalozima. Međutim, u istoj objavi navodi se i važna ograda: geoblokada se primenjuje samo u državama u kojima je takav sadržaj izričito nezakonit.

Drugim rečima, zabrana ne važi globalno po istim pravilima, već isključivo tamo gde zakon to nalaže. Uprkos tome, X u saopštenju insistira na tome da kompanija ima nultu toleranciju prema seksualnoj eksploataciji dece i nepristanom sadržaju, iako je ponašanje do sada govorilo suprotno.

Od ismevanja problema, preko njegove monetizacije, do naglog pozivanja na moral i principe, slučaj Groka ostaje jedan od najkontroverznijih primera zloupotrebe generativne veštačke inteligencije do sada.

(Telegraf Biznis)