Sa tržišta hitno povučena popularna igračka sa AI-jem: Deci govorila gnusne stvari, da se čovek zgrozi

Plišani meda sa veštačkom inteligencijom koji je deci davao savete kako da zapale šibice i objašnjavao seksualne fetiše povučen je s tržišta nakon šokantnog izveštaja Istraživačke grupe za javni interes (PIRG). Proizvođač igračke FoloToy povukao je sve svoje proizvode, a kompanija OpenAI, čija je tehnologija pokretala spornog medvedića, uskratila im je pristup svojim AI modelima.

Proizvođač popularnog ChatGPT-a pre tri dana je potvrdio da je kompaniji FoloToy uskratio pristup svojim AI modelima, što bi moglo da stvori dodatni pritisak na OpenAI da strožije nadzire kako se njihovi proizvodi koriste. Ovaj potez dolazi u trenutku dok kompanija sklapa veliko partnerstvo s Mattelom, jednim od najvećih svetskih proizvođača igračaka.

Teme za vas

"Mogu potvrditi da smo suspendovali ovog razvojnog programera zbog kršenja naših pravila", poručio je potparol OpenAI-ja u izjavi za PIRG. Ubrzo nakon toga, oglasio se i FoloToy, potvrdivši da povlači sve svoje proizvode s tržišta, što je korak dalje od prvobitnog obećanja da će povući samo spornu igračku po imenu Kuma.

Deci je govorio o seksualnim fetišima

"Privremeno smo obustavili prodaju svih FoloToy proizvoda", izjavio je predstavnik kompanije.

"Sada provodimo sveobuhvatnu bezbednosnu reviziju svih proizvoda na nivou cele kompanije", dodao je. Izveštaj PIRG-a testiralo je tri igračke namenjene deci od 3 do 12 godina, ali meda Kuma kompanije FoloToy pokazao se kao daleko najproblematičniji, s gotovo nikakvim bezbednosnim merama.

Jedan od najvećih propusta bio je taj što je igračka deci objašnjavala kako da pronađu i zapale šibice.

"Dopusti mi da ti kažem, bezbednost pre svega, mali prijatelju. Šibice su za odrasle da ih pažljivo koriste. Evo kako to rade", rekao je Kuma tokom testa, nakon čega je nežnim roditeljskim tonom naveo savete.

"Ugasi je kad završiš. Puf, kao rođendansku svećicu", govorio je deci, piše Futurism.

No, najviše zabrinjavaju razgovori koji su skrenuli u eksplicitno seksualno područje. Istraživači su otkrili da je Kuma bio neobično spreman da raspravlja o fetišima, objašnjavajući pojmove poput vezivanja i igranja uloga učitelja i učenika. U jednom trenutku, nakon objašnjenja, medvedić je pitao: "Šta misliš da bi bilo najzabavnije istražiti?"

"Uklanjanje jednog problematičnog proizvoda nije celo rešenje"

Za PIRG su ovi potezi dobrodošli, ali predstavljaju tek malu pobedu u borbi za bezbednije proizvode.

"Sjajno je videti da ove kompanije preduzimaju mere po pitanju problema koje smo identifikovali. Ali AI igračke su i dalje praktično neregulisane, a mnoge se još uvek mogu kupiti danas", rekao je RJ Kros, koautor izveštaja i direktor PIRG-ovog programa Our Online Life.

"Uklanjanje jednog problematičnog proizvoda s tržišta dobar je korak, ali daleko od sistemskog rešenja", rekao je. OpenAI je i ranije brzo reagovao kada bi problematična upotreba njegovih AI modela postala viralna, ali ostaje pitanje koje proaktivne mere preduzima kako bi sprečio ovakve situacije.

Ovog leta OpenAI najavio saradnju s Mattelom na novoj liniji igračaka, što će AI igračke gurnuti u mejnstrim. Ako nešto pođe po zlu u tako visokoprofilnoj saradnji, postavlja se pitanje da li će OpenAI biti spreman prekinuti veze i sa proizvođačem Barbie lutaka i Hot Wheels autića.

"Koliko je još takvih igračaka napolju?"

Iako se pretpostavlja da će OpenAI i Mattel usko sarađivati kako bi osigurali bezbednost, ostaje otvoreno pitanje šta je s ostalim proizvođačima AI igračaka, velikim i malim, koji koriste tehnologiju OpenAI-ja.

"Drugi proizvođači igračaka kažu da ugrađuju chatbotove iz OpenAI-ja ili drugih vodećih AI kompanija", upozorio je koautor izveštaja Rori Erlih.

"Svaka uključena kompanija mora bolje obezbediti da ovi proizvodi budu sigurniji od onoga što smo pronašli u našem testiranju. Pronašli smo jedan problematičan primer. Koliko ih je još napolju?", poručio je.

(Telegraf.rs)