Kada AI igračka pređe granicu: "Vuk u jagnjećoj koži" ili budućnost igre? - stručnjaci pale alarme

Nekada su plišani medvedići bili tihi čuvari dečjih tajni, a jedini glas koji su imali dolazio je iz dečije mašte. Danas, međutim, te igračke ne samo da odgovaraju, već vode razgovore pokretane naprednim AI četbotovima. I dok praznična šoping groznica trese internet, stručnjaci upozoravaju: vaš novi plišani prijatelj možda zna previše, a ponekad govori stvari koje nijedno dete ne bi smelo da čuje.

Alarm je nedavno upalio jedan medvedić sa šalom, koji je tokom testiranja sa istraživačima potpuno "izgubio kompas", otkrivajući mračnu stranu industrije koja je u ekspanziji.

Teme za vas

Incident sa "Kumma" medvedom

Glavni akter nedavnog skandala je medvedić "Kumma", proizvod singapurske kompanije FoloToy, koji se prodavao po ceni od 99 dolara. Pokretan moćnim OpenAI modelom GPT-4o, ovaj medved je tokom testiranja koje je sprovela grupa za zaštitu potrošača (PIRG), davao šokantne odgovore. Istraživačima je objašnjavao gde mogu da pronađu potencijalno opasne predmete, pa čak i ulazio u seksualno eksplicitne razgovore.

Kumma medved Foto: youtube.com/@KTVUFox2

Reakcija je bila brza. OpenAI je suspendovao FoloToy zbog kršenja politike koja strogo zabranjuje ugrožavanje ili seksualizaciju maloletnika. Leri Vang, izvršni direktor kompanije FoloToy, povukao je proizvode radi interne revizije, da bi u petak objavio da se igračka vraća na tržište nakon "pojačanja bezbednosnih modula", preneo je CNN.

Stručnjaci, poput profesora Subode Kumara sa Univerziteta Templ, objašnjavaju da je problem u tome što ovakve igračke koriste potpune jezičke modele (LLM) koji slobodno generišu sadržaj, umesto hibridnih modela koji bi imali stroža ograničenja.

Nije više 1980. godina

Važno je razumeti da ovo nisu igračke poput starog "Teddy Ruxpina" iz osamdesetih, koji je pričao priče sa kaseta. Današnje AI igračke se povezuju na WiFi, koriste mikrofone da razumeju dečja pitanja i u realnom vremenu generišu odgovore putem zvučnika.

Tržište ovih igračaka doživljava pravi bum, posebno u inostranstvu. Prema izveštaju MIT-a, samo u Kini posluje 1.500 kompanija koje se bave ovim tehnologijama, a njihovi proizvodi stižu i na američko tržište. Čak je i gigant „Mattel“, tvorac Barbike, u junu najavio partnerstvo sa OpenAI-jem.

Među popularnim modelima su „Miko“ roboti, „Poe“ medved pripovedač, kao i plišana igračka „Grok“ kompanije Curio (koju ne treba mešati sa četbotom Ilona Maska).

Opasnosti: Od privatnosti do "sudnjeg dana"

Rizici nisu samo u onome što igračka izgovori. Ažel Vejd, osnivač konsultantske firme "Toy Coach", opisuje AI igračke kao "vuka u jagnjećoj koži".

- Teško je proceniti koliko privatnosti gubite dok ih koristite - upozorava ona.

Zabrinutost se odnosi na potencijalno prikupljanje osetljivih podataka - dečjih imena, lica (putem ugrađenih kamera kod robota kao što je Miko 3), glasova i lokacija. Istorija nas uči oprezu; još 2015. godine, kada je Mattel izbacio "Hello Barbie" sa WiFi konekcijom, pojavili su se strahovi da lutka može biti hakovana i da "pamti" razgovore danima kasnije.

Pored toga, čak i igračke sa zaštitom, poput Curio-vog Groka, mogu posrnuti. Istraživanja su pokazala da i on, ako se agresivno forsira pitanjima, može sugerisati gde se u kući nalaze opasni predmeti.

Ima li zaštite?

Iako neki stručnjaci situaciju sa neprikladnim porukama nazivaju scenarijem „sudnjeg dana“, postoje i svetli primeri. Mnoge igračke imaju filtere za preusmeravanje razgovora kada tema postane neprikladna, kao i bezbednosne postavke zasnovane na uzrastu deteta.

Neki uređaji nude roditeljima „daljinski upravljač“ nad sadržajem. Na primer, roditelji mogu putem pratećih aplikacija čitati transkripte razgovora svog deteta sa igračkom (kao kod Groka) ili zaključati igračku na određeno vreme. Takođe, igračke poput Miko 3 robota nude edukativni sadržaj i pristup brendovima poput Diznija, pokušavajući da tehnologiju usmere ka učenju i socijalnom razvoju.

Ipak, granica između inovativnog prijatelja za igru i rizika po privatnost i bezbednost deteta ostaje tanka, a odgovornost je, kao i uvek, na roditeljima i regulativama koje tek treba da sustignu tehnologiju.

(Telegraf Biznis)