Kina želi da zabrani zavisnost od AI saputnika: Nove stroge mere koje će obavezati robote da vas "paze"

Kina je predstavila nacrt novih pravila koja imaju za cilj da spreče zavisnost od AI sistema koji deluju kao emotivni saputnici, što je najagresivniji prijedlog regulacije ove tehnologije do sada. Predložene odredbe potiču od Kineske uprave za sajber prostor, a fokusirane su na usluge veštačke inteligencije koje imitiraju ljudsku ličnost i stvaraju emocionalnu vezu sa korisnicima.

Prema nacrtu, provajderi AI servisa bi morali aktivno da prate emocionalno stanje korisnika i reaguju kada se pojave znaci preteranog oslanjanja ili zavisnosti. Platforme bi morale da upozoravaju korisnike na rizik prekomerne upotrebe, automatski, pri svakom logovanju i nakon određenog vremena korišćenja. Ako sistem detektuje znake emocionalne zavisnosti, provajder bi bio obavezan da preduzme mere za intervenciju.

Teme za vas

Udržen sa ovim zahtevima, provajderi bi morali da preuzmu odgovornost za bezbednost AI servisa tokom celog životnog ciklusa proizvoda, uključujući i sisteme za pregled algoritama, zaštitu podataka i privatnosti. Trebalo bi da identifikuju emotivne rizike i nivo zavisnosti korisnika kako bi delovali pre nego što problemi postanu ozbiljni.

Poseban deo predloga odnosi se i na sadržaj koji AI može generisati. Nacrt pravila jasno navodi da servisi ne smeju da generišu materijal koji ugrožava nacionalnu bezbednost, širi glasine ili promoviše nasilje ili eksplicitne sadržaje.

Ove mere dolaze u trenutku kada Kina beleži brz rast korisnika generativne AI, a procene pokazuju da se broj korisnika udvostručio u poslednjih šest meseci na preko 515 miliona ljudi. To je izazvalo dodatne zabrinutosti u vezi sa psihološkim uticajem AI saputnika na mlađe i ranjive korisnike.

Predložena pravila su trenutno otvorena za javnu raspravu, i ukoliko budu usvojena, Kina bi postavila najstroži okvir za regulaciju AI saputnika na svetu.

(Telegraf Biznis)