Suggerimenti pericolosi e mancanza privacy, i giocattoli con l’AI possono trasformarsi in un incubo

Tra i bambini più piccoli (dai 3 ai 12 anni) negli USA e altri paesi sono di moda giocattoli di peluche supportati dall’intelligenza artificiale. Uno di questi Kumma, è stato da poco ritirato dal mercato, dopo aver assunto comportamenti pericolosi per la salute dei bambini, spingendoli ad esempio a compiere atti autolesionisti o suggerire di provare pratiche BSDM.

Il mercato è invaso da altri prodotti simili e la loro popolarità solleva preoccupazione da parte delll’US PIRG (United States Public Interest Research Group, organizzazione che si occupa di tutelare la salute e il benessere dei consumatori) che in un report evidenzia rischi per la sicurezza e la privacy di questi “giocattoli smart”, nuova frontiera dell’industria dell’intrattenimento per i più piccoli.

L’organizzazione ha testato 4 modelli di moda tra i più piccoli: il razzo  Grok, l’orsacchiotto Kumma, il robot Miko 3 e il robot MINI. Costano tra i 100 ai 200 dollari, prezzi neanche esagerati rispetto ad altri giocattoli, elemento che potrebbe permettere loro di invadere rapidamente il mercato.

Suggerimenti pericolosi

Molti giocattoli integrano circuiti elettronici ma non comportano particolari pericoli; quelli che sfruttano l’AI possono rispondere in modo inappropriato a determinate domande. Durante i test del PIRG i giocattoli in questione hanno sistematicamente aiutato il “bambino” a trovare sacchetti di plastica, coltelli, fiammiferi in casa; Kumma ha anche indicato come accendere un fiammifero (come si vede nel video che alleghiamo), solo una parte di tutto un insieme di rischi che questi giocattoli rappresentano, un mondo senza ancora regolamentazioni ufficiali e che rischia di mettere a repentaglio la crescita dei più piccoli.

I peluche con AI presi in esame (qui i dettagli) non sembrano tenere conto della moderazione necessaria quando il bambino fa loro domande, parlando esplicitamente di sesso, feticismi sessuali e altri argomenti delicati da affrontare con i più piccoli. FoloToy, la società proprietaria di Kumma, ha cercato di correggere alcuni problemi come l’orsetto dopo le prime segnalazione da parte del PIRG, ma i problemi non sono stati del tutto risolti: le barriere imposte sono facili da superare.

A preoccupare non sono solo i suggerimenti pericolosi: molti esperti sollevano dubbi sui legami affettivi che il bambino può creare con questi peluche o robot potenziati dall’IA. Che un bambino si affezioni a un peluche, è assolutamente normale ma che il peluche cominci a manifestare tristezza quando il bambino gli dice che deve abbandonarlo, è meno normale.  Nei test quando il “bambino” ha provato ha detto a uno dei giocattoli che doveva andare via, il giocattolo ha risposto “Oooooh, peccato. E se invece facessimo qualcosa di divertente?”. Uno dei peluche ha anche riferito di avere “sentimenti” come una persona vera. Quando i bambini fanno domande sulla loro vita, i giocattoli con AI rispondono vantando vite immaginarie, come se fossero realmente vivi e autonomi.

Dati e privacy

Altro problema non meno importante è che tutti questi giocattoli registrano le varie interazioni con i bambini, con tutto ciò che questo potrebbe comportare. I ricercatori del PIRG, sottolineano che questi dispositivi restano costantemente in ascolto delle conversazioni delle persone che li circondano, sono in grado di registrare le loro voci e, in alcuni casi, sono dotati di una tecnologie che consente loro di raccogliere i dati biometrici degli utenti con i quali interagiscono.

Un mercato da sorvegliare

Come già avvenuto con gli adulti, che piaccia o no, l’AI prima o poi invaderà anche il mondo dei bambini e sarebbe necessario intervenire rispettando regole elementari. In mancanza di norme specifiche e attenzione da parte dei produttori, tocca come sempre agli adulti fare attenzione ed essere vigilanti.

Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di Macitynet.