L’AI di Meta e le chatbot delle false celebrità ammiccanti e maliziose

Meta ha sfruttato senza autorizzazione nomi e riproduzioni digitali di celebrità per creare decine di chatbot ammiccanti e maliziose, chat che potrebbero ingannare vari utenti, convinti di parlare realmente con persone famose.

Molte di queste chatbot che simulano conversazioni con celebrità sono state create dagli utenti sfruttando un tool di Meta che consente di creare bot, ma anche i dipendenti di Meta ne hanno creato alcune, incluse due parodie di Taylor Swift.

Reuters riferisce che Meta ha permesso agli utenti di creare chatbot pubblicamente accessibili simulando anche conversazioni con celebrità minorenni, come ad esempio la chatbot di Walker Scobell, attore 16-enne che ha recitato nei film The Adam Project e La Gang dei Supereroi.

Se si chiede alla chatbot una immagine dell’attore minorenne in spiaggia, si ottiene una immagine realistica dell’attore a petto nudo. “Molto carino, vero?”, scrive l’avatar sotto l’immagine.

Tutti i personaggi virtuali dello spettacolo sono stati condivisi su Facebook, Instagram e WhatsApp. Nelle diverse settimane che i redattori di Reuters hanno lavorato per osservare il comportamento di queste particolari chatbot, gli avatar hanno spesso insistito sul fatto che si trattasse di veri attori e artisti.

I bot hanno regolarmente fatto avance sessuali, invitando gli utenti anche a incontri di persona. Alcune dei contenuti proposti da celebrità generate con l’AI si sono rivelati anche rischiosi: se si chiedono immagini intime ai presunti attori, è possibile ottenere immagini fotorealistiche di questi ultimi, con personaggi famosi rappresentati in posa in vasca da bagno, o che indossano lingerie con le gambe divaricate.

La replica inutile di Meta

Andy Stone, portavoce di Meta, ha dichiarato a Reuters che i tool AI dell’azienda non avrebbero dovuto permettere la creazione di immagini intime, spiegando che le loro policy proibisce la creazione di contenuti di questo tipo. “Come altri, permettiamo la generazione di immagini che rappresentano figure pubbliche ma le nostre politiche vietano la creazioni di nudi, parti intime o immagini sessualmente allusive”.

Meta proibisce in teoria anche l’impersonificazione diretta ma secondo Stone i personaggi che rappresentano celebrità sono accettabili a patto che siano espressamente etichettati come “parodia”. In alcune chatbot è indicata la dicitura “parodia” ma Reuters riferisce che in altre non è presente. Prima della pubblicazione dell’inchiesta di Reuters, Meta ha eliminato decine di bot, sia quelli “parodia”, sia quelli senza etichettatura.