--- title: "Ai che clona la voce fa dire cose terribili alle celebrità" id: "1202702" type: "post" slug: "ai-clona-voce-deepfake-celebrita" published_at: "2023-01-31T16:31:45+00:00" modified_at: "2023-01-31T16:31:05+00:00" url: "https://www.macitynet.it/ai-clona-voce-deepfake-celebrita/" markdown_url: "https://www.macitynet.it/ai-clona-voce-deepfake-celebrita.md" excerpt: "Lo strumento AI che clona la voce è potente, ma alcuni utenti lo usano per far dire cose irripetibili alle celebrità: le possibili soluzioni" taxonomy_category: - "Curiosità" taxonomy_post_tag: - "Intelligenza Artificiale" --- Questo sito contiene **[link di affiliazione](https://www.macitynet.it/pubblicita/)** per cui può essere compensato [Home](https://www.macitynet.it/) » [Hi-Tech](https://www.macitynet.it/category/hi-tech/) » [Curiosità](https://www.macitynet.it/category/hi-tech/curiosita/) » **Ai che clona la voce fa dire cose terribili alle celebrità** [Curiosità](https://www.macitynet.it/category/hi-tech/curiosita/) # Ai che clona la voce fa dire cose terribili alle celebrità Di[Emiliano Contarino](https://www.macitynet.it/author/emiliano/) 31 Gen 2023 ![L’abuso della AI porta ad emulare le voci delle celebrità](https://www.macitynet.it/wp-content/uploads/2023/01/robot-ai-generico-741x486.jpg "L’abuso della AI porta ad emulare le voci delle celebrità") Pochi giorni fa, la startup AI ElevenLabs ha rilasciato una versione beta della sua piattaforma di [intelligenza artificiale](https://www.macitynet.it/tag/intelligenza-artificiale/) Ai che permette agli utenti di creare voci sintetiche completamente nuove per il text-to-speech o di clonare la voce di qualcuno. Ovviamente, il mondo di internet ha impiegato solo pochi giorni per iniziare a sfruttare questo strumento per scopi tutt’altro che apprezzabili. La società ha rivelato su Twitter che sta assistendo a un “numero crescente di casi di uso improprio di clonazione vocale” e che sta pensando a un modo per affrontare il problema “attuando ulteriori salvaguardie”. Mentre ElevenLabs non ha [spiegato](https://www.engadget.com/ai-voice-tool-deepfake-celebrity-audio-clips-094648743.html) esattamente cosa intendesse dire per “casi di uso improprio”, Motherboard ha scovato diversi post con clip di voci generate che emulano celebrità che leggono o dicono qualcosa di discutibile, in alcuni casi contenuti irripetibili. In una clip, ad esempio, si sente una voce che richiama quella di Emma Watson intenta a leggere una parte di Mein Kampf. Gli utenti hanno anche pubblicato clip vocali con insulti e sentimenti omofobi, transfobi, violenti e razzisti. Non è del tutto chiaro se tutte le clip riscontrate facciano utilizzo della tecnologia di ElevenLab, ma diversi post includevano link alla piattaforma della startup. La comparsa di clip audio deepfake, quindi falsi realistici creati con l’ausilio di Ai, non dovrebbe sorprendere, visto che qualche anno fa si era già assistito a un fenomeno simile. I progressi nell’intelligenza artificiale e nell’apprendimento automatico hanno portato a un aumento dei video deepfake, in particolare della pornografia [deepfake](https://www.macitynet.it/hacktivismo-deepfake-e-regolamentazioni-governative-le-previsioni-per-il-2023/) , in cui i materiali pornografici esistenti vengono modificati per utilizzare i volti delle celebrità. Anche in quel caso fu presa di mira proprio l’attrice Emma Watson, tra le altre. ElevenLabs sta ora raccogliendo feedback su come impedire agli utenti di abusare della sua tecnologia Ai che clona la voce. Al momento, l’idea è quella ricombattere gli abusi aggiungendo più livelli alla verifica account, ad esempio richiedendo agli utenti di inserire informazioni di pagamento o un ID. Si sta anche valutando di far verificare agli utenti la proprietà del copyright della voce che vogliono clonare, ad esempio facendogli inviare un campione con un particolare testo richiesto. Infine, l’azienda sta pensando di abbandonare del tutto il suo strumento Voice Lab e di far sì che gli utenti inviino richieste di clonazione vocale da verificare manualmente. Anche Microsoft VALL-E è un sistema Ai in grado di imitare la voce di chiunque, questo dopo averne ascoltato un campione di solamente 3 secondi, [ma non è disponibile per il pubblico](https://www.macitynet.it/nuovo-strumento-ia-puo-riprodurre-la-voce-di-chiunque-sentendola-per-3-secondi/) . Tutte le notizie che parlano di Intelligenza Artificiale [sono disponibili a partire da questa pagina](https://www.macitynet.it/tag/intelligenza-artificiale/) di macitynet. [Segui Macitynet su Google News](https://news.google.com/publications/CAAqBwgKMI3ThAswm72BAw?hl=it&gl=IT&ceid=IT%3Ait) ### Offerte Apple e Tecnologia Le offerte dell'ultimo minuto le trovi nel nostro canale Telegram [Iscriviti](https://t.me/offertemacitynet) #### Offerte Speciali [https://www.macitynet.it/offerte-amazon-23-settembre-2026/](https://www.macitynet.it/offerte-amazon-23-settembre-2026/) ### [Offerte Amazon 23 settembre: Apple, Sandisk, LEGO, Sennheiser, Dell, Switchbot, Xiaomi, Aqara](https://www.macitynet.it/offerte-amazon-23-settembre-2026/) 23 Set 2026 Le migliori offerte Amazon del 23 settembre 2026: dispositivi tech e accessori per la vita di tutti i giorni, selezionati da Macitynet. - Tags - [Intelligenza Artificiale](https://www.macitynet.it/tag/intelligenza-artificiale/) Articolo precedente[Se Apple non licenzierà è per merito di Tim Cook](https://www.macitynet.it/apple-non-licenziera-per-merito-di-tim-cook/) Articolo successivo[Instagram Note in Europa, come usare i messaggi evanescenti](https://www.macitynet.it/instagram-note-come-usarle-europa/)