Civitai, piattaforma online per condividere modelli di intelligenza artificiale e contenuti media creati con AI, ha appena introdotto una nuova funzione chiamata bounties, letteralmente taglie o ricompense, per incoraggiare la sua comunità a creare deepfake di persone reali.
Chiunque crei il miglior modello di intelligenza artificiale riceverà una valuta virtuale chiamata “Buzz”. Molte delle ricompense pubblicate sul sito chiedono agli utenti di ricreare il volto di celebrità e influencer dei social media, per lo più donne. Peraltro, la maggior parte di questi deep fake riguarda “immagini sessuali non consensuali”.
Questo tipo di contenuto si è diffuso su Internet per anni e anni, ma l’intelligenza artificiale permette adesso di ottenere risultati finali molto più realistici. Inoltre, 404 Media ha trovato richieste per eseguire deepfake su persone private, rendendo il tutto ancora più inquietante.
“Sono molto spaventata da ciò che può diventare tutto questo”, ha dichiarato Michele Alves, un’influencer di Instagram che ha una taglia su Civitai, aggiungendo “Non so quali misure potrei prendere, poiché Internet sembra un luogo fuori controllo”.
Secondo la società di analisi mercato Andreessen Horowitz, Civitai è la settima piattaforma generativa di intelligenza artificiale AI più popolare al momento. In altre parole, ci sono moltissimi occhi puntati su queste richieste di ricompense.
Ai membri dello staff di 404 Media sono bastati pochi istanti per trovare immagini inviate tramite una richiesta di ricompensa di una persona privata con account che vantava solo pochi follower. La persona che ha pubblicato la ricompensa ha affermato che si trattava di sua moglie, ma i suoi account sui social media non sembrano confermarlo.
È importante notare che poche delle richieste di ricompensa specificano esplicitamente che il richiedente cerca materiale sessuale, nascondendo la richiesta dietro un linguaggio piuttosto vago.
Civitai, per sua parte, afferma che queste ricompense non devono essere utilizzate per creare immagini generate da intelligenza artificiale sessuali non consensuali di persone reali. Tuttavia, sono consentite immagini sessuali di figure pubbliche e immagini non a sfondo sessuale di persone comuni. Detto ciò, è solo questione di combinare le due cose.
Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili nella sezione dedicata di macitynet. A questo indirizzo, vi proponiamo una guida su come individuare i video deep fake.
