Troppi deepfake, frena l’AI Midjourney che genera immagini

Se usavate Midjourney per creare immagini con intellgenza artificiale AI generativa senza spendere un euro, c’è una brutta notizia: il servizio è stato sospeso e il problema reale sembrano essere i deepfake, vale a dire immagini fotorealistiche ma completamente fasulle che mostrano personaggi celebri in situazioni mai avvenute nella realtà.

La società sta dando la colpa all’ondata di nuovi utenti che crea account usa-e-getta per ottenere questo tipo di immagini gratuitamente, ma dietro pare ci siano problemi legati al sovraccarico dei server e, peggio ancora, agli abusi perpetrati attraverso l’uso delle immagini completamente fasulle, deepfake, generate dall’intelligenza artificiale.

L’amministratore delegato di Midjourney, David Holz, parla di una «temporanea mancanza di GPU» verificatasi contemporaneamente all’enorme afflusso di nuovi utenti che pare sia stato innescato da un video di istruzioni diventato virale in Cina. Ma come dicevamo ci sono problemi ben più gravi e che riguardano la creazione di immagini completamente fasulle usate per veicolare il pensiero pubblico, deepfake che diventano virali in rete e sui social network.

Allarme deepfake, frena Midjourney AI che genera immagini

Le immagini che hanno scatenato il putiferio

Tra le più eclatanti ci sono le fotografie create dal giornalista investigativo Eliot Higgins, ora bannato da Midjourney, in cui l’ex presidente americano Trump è ritratto in fase di arresto da parte della polizia, e quelle del Papa vestito con un appariscente piumino, così come il presidente francese Emmanuel Macron che cammina in mezzo alle proteste in corso in queste settimane e Elon Musk mano nella mano con la politica Alexandria Ocasio-Cortez.

Per il momento l’azienda ha deciso di sospendere l’uso del servizio anche agli utenti paganti proprio perché queste immagini dall’alto realismo possono essere generate soltanto tramite la versione 5, che è appunto accessibile soltanto agli abbonati.

Creare immagini gratis con l’AI, Midjourney sospeso per deepfake

Deepfake e AI, un problema difficile da risolvere

Midjourney deve quindi trovare la quadra per evitare questo tipo di abusi. Come servizio si pone più o meno nel mezzo perché appare più permissivo ad esempio di DALL-E di OpenAI, ma è anche più restrittivo se lo si confronta a Stable Diffusion: «la moderazione è difficile e presto offriremo sistemi migliorati. Stiamo raccogliendo feedback e idee dagli esperti e dalla community».

In effetti per come è concepito adesso è piuttosto facile aggirare i sistemi di protezione: nel caso di Trump, per dire, il generatore di immagini si blocca con la query “Donald Trump arrestato”, ma basta scrivere “Donald Trump in manette circondato dalla polizia” ed ecco spuntare foto come quella mostrata da The Verge (qui sopra).

Per il momento quindi il servizio risulta inaccessibile, ma si sta lavorando per ripristinarlo il prima possibile. «Stiamo ancora cercando di capire come fare: abbiamo provato a richiedere un’email attiva di verifica ma pare non basti».

Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili nella sezione dedicata di macitynet.

Offerte Speciali

Mac mini M2 Pro prima volta in sconto, risparmiate 180 €

Su Amazon va in sconto il Mac mini M2 Pro. Ribasso a 1399,99 €, risparmio da 180 €
Pubblicità

Ultimi articoli

Pubblicità