Un tool di Google per individuare immagini generate con l’AI

È sempre più difficile individuare immagini generate con l’Intelligenza Artificiale da scatti creati da esseri umani. Le immagini create con l’AI possono essere sfruttate per creare e diffondere disinformazione, rendendo difficile distinguere ciò che è reale da ciò che è falso.

Per cercare di contrastare i falsi generati dalle IA, Google ha creato uno strumento denominato SynthID che, se adottato dalle varie aziende che propongono tool per la creazione automatica di immagini, permetterebbe in qualunque momento di distinguere immagini reali da immagini generate dall’AI.

Lo strumento in questione è stato creato dal team DeepMind (l’azienda di i intelligenza artificiale controllata da Alphabet), e sostanzialmente aggiunge una filigrana impercettibile alle immagini generate con l’IA, alla stregua di una firma univoca. Lo stesso strumento può essere in successivamente sfruttato per individuare velocemente immagini generate con tool di IA, anche dopo che queste sono state modificate, aggiungendo ad esempio filtri, dopo che sono state compresse, dopo che è stato modificato lo spazio colore, ecc.

Dal punto di vista tecnico, SynthID combina due modelli di deep learning in un unico tool (qui i dettagli tecnici); un primo strumento aggiunge una filigrana impercettibile agli occhi di un essere umano, e il secondo identifica la filigrana.

Attualmente, SynthID è limitato perché consente di individuare solo le immagini create con Imagen, AI di Google per la creazione di immagini partendo da input testuali, ma in futuro anche aziende di terze parti che offrono tool per la generazione automatica di immagini potrebbero integrare SynthID nei loro sistemi.

Lo strumento di Google verrà gradualmente integrato in Vertex AI, insieme di strumenti destinati agli sviluppatori per la creazione di modelli e applicazioni basate sull’intelligenza artificiale che consentono la creazione di modelli e di applicazioni di ricerca e conversazione personalizzate con dati aziendali.

Big G ha recentemente fatto sapere che intende offrire infrastrutture ottimizzate per l’IA in grado di addestrare e gestire modelli.

Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di macitynet.