Come creare immagini false e pure scovarle? Al MIT ci pensa l’Intelligenza Artificiale

Creare immagini fotografiche fasulle è semplice grazie a strumenti che sfruttano le reti artificiali. Questi stessi strumenti potrebbero essere sfruttati in futuro per individuare immagini fake.

Il MIT ha creato un’intelligenza artificiale in grado di creare e identificare immagini false

Ricercatori del Massachusetts Institute of Technology (MIT) e IBM hanno addestrato un’intelligenza artificiale creando un sistema in grado in una prima fase di elaborare false immagini fotografiche inserendo oggetti all’interno di queste con risultati indistinguibili da una immagine vera. Ma l’AI funziona anche “al contrario”, vediamo come.

Il sistema di generazione può essere di valido aiuto per artisti e designer, e la ricerca evidenzia come le reti neurali siano in grado di “comprendere il contesto”, un elemento che il team di sviluppo spera di poter sfruttare per creare uno strumento in grado, tra le altre cose, di individuare immagini false o alterate.

Lo strumento in questione si chiama “GANpaint Studio” ed è stato predisposta anche unan demo utilizzabile online. Anziché disegnare manualmente ad esempio alberi o altri elementi in una foto, è possibile indicare all’applicazione dove si desiderano collocare determinati elementi e fare in modo che questi si adeguino all’ambiente circostante rappresentato dalla foto di partenza. Lo strumento non è ancora completo ma sembra già interessante e promettente, utile ad esempio per aggiungere / rimuovere elementi dimenticati all’ultimo momento prima di scattare una foto.

Creando GANpaint Studio, i ricercatori riferiscono di essere rimasti sopresi da come il sistema apprendesse con facilità semplici regole quali le possibili relazioni tra gli oggetti (es. una porta non ha niente a che fare con il cielo). Il tool sfrutta le reti antagoniste generative (in inglese Gan, acronimo di Generative Adversarial Network), una nuova classe di algoritmi di machine learning basati sulla teoria dei giochi.

Quando la Natura è troppo complessa perché sia studiata direttamente, i ricercatori la simulano, elaborando modelli in grado di riprodurre l’aspetto e il funzionamento dei fenomeni studiati, in modo da poter mettere alla prova loro teorie, confrontando dati sperimentali con quelli prodotti artificialmente. Le simulazioni in questione possono essere troppo complesse in termini computazionali e in aiuto arrivano gli algoritmi GAN, architetture di reti convolutive, perfette in applicazioni nelle quali si vogliono generare contenuti o oggetti.

GANpaint Studio rende semplice creare immagini false ma servirà anche a individuarle facilmente. “Devi conoscere il tuo avversario per poterti difendere” spiega Jun-Yan Zhu, co-autore del documento che illustra lo strumento. I ricercatori presenteranno i risultati del loro lavoro il prossimo mese nel corso di una conferenza.