Home Macity Internet Facebook ha sviluppato un nuovo metodo per individuare video deepfake

Facebook ha sviluppato un nuovo metodo per individuare video deepfake

I deepfake – video e immagini realizzati attraverso delle app che consentono di trasformare il volto, la voce e il corpo delle persone, creando veri e propri “falsi” – sono sempre più un problema, uno dei tanti spiacevoli risultati dei recenti sviluppi nel campo dell’intelligenza artificiale.

I video realizzati con tecniche di questo tipo non sono ancora un grosso problema su Facebook ma l’azienda del social continua a finanziare ricerche per proteggersi da potenziali minacce future di questo tipo. L’ultimo lavoro è frutto della collaborazione con accademici della Michigan State University (MSU) e ha permesso di creare un metodo per decodificare (con tecniche di reverse engineering) i deepfake: analizzando le immagini generate dall’IA e identificando tipiche caratteristiche presenti nelle immagini generate dai modelli di apprendimento automatico.

The Verge riferisce che il lavoro di Facebook e dell’Università statale del Michigan può essere utile per individuare malintenzionati che pubblicano deepfake sui social, diffondendo disinformazione ma anche pornografia sostituendo i volti di attrici e attori hard con quelli di amici e celebrità: un serio problema al punto che sono nati forum specializzati  nel pubblicare video hard fasulli realizzati partendo da un vero filmato a luce rosse al quale viene sostituito il volto dell’attrice o dell’attore.

Sono state già in precedenza create tecnologie che consentono di individuare video deepfake ma il nuovo lavoro è indicato come un ulteriore passo avanti, in grado di identificare caratteristiche anche non conoscendo i modelli di machine learning  applicati alla partenza. Tipicamente una tecnica usata dai sistemi di apprendimento automatico che consentono di cambiare volti è il “meta-apprendimento”, un sistema usato per impostare iperparametri per reti neurali, generalizzando la base di nuovi dati. Reti GAN (Generative Adversarial Network) sono sfruttate, addestrate con immagini reali, attivando una competizione tra loro. A quanto pare questo modo di applicare parametri ai filmati offre la possibilità di individuare una sorta di “impronta digitale” che consente di indicare (non ancora con ragionevole certezza al 100%) e comprendere se un filmato è vero o falso.

Elon Musk si intromette in una videoconferenza con Zoom: Deepfake in tempo reale con l’IA
Il finto Elon Musk entrato in una videoconferenza su Zoom

La nuova soluzione per individuare video deep-fake non è perfetta ma è, come già detto, un passo avanti: lo scorso anno in una competizione ad hoc predisposta da Facebook, l’algoritmo migliore è stato in grado di individuare correttamente deepfake nel 65,18% dei casi. Individuare automaticamente filmati falsi non è un compito facile, anche perché nel frattempo migliorano anche tecniche e algoritmi di chi crea deepfake: una sorta di eterna gara tra gatto e topo con reti neurali applicate per scopi diversi e in competizione l’una con l’altra.

Per tutti gli articoli di macitynet che parlano di Intelligenza Artificiale fate riferimento a questo indirizzo.

Offerte Speciali

iPad Air 256 GB Wi-Fi e 64 GB cellular: scontatissimi su Amazon i modelli 2020

Su Amazon trovate in sconto iPad Air Cellular da 64 GB e iPad Air Wi-Fi da 256 GB con ribassi oltre il 14% e spedizione immediata.
Pubblicità
Pubblicità

Seguici e aggiungi un Like:

64,767FansMi piace
90,960FollowerSegui