Basta una normale fotografia per ritrovarsi nudi online senza aver mai dato il proprio consenso. È il motivo per cui Apple e Google finiscono ora nel mirino delle autorità della California: secondo il procuratore di San Francisco le due aziende continuano ad ospitare app basate sull’intelligenza artificiale capaci di creare falsi nudi realistici, continuano anche a guadagnare dalle commissioni generate da questi servizi provocando imbarrazo e disagio in tante persone.
L’azione legale è stata avviata dal procuratore generale di San Francisco, David Chiu, che ha inviato lettere di diffida ad Apple e Google chiedendo la rimozione di 13 app di face swapping che consentono di creare immagini di nudo non consensuali generate con l’intelligenza artificiale.
La California contro le app che “spogliano” le persone
Nelle lettere inviate alle due aziende si sostiene che Apple e Google dovono cessare di «favorire» la vendita di immagini deepfake esplicite e interrompere i rapporti commerciali con gli sviluppatori di queste applicazioni. «Generare immagini intime non consensuali è illegale, dannoso e del tutto inaccettabile», ha dichiarato Chiu a Wired.
Secondo il procuratore generale, il cui ufficio ha già avviato in passato azioni legali contro 16 siti web specializzati nella pornografia deepfake, Apple e Google hanno probabilmente incassato milioni di dollari in commissioni grazie a queste app e dovrebbero rafforzare i controlli durante la revisione delle applicazioni.
«Queste aziende hanno la responsabilità di garantire che le app presenti sulle loro piattaforme non facilitino gli abusi sessuali», ha aggiunto Chiu.
Alcune app erano accessibili anche ai minori
Nelle notifiche legali si ricorda inoltre che la normativa della California vieta di sostenere servizi che producono pornografia deepfake. I ricercatori hanno individuato nell’App Store di Apple e nel Play Store di Google diverse applicazioni che permettono di creare immagini a sfondo sessuale con l’IA, comprese alcune classificate come adatte anche ai bambini.
Sia Apple sia Google dispongono già di linee guida per gli sviluppatori che vietano pornografia, molestie e abusi. Nonostante questo, alcune app riescono comunque a superare i controlli iniziali, salvo essere rimosse dopo le segnalazioni di ricercatori, giornalisti o autorità.
Apple era già intervenuta in passato
Non è la prima volta che il problema emerge. Apple ha già rimosso diverse applicazioni che sfruttavano l’AI generativa per creare immagini di nudo non consensuali partendo da fotografie di persone ignare.
In alcuni casi gli sviluppatori erano riusciti a eludere i controlli dell’App Store presentando le applicazioni come strumenti fotografici o di fotoritocco del tutto innocui, nascondendo le reali funzionalità per cui erano state progettate.
La nuova iniziativa della procura di San Francisco punta ora ad andare oltre la semplice rimozione delle singole app: l’obiettivo è spingere Apple e Google a impedire che software di questo tipo riesca a raggiungere gli store, intervenendo già nella fase di approvazione e interrompendo qualsiasi rapporto commerciale con gli sviluppatori che li distribuiscono.
