Apple tra sistemi antipedofilia e rispetto della privacy con le nuove regole UE

Nel 2021 Apple aveva iniziato a implementare in iOS, iPadOS e macOS, un meccanismo che avrebbe dovuto permetter di contrastare la pedopornografia, identificando automaticamente le immagini sospette quando queste vengono caricate su iCloud Foto o scambiate ad esempio con l’app Messaggi.

Il sistema CSAM (acronimo di Child Sexual Abuse Material), suscitò all’epoca polemiche paventando censure preventive e potenziali rischi evidenziando la possibilità di meccanismi di controllo utilizzabili da governi e regimi vari che potrebbero pretendere anche il controllo per altre tipologie di immagini (es. simboli non graditi, avversari politici, ecc.).

Nel 2021 Apple fu costretta a fare marcia indietro in seguito alle proteste dei difensori della privacy, che consideravano il sistema una grave violazione dei loro diritti. A distanza di quattro anni la Mela potrebbe essere costretta a integrare la soluzione  antipedofilia nei suoi sistemi operativi: il sito Euractive riferisce che, dopo anni di discussioni.

Il Consiglio dell’UE avrebbe raggiunto un accordo per regolamentare la questione della circolazione delle immagini di abusi sui minori; l’idea iniziale era quella di obbligare le aziende tecnologiche a implementare metodologie per la ricerca automatica di materiale pedopornografico su dispositivi, computer e servizi cloud, la nuova versione del testo non lo impone più ma l’opzione rimane aperta e ciascuna azienda potrà implementarla se lo riterrà necessario per soddisfare i requisiti di lotta contro l’abuso sessuale sui minori.

Sebbene la proposta debba ancora ottenere l’approvazione del Parlamento europeo, si è ad ogni modo arrivati ad un traguardo importante, aprendo potenzialmente la strada a una specifica legislazione entro pochi mesi. Le organizzazioni per la difesa della privacy rimarranno vigili, ma dovranno confrontarsi con diversi legislatori, compreso Peter Hummelgaard, Ministro della Giustizia danese, che valuta positivamente gli sviluppi, sottolineando che “ogni anno “milioni di file raffigurati abusi si milioni sono condivisi”, affermando di essere lieto di come si stia arrivando a norme specifiche.

Come funzionava il meccanismo di protezione previsto da Apple?

Dal punto di vista tecnico, il sistema permetteva di individuare automaticamente la presenza di materiale pedopornografico analizzando le immagini attraverso un algoritmo che in gergo si chiama NeuralHash: individuando la corrispondenza tra gli hash delle foto presenti sul dispositivo (solo quelle che vengono caricate su iCloud) con gli hash inclusi nel database del National Center for Missing and Exploited Children (NCMEC), inviando eventualmente segnalazioni alle forze dell’ordine.

Tra le organizzazioni che nel 2021 sostennero l’iniziativa di Apple anche Il Centro Nazionale per Bambini Scomparsi e Sfruttati; tra i dubbiosi: Edward Snowden e la Electronic Frontier Foundation.  A dicembre dello scorso anno negli USA Apple fu citata in giudizio per avere eliminato nel 2022 la tecnologia CSAM Detection dai vari dispositivi.