App Foto di Google poco “smart”: scambia persone di colore per gorilla

La nuova app foto di Google ha riscosso apprezzamenti: grafica pulita, leggera, possibilità di archiviare foto a risoluzione standard illimitatamente e tante, tante opzioni per taggare e ricercare le proprie foto. Purtroppo, però, gli algoritmi che generano album automatici ed etichettano le foto non sono risultati infallibili. Ad inizio settimana, infatti, la sorpresa di un afro americano, che nello sfogliare un album generato automaticamente, si è visto etichettare le sue foto, insieme ad una ragazza di colore, con il termine “gorilla”.

L’utente scambiato per un primate, in realtà un programmatore di nome Jacky Alciné, non l’ha presa bene (e del resto sarebbe stato difficile fare dell’umorismo…) e ha pubblicato su Twitter l’insulto (foto in calce) degno dei membri del Ku Klux Klan. Google ha ovviamente dovuto prendere di petto la situazione: il Chief Social Architect di Google, Yonatan Zunger, in appena un’ora e mezza si è profuso nelle ovvie scuse e rimosso il termine gorilla dai tag dell’applicazione. Poi, senza mezzi termini, con parole piuttosto forti,  ha lasciato intendere che Foto necessita ancora di molto lavoro, soprattutto in termini di riconoscimento facciale. Lo stesso Zunger, poi, ha anche svelato che inizialmente, molte persone, di qualsiasi razza e colore della pelle, venivano identificate da Foto come cani.

Altri portavoce di Google, in via ufficiale, hanno commentato l’accaduto ai giornalisti di ArsTechnica, dicendosi sconvolti e sinceramente dispiaciuti per l’errore. Ovviamente, è chiara la buona fede di Google; l’errore è assolutamente riconducibile agli algoritmi che vengono utilizzati da Foto per taggare automaticamente le foto e non vi è certo alcun alone di razzismo voluto nella faccenda. In questo caso, il colore scuro della pelle, utilizzato come metadato principale, ha indotto in errore l’app, causando il riconoscimento come gorilla. Ma certo l’imbarazzo è difficile da cancellare…