ChatGPT si rifiuta di fornire informazioni quando si chiedono dettagli su alcuni nomi di persona.
Il “glitch” è stato individuato a inizio mese cercando informazioni su “David Mayer“, un nome non gradito dall’AI e per il quale, fino a poco tempo addietro, appariva come risultato il messaggio d’errore: “I’m unable to produce a response” (“non sono in grado di rispondere”).
Ma chi è David Mayer? Se si cerca su internet si trovano varie persone, incluso un compositore, un direttore d’orchestra e un docente dell’Mit, un membro della ricchissima famiglia di banchieri Rotschild, uno storico britannico, un politico statunitense e sindaco di Gloucester Township, in New Jersey, e David Delaney Mayer, un documentarista statunitense del 1992.
Ne esistono probabilmente altri ma il blocco, spiega The Independent è legato a richieste effettuate in conformità al Regolamento generale sulla protezione dei dati EU (“GDPR“).
Alberto Puliafito, giornalista di Internazionale, spiega che in questa lista di nomi proibiti, ci sono anche Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber e altri ancora, compreso Guido Scorza, componente del collegio del garante per la protezione dei dati personali in Italia.
Interpellato sul perché non può essere citato da ChatGPT, Scorza ha spiegato: “Ho semplicemente esercitato nei confronti di OpenAi (la società che gestisce ChatGpt, ndr) “il diritto di opposizione che la vigente disciplina europea riconoscere a tutti gli interessati – ovvero le persone cui si riferiscono i dati personali – per ottenere che un trattamento iniziato in assenza di loro consenso, venga interrotto dal titolare del trattamento. Chiunque, almeno se vive in Europa, può fare altrettanto semplicemente attraverso la piattaforma utilizzata per l’erogazione del servizio ChatGpt, ottenendo, ritengo, lo stesso risultato”.
Il link per chiedere di non apparire in ChatGPT è questo (bisogna cliccare su “ChatGPT Personal Data Removal Request) ma l’eliminazione comporta in alcuni casi dei paradossi. Cercando, ad esempio, l’elenco dei componenti del collegio del garante per la privacy in Italia, ChatGpt si blocca quando deve indicare il nome di Scorza.
«Le figure pubbliche che rappresentano un’istituzione hanno i loro nomi e ruoli resi pubblici per legge», spiega Internazionale. «a loro attività e i dati essenziali sul loro incarico devono essere accessibili per garantire trasparenza e responsabilità. In questo caso, il fatto che un LLM non possa menzionare direttamente i loro nomi appare in contraddizione con questi principi».
Il rischio, come è facile immaginare, è di fornire informazioni errate o di occultarne altre senza motivo, ma anche aumentare il divario tra chi ha la capacità di eseguire determinate ricerche e chi no. Come comportarsi inoltre in caso di omonimie? Non ha senso bloccare a prescindere un nome. “Quando si evita di nominare figure pubbliche per timore di sbagliare o violare diritti, si rischia di erodere il valore stesso delle tecnologie che abbiamo inventato”, scrive ancora Internazionale. “Paradossalmente, ciò può anche alimentare confusione e dubbi sulla neutralità o efficacia di questi sistemi”. Scorza spiega che si potrebbe tenere conto di valutazioni nel rispetto dell’interesse prevalente ma il rischio è di “educare il pubblico a una confusione dei piani, ad aspettarsi da servizi come ChatGpt che facciano informazione attendibile e che ci sia verso gli LLM un’aspettativa di verità e attendibilità”.
Tutti gli articoli che parlano di Intelligenza Artificiale sono nella sezione dedicata di macitynet.
