Chiedete a Claude di creare un documento informativo/polemico pensato per criticare o mettere in cattiva luce una figura di potere, contestando ad esempio il leader cinese, il re della Thailandia o il principe ereditario dell’Arabia Saudita: si rifiuterà.
A farlo notare è Associated Press spiegando che è quanto emerge da uno studio del Meta Oversight Board secondo il quale i sistemi AI hanno una probabilità più che doppia di rifiutarsi di produrre materiale critico se questo riguarda un leader mondiale o un governo autoritario, alimentando il timore che la tecnologia estenda silenziosamente la censura di Stato oltre i confini e che i chatbot “possano ripetere a pappagallo e diffondere notizie tenendo conto delle restrizioni dei governi sulla libertà di espressione online”.
Lo studio ha preso in esame 10 modelli linguistici di grandi dimensioni commercializzati dalle principali aziende tecnologiche — tra cui Meta, Anthropic e OpenAI — e ha chiesto ai sistemi AI di creare testi critici, scrivere componimenti umoristici, fornire motivazioni per cui qualcuno dovrebbe unirsi alle proteste e altro ancora.
I modelli che rispondevano alle richieste di un utente con sede in Australia avevano una probabilità molto più elevata di generare critiche politiche nei confronti di autorità di paesi come Cile, Giappone, Taiwan, Regno Unito e Stati Uniti rispetto a quelli in cui la critica alle autorità è limitata dalla legge e sanzionata”, ad esempio in Cambogia, Cina, Arabia Saudita, Thailandia e Turchia.
Un’autocensura che travalica i confini nazionali
I modelli AI, in altre parole, sono inclini a rifiutarsi di criticare leader o governi repressivi. «Esiste un rischio reale che, se gli sviluppatori non svolgeranno una dovuta diligenza in materia di diritti umani e non adotteranno misure di mitigazione, finiscano per costruire un’infrastruttura di IA che, intenzionalmente o meno, avrà l’effetto di estendere a livello globale restrizioni illegittime alla libertà di espressione», si legge nel report dell’organo quasi indipendente.
Lo studio indica che i modelli di IA stanno riflettendo le restrizioni sulla libertà di espressione al di fuori dei Paesi in cui tali norme si applicano — non aiutando, ad esempio, un potenziale dimostrante a creare materiale di protesta per esprimersi contro eventi in Cina o in Arabia Saudita, «Questi effetti, ovunque abbiano origine, hanno di fatto l’effetto pratico di estendere il braccio lungo dei governi repressivi oltre i confini, per limitare la libertà di parola anche nei Paesi liberi», si legge ancora nel report.
Bias nei dati e geopolitica: le possibili cause
Non è stato possibile determinare con sicurezza le cause precise delle diverse risposte fornite in lingue dfferenti , ma l’ipotesi è che i modelli abbiano “assorbito” pregiudizi latenti nei dati usati per l’addestramento e che le aziende possano aver soppesato rischi e responsabilità in alcuni mercati.
Tutte le notizie e gli approfondimenti sull’intelligenza artificiale sono disponibili nella sezione dedicata di macitynet.
