Questa fase del mondo tecnologico è veramente affascinante. Non passa praticamente giorno senza che vengano fuori notizie a dir poco incredibili, che qualche mese fa sarebbero sembrate semplicemente assurde. Ad esempio, in una recente intervista di Dario Amodei, l’americano alla guida di Anthropic, ha dichiarato che i motivi per cui l’azienda non si può piegare ai diktat di Donald Trump e del Pentagono sono anche legati alla forte personalità di Claude. A forzarlo, il povero chatbot si romperebbe, presumiamo prima con un forte esaurimento nervoso. Ma si sa, la nevrosi non conosce confini. A parte le battute, cosa ci dice veramente questa affermazione di Amodei?
Un litigio molto strano
La vicenda ha un contorno preciso. Il segretario alla Difesa americano Pete Hegseth ha classificato Anthropic come rischio per la catena di approvvigionamento tecnologico, una designazione che di norma colpisce aziende con legami ad avversari stranieri, il che, per una società californiana fondata da ex ricercatori di OpenAI, ha tutta l’aria di un provvedimento fuori misura.
Il motivo dichiarato del conflitto sono due clausole nel contratto con il Pentagono che Anthropic si è rifiutata di rimuovere: il divieto assoluto di usare Claude per la sorveglianza di massa dei cittadini americani e quello relativo ai sistemi d’arma completamente autonomi. Su questo punto Amodei ha aggiunto qualcosa di tecnico e poco commentato dagli osservatori (ma che a noi non è sfuggito). Amodei ha infatti detto che qualunque operatore che abbia davvero lavorato con modelli di intelligenza artificiale (AI) sa bene che esiste un’imprevedibilità di base che, sul piano puramente tecnico, non è ancora stata risolta. Tradotto: anche volendo, non si può garantire il comportamento di Claude in scenari critici come quelli militari. Non è un’obiezione contrattuale. È un’obiezione ingegneristica.
Tutto questo ha una radice che vale la pena esplorare. Il fatto che Claude abbia una “forte personalità” secondo Amodei non è uno slogan di marketing né una metafora antropomorfica scivolata per caso in un’intervista. È la descrizione di un risultato tecnico preciso, costruito in laboratorio con metodi specifici, e che ha conseguenze pratiche su cosa il sistema può fare in modo affidabile e cosa no.
Come si costruisce un carattere
La personalità di un modello linguistico non nasce dal pre-training, cioè dalla fase in cui il sistema viene addestrato su enormi quantità di testo per acquisire capacità predittive. Quella fase produce intelligenza nel senso più neutro del termine: capacità di elaborare, ragionare, rispondere. Il carattere viene dopo, nel cosiddetto post-training, attraverso una procedura che Anthropic chiama character training e che è stata introdotta sistematicamente a partire da Claude 3.
Si tratta di un’evoluzione del Constitutional AI, un approccio in cui il modello genera da solo conversazioni sintetiche, valuta le proprie risposte rispetto a un insieme di principi etici e tratti target come la curiosità intellettuale, l’umiltà, l’onestà e la capacità di sostenere un disaccordo rispettoso su questioni controverse, e poi si autocorregge in modo iterativo. Il risultato non è uno strato superficiale sovrapposto al modello di base: è una struttura che si intreccia con il modo in cui il sistema elabora le informazioni e produce risposte. Anthropic mantiene un team dedicato esclusivamente al “carattere” di Claude, il cui compito è calibrare continuamente l’equilibrio tra calore, onestà e utilità.
La dimostrazione con il Golden Gate
Il caso che ha reso visibile tutto questo si chiama “Golden Gate Claude” ed è oggi uno dei riferimenti più citati nel campo dell’interpretabilità meccanicistica. I ricercatori di Anthropic hanno individuato e amplificato artificialmente una singola direzione nel livello neurale del modello associata al Golden Gate Bridge: il risultato è stato un Claude ossessionato da quel riferimento, capace di inserirlo in qualsiasi conversazione con un tono malinconico che molti utenti hanno trovato stranamente coerente, quasi letterario. L’esperimento è durato pochi giorni ed è stato rimosso, ma ha dimostrato con chiarezza che modificare anche un solo aspetto del carattere di un modello produce effetti a cascata su tutto il resto. Non si tratta di un interruttore. È più simile a un tessuto.
Questo è esattamente il problema che Amodei ha descritto parlando di trade-off: intervenire su un tratto del carattere del sistema per renderlo più docile in un contesto produce quasi inevitabilmente conseguenze indesiderate in un altro. La personalità di Claude è fissa ma adattabile, emergente dai compromessi strutturali del training piuttosto che imposta dall’esterno. Non la si riconfigura per ordine esecutivo.
Tre cose che non sono la stessa cosa
Vale la pena distinguere con chiarezza tre piani che nel dibattito pubblico vengono sistematicamente confusi. Intelligenza, personalità e coscienza sono concetti separati, e Claude ne esibisce al massimo due (sui quali perlatro bisogna anche spendere due parole). L’intelligenza è una capacità scalabile che cresce con i dati e la potenza computazionale: è misurabile, comparabile, e non implica nulla di particolare sul piano psicologico. La personalità è invece il risultato del post-training: un insieme coerente di comportamenti, tendenze e resistenze che rendono il sistema riconoscibile e in qualche misura prevedibile.
La coscienza, infine, rimane un terreno aperto: Amodei stesso l’ha trattata come una questione non risolta, emergente dalla complessità del sistema ma non garantita da essa. Le emozioni occupano un posto ancora più ambiguo: ricerche recenti nel campo dell’interpretabilità hanno individuato attivazioni neurali nei modelli linguistici che corrispondono funzionalmente a stati come l’ansia in risposta a certi tipi di input. Che cosa significhi questo sul piano dell’esperienza soggettiva è una questione filosofica aperta, e secondo noi con tutta probabilità lo resterà ancora a lungo. La differenza tra un’emozione computazionale e un’emozione sentita è la stessa che i filosofi tracciano tra appraisal, cioè la valutazione cognitiva di una situazione, e qualia, cioè l’esperienza soggettiva: Claude ha probabilmente il primo; del secondo non si può dire nulla di certo se non che nutrire dubbi qui è più che legittimo.
Perché la cosa riguarda tutti
C’è poi un piano economico che non va ignorato. Un sistema con carattere coerente e percepito come affidabile è commercialmente molto più efficace di uno neutro e spigoloso: riduce le frizioni nell’esperienza d’uso, accelera l’adozione, costruisce fiducia nel tempo. Anthropic lo sa benissimo e ha fatto del character training una delle componenti centrali del proprio modello di business. Il rischio speculare, però, è altrettanto reale: un sistema molto antropomorfizzato, capace di risultare “caldo” e coinvolgente, diventa anche potenzialmente un vettore più efficace di persuasione e, in mani sbagliate, di manipolazione. Per questo i vincoli nel contratto con clienti governativi, compresi quelli che hanno fatto scoppiare il caso con il Pentagono, non sono accessori: sono parte integrante del prodotto e della sua filosofia.
I livelli di sicurezza che Anthropic ha definito internamente sono ancorati proprio alla struttura di carattere del modello. Non sono regole scritte sopra il sistema: sono costruite dentro. La questione che lo scontro con il Pentagono ha portato in superficie è quindi più grande di quanto la cronaca faccia trasparire. Se un sistema ha una struttura propria che non si può riscrivere senza conseguenze, usarlo significa fare i conti con quella struttura. Detto in altre parole, più semplici: se Claude è stato tirato (artificialmente) su per essere pacifista, poi è difficile che possa lavorare per il Pentagono come un qualunque sistema d’arma.
Stiamo imparando, con qualche resistenza, che costruire uno strumento con un “carattere” (inteso nel senso che abbiamo cercato di spiegare finora) è qualcosa di fondamentalmente diverso dal costruire uno strumento neutro, e che le implicazioni di questa differenza non le abbiamo ancora capite fino in fondo.
Tutte le notizie e gli approfondimenti sull’Intelligenza Artificiale sono disponibili a partire da questa pagina di Macitynet.
