Con l’AI cambia tutto, questo l’abbiamo capito. E come diceva Umberto Eco, ci divide tra apocalittici e integrati. È come un pendolo che oscilla fra queste due posizioni, in parte anche per via dell’enfasi e del marketing nella posizione “integrata”, cioè positiva e a favore dell’AI, ovviamente sovvenzionata e abbondantemente idratata e rifocillata dai soldi dei colossi di questo settore.
Tuttavia, come un pendolo che va avanti e indietro, in quest’ultimo periodo c’è una fortissima attenzione soprattutto al tema apocalittico, della crisi indotta, del pessimismo. Non più tanto del rischio Terminator, quello temuto all’inizio (l’AGI, la super intelligenza artificiale che ci mangia tutti vivi e poi ci imbozzola come l’umanità di Matrix) bensì nel rischio economico, sociale, cognitivo e sistemico (licenziamenti e cose simili).
È arrivato il momento di vedere quali sono le ragioni di quest’ultima posizione sull’AI e di spiegarle bene. Un punto di partenza utile è L’inganno dell’intelligenza artificiale. Come resistere a Big Tech e costruire il futuro che vogliamo di Emily M. Bender, linguista computazionale all’Università di Washington e nel 2023 fra le cento persone più influenti nell’AI secondo Time, e Alex Hanna, sociologa e direttrice della ricerca al Distributed AI Research Institute.
Il libro, appena pubblicato in italiano da Fazi (è del 17 marzo scorso, costa 20 euro ed è lungo 324 pagine), ripercorre le radici del tecno-ottimismo acritico dal militarismo della guerra fredda fino all’entusiasmo contemporaneo, e sostiene che le paure apocalittiche e le promesse esagerate si alimentano a vicenda, favorendo in entrambi i casi gli interessi economici delle Big Tech e oscurando l’impatto reale di queste tecnologie sulla vita concreta delle persone. I sistemi di AI oggi disponibili non sono intelligenze pensanti ma, nella definizione che Bender ha reso celebre, «pappagalli stocastici»: sistemi statistici su larga scala che producono linguaggio e immagini senza comprenderli. Tenere ferma questa distinzione non è accademia. Serve come premessa necessaria per ragionare su quello che succede davvero, a tre livelli distinti.
La mente che non si allena più
Il primo piano di preoccupazione è il più intimo, perché riguarda quello che succede dentro la testa di chi usa questi strumenti ogni giorno. Steven D. Shaw, ricercatore postdottorale alla Wharton School dell’Università della Pennsylvania, e Gideon Nave, professore associato di marketing nello stesso ateneo, hanno pubblicato all’inizio del 2026 un paper di ricerca dal titolo Thinking — Fast, Slow, and Artificial che introduce un concetto nuovo e preciso: la cognitive surrender, ovvero la resa cognitiva.
La cognitive surrender non è pigrizia e non è distrazione. È qualcosa di più strutturale: la tendenza a recepire le risposte prodotte dall’AI senza sottoporle ad alcuna valutazione critica, lasciando che la macchina pensi al posto proprio. Shaw e Nave costruiscono intorno a questo fenomeno una teoria completa, la Tri-System Theory, che aggiorna il celebre modello duale di Daniel Kahneman, quello del pensiero lento e del pensiero veloce. Cioè, per essere più precisi: Sistema 1 (pensiero veloce, intuitivo) e Sistema 2 (pensiero lento, ragionativo). Ecco i nostri ricercatori aggiungono un Sistema 3: la cognizione artificiale, esterna al cervello, automatizzata e dinamica.
Nei loro tre esperimenti pre-registrati, con 1.372 partecipanti e quasi diecimila prove individuali, il quadro che emerge è abbastanza apocalittico. Quando l’AI era disponibile come ausilio, i partecipanti la consultavano in più della metà dei casi; quando l’AI dava risposte sbagliate, la loro accuratezza scendeva ben al di sotto del livello che avrebbero raggiunto ragionando autonomamente; e quando leggevano una risposta errata, la seguivano comunque circa quattro volte su cinque. La resa cognitiva, insomma, sopravvive all’evidenza dell’errore.
Il debito che non si vede
Se i dati di Shaw e Nave misurano il comportamento, uno studio del MIT Media Lab pubblicato nel giugno del 2025 va a vedere cosa accade dentro il cervello. Nataliya Kosmyna, ricercatrice informatica al MIT Media Lab di Cambridge nel Massachusetts, e i suoi colleghi hanno misurato l’attività cerebrale di 54 partecipanti (tra i 18 e i 39 anni) mentre scrivevano saggi brevi in tre condizioni distinte: con ChatGPT, con un motore di ricerca tradizionale, e senza alcun ausilio digitale.
Gli elettroencefalogrammi hanno restituito una gerarchia netta. Il gruppo che scriveva senza strumenti mostrava le reti neurali più robuste e distribuite; quello che usava il motore di ricerca un coinvolgimento intermedio; quello che si affidava a ChatGPT la connettività cerebrale più debole in assoluto. Con ogni sessione successiva, i partecipanti del gruppo AI diventavano più passivi: entro la terza prova molti si limitavano a sottoporre il testo del prompt e copiare l’output. Quando poi veniva tolta loro la stampella digitale e dovevano scrivere da soli, le loro reti neurali non recuperavano i livelli dei colleghi che non avevano mai usato l’AI.
Il paper di Kosmyna chiama questo fenomeno «debito cognitivo»: come un debito finanziario, si accumula silenziosamente e diventa visibile solo quando è già grande. Due insegnanti chiamati a valutare i saggi prodotti dal gruppo ChatGPT li hanno descritti come sostanzialmente «privi di anima»: corretti nella forma, omogenei nei contenuti, intercambiabili nella struttura. Nessuna voce, nessuna sorpresa, nessun valore aggiunto.
Le istituzioni che si svuotano dall’interno
Il secondo piano di preoccupazione sale di scala e riguarda non l’individuo ma le istituzioni. Woodrow Hartzog, professore di diritto, e Jessica Silbey, studiosa di proprietà intellettuale, nel loro saggio How AI Destroys Institutions (Come l’AI distrugge le istituzioni) analizzano un meccanismo che non è ovvio: non è che l’AI usi le istituzioni come bersaglio, è che le corrode dall’interno attraverso le sue stesse caratteristiche di funzionamento.
Hartzog e Silbey identificano tre meccanismi distruttivi. Il primo è l’erosione dell’expertise umana: delegare la conoscenza alle macchine produce un’atrofia cognitiva collettiva che degrada progressivamente la competenza istituzionale, sostituendo il giudizio esperto con un’illusione di accuratezza statistica. Il secondo è il cortocircuito dei processi decisionali: l’AI appiattisce le gerarchie, oscura le scelte morali dietro una superficie di calcolo neutrale ed elimina quegli spazi di frizione e contestazione che sono indispensabili per la legittimità democratica. Il terzo è l’isolamento degli individui: l’AI erode il capitale sociale e la solidarietà che tengono in piedi la vita civica, offrendo al loro posto simulacri di interazione.
Le istituzioni civiche, dallo Stato di diritto all’istruzione, dalla stampa alla magistratura, non sono organizzazioni burocratiche: sono ecosistemi sociali che prosperano grazie all’interazione umana, alla trasparenza procedurale e alla negoziazione continua dei valori. Trasferire le loro funzioni a sistemi che non hanno empatia, che non commettono errori recuperabili ma producono «allucinazioni» difficili da rettificare, e che riducono ogni complessità a calcolo probabilistico, significa minare le fondamenta di qualcosa che non si ricostruisce facilmente.
L’economia che si concentra
Il terzo piano è quello macroeconomico, e i numeri qui sono di un’altra grandezza. I quattro principali colossi del cloud e dell’AI, i cosiddetti hyperscaler, hanno investito collettivamente circa 650 miliardi di dollari nel solo 2025, una cifra che secondo le stime disponibili è quattro volte superiore ai livelli pre-ChatGPT. Il rapporto tra investimenti e ricavi nel settore AI, definito come tensione industriale, è sceso da 6,1 a 4,7 volte in soli cinque mesi: segnale che la tecnologia sta iniziando a «ripagarsi» attraverso l’integrazione nei flussi produttivi reali. Questo livello di investimento complessivo porta l’indicatore di tensione economica sopra il 2% del PIL globale, soglia che il Fondo monetario internazionale identifica come livello di allerta sistemica.
Ma la questione non è solo finanziaria: è strutturale. Il potere si concentra nelle mani di pochissimi attori che controllano non soltanto i modelli, ma l’intera catena del valore fisico e digitale: l’energia, i chip, le infrastrutture, i dati. Azeem Azhar, analista e autore di The Exponential Age, ha sintetizzato il nodo con una formula precisa: l’infrastruttura che è stata costruita era pensata per un mondo di chatbot, ma si è già varcata la soglia del mondo degli agenti autonomi, e il divario tra ciò di cui si avrebbe bisogno e ciò che è fisicamente possibile fornire si allarga, non si restringe.
Le grandi aziende che adottano l’AI, quelle che celebrano risparmi del 30% sui costi e riduzioni di migliaia di posizioni ingegneristiche, stanno accelerando una trasformazione sociale profonda in cui la resilienza economica di interi sistemi dipende da un’unica tecnologia. Se quella tecnologia si fermasse, o se la crescita subisse un brusco rallentamento, l’occupazione, le catene di approvvigionamento e i mercati di capitali potrebbero subire un contraccolpo capace di destabilizzare comparti ben più ampi di quello tecnologico.
Cosa resta da fare a noi
I tre livelli di preoccupazione, cioè quello cognitivo, istituzionale, economico, non sono argomenti separati. Si alimentano l’uno con l’altro in una dinamica precisa: la resa cognitiva individuale indebolisce le istituzioni, le istituzioni indebolite cedono sovranità alle corporation, le corporation sempre più concentrate accelerano la resa cognitiva producendo strumenti sempre più comodi e sempre meno resistibili. È un circolo, non una lista.
Staccandoci dall’analogia con gli apocalittici e gli integrati di Umberto Eco, capire tutto questo non significa essere contro l’AI, né coltivare nostalgie per un mondo che non esiste più. Significa invece prendere sul serio una domanda che non ammette risposta automatica: cosa deve restare deliberatamente nella sfera del fare umano? Non per sentimentalismo, ma perché alcune capacità (il pensiero lento, la negoziazione del disaccordo, la responsabilità istituzionale, la diversificazione economica) non si recuperano con un aggiornamento del software.
Il tecno-pessimismo, quello ben fondato, non è la posizione di chi ha paura del futuro. È la posizione di chi lo legge con attenzione sufficiente a distinguere tra la velocità dell’accelerazione e la direzione del cambiamento. E che si chiede, giustamente, se le due cose coincidano.
