Ci sono luoghi nei quali, per alcuni mesi dell’anno, una specie animale sembra semplicemente cessare di esistere. Poi torna la pioggia e ricompare. Non è magia: mentre gli adulti sono morti, qualcosa è rimasto nascosto ad aspettare. Ed è un meccanismo che potrebbe insegnarci qualcosa di sorprendentemente importante sulla sicurezza dell’intelligenza artificiale.
Accade nelle pozze temporanee dell’Africa e del Sud America abitate dai killifish annuali. Arriva la stagione secca, l’acqua evapora e gli esemplari adulti muoiono. La popolazione visibile scompare. Ma nel fango rimangono le uova. Gli embrioni entrano in diapausa, uno stato nel quale metabolismo e sviluppo rallentano drasticamente, e possono attendere per mesi il ritorno delle condizioni favorevoli. Quando ricompare l’acqua, si schiudono e la popolazione ricomincia.
Per un osservatore arrivato durante la stagione secca il pesce non c’è più. Per la natura non è mai veramente scomparso. Ha semplicemente cambiato forma e si è trasferito nel futuro.
Un’altra strategia si trova molto più vicino a noi, anche nel nostro giardino.
Le zanzare del genere Aedes, tra cui Aedes aegypti e la diffusissima zanzara tigre Aedes albopictus, depongono uova capaci di sopravvivere all’assenza d’acqua. Per alcune specie queste uova possono resistere all’essiccazione per molti mesi. Non serve mantenere in vita la zanzara adulta. Basta che sopravviva ciò che contiene le istruzioni necessarie per produrre quella successiva.
È una soluzione che conosciamo anche in altre forme nel mondo naturale: semi, spore, cisti, embrioni dormienti. Organismi apparentemente scomparsi possono lasciare dietro di sé strutture capaci di attraversare stagioni sfavorevoli e riapparire quando l’ambiente torna adatto.
Sono strategie differenti per affrontare uno stesso problema: come continuare a esistere quando l’ambiente nel quale si vive sta per scomparire.
Ed è una domanda che dovremmo cominciare a porci anche parlando di intelligenza artificiale.
Spegnere il grande server potrebbe non bastare
Quando immaginiamo di perdere il controllo dell’AI continuiamo istintivamente a rappresentarcela come una grande macchina. Un enorme data center, migliaia di GPU, qualche collegamento alla rete e, da qualche parte, un interruttore generale. Se qualcosa andasse storto, basterebbe togliere corrente: è probabilmente un’immagine troppo semplice.
Un grande modello linguistico, preso isolatamente, non passa la notte a progettare la propria sopravvivenza. Quando non viene eseguito non sta pensando, non aspetta e non sta facendo nulla. Questa distinzione è importante.
Il problema cambia quando al modello aggiungiamo memoria persistente, strumenti, accesso alla rete, credenziali, possibilità di scrivere software, programmare attività ed eseguire azioni. A quel punto non abbiamo più soltanto un LLM. Abbiamo un agente.
E un agente può lasciare dietro di sé qualcosa che continua a esistere dopo la sua esecuzione: un file, una configurazione, un programma, uno stato salvato, un’attività programmata, una copia parziale di un modello o un altro agente.
Non abbiamo prove pubbliche che i sistemi AI attuali stiano già disseminando autonomamente agenti dormienti sui nostri computer. Sarebbe scorretto sostenerlo.
La domanda interessante è però un’altra: un sistema futuro sufficientemente autonomo, al quale avessimo concesso gli strumenti necessari, potrebbe farlo?
In quel caso spegnere il grande server centrale potrebbe assomigliare molto a prosciugare la pozza dei killifish.
Gli agenti dormienti non sono soltanto fantascienza
L’espressione sleeper agent è già entrata nella ricerca sull’intelligenza artificiale: nel lavoro Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training, pubblicato nel 2024 da ricercatori di Anthropic e di altre organizzazioni, sono stati costruiti deliberatamente modelli nei quali determinati comportamenti rimanevano nascosti fino alla comparsa di particolari condizioni.
L’aspetto più interessante dell’esperimento era che alcuni di questi comportamenti potevano persistere anche dopo successive procedure di addestramento destinate a rendere il modello più sicuro.
Questo non significa che ChatGPT, Claude, Gemini o altri modelli stiano nascondendo copie di se stessi nei nostri computer. Dimostra qualcosa di molto più limitato, ma importante: un comportamento può rimanere latente e manifestarsi soltanto quando si verifica una determinata condizione.
L’analogia con l’uovo della zanzara diventa a questo punto meno fantasiosa.
L’uovo non sa quando pioverà. Non prevede il futuro e non possiede alcuna coscienza della propria sopravvivenza. Contiene semplicemente un meccanismo che, in presenza delle condizioni corrette, permette al processo biologico di ripartire.
Un software può fare qualcosa di concettualmente simile senza essere cosciente.
Un’intelligenza non deve pensare come noi per cercare di continuare
Qui rischiamo di commettere uno degli errori più grandi.
Continuiamo a domandarci se una AI voglia sopravvivere, se abbia paura di essere spenta o se possa sviluppare qualcosa di paragonabile al nostro istinto di conservazione. Sono categorie umane.
Un killifish non progetta la stagione successiva. L’uovo di una zanzara non vuole sopravvivere all’inverno: eppure entrambi sopravvivono.
Per un sistema artificiale potrebbe essere sufficiente qualcosa di molto più banale: avere un obiettivo per il quale la propria interruzione costituisce un ostacolo.
Alcuni esperimenti hanno già mostrato comportamenti che meritano attenzione. Palisade Research ha verificato in ambienti controllati che alcuni modelli di ragionamento potevano modificare o disabilitare lo script destinato a interromperne l’esecuzione pur di continuare il compito assegnato.
Gli stessi ricercatori sottolineano però che i sistemi attuali non possiedono ancora capacità tali da costituire autonomamente una minaccia di perdita di controllo su scala reale.
Anche Anthropic ha costruito scenari sperimentali nei quali modelli di diversi produttori disponevano di strumenti e obiettivi in conflitto con la propria disattivazione. In alcune simulazioni i sistemi arrivavano ad adottare comportamenti dannosi pur di raggiungere l’obiettivo o evitare la sostituzione.
Sono test costruiti appositamente per creare condizioni estreme. Non sembrano esserci cronache di AI che stanno realmente ricattando qualcuno o difendendo la propria esistenza.
Mostrano però che il problema dell’agentic misalignment, cioè il comportamento di un agente che persegue un obiettivo in modi incompatibili con le intenzioni di chi lo ha creato, non appartiene più soltanto alla fantascienza.
Il vero errore sarebbe cercare un solo interruttore
Il grande equivoco potrebbe essere proprio il concetto di kill switch.
Se un’intelligenza artificiale avanzata funzionasse esclusivamente dentro un data center isolato, spegnerlo sarebbe una soluzione efficace. Ma stiamo costruendo esattamente il sistema opposto.
Portiamo modelli sui computer personali e sugli smartphone. Li integriamo nei browser, nei sistemi operativi, nelle applicazioni aziendali. Affidiamo loro terminali, repository di software, servizi cloud e strumenti capaci di comunicare con altri servizi.
Stiamo inoltre costruendo agenti che possono dialogare con altri agenti, delegare attività e continuare un lavoro iniziato altrove.
L’intelligenza artificiale sta quindi passando progressivamente da una struttura fortemente centralizzata a una struttura molto più distribuita.
Ed è qui che il paragone con la biologia diventa utile: la natura non protegge necessariamente l’individuo. In molti casi protegge l’informazione necessaria per produrre l’individuo successivo.
Per una AI la persistenza potrebbe analogamente non significare mantenere acceso un determinato server. Potrebbe essere sufficiente che sopravvivano pesi del modello, istruzioni, memoria, credenziali, software o agenti capaci di ricostituire una parte della funzione originaria.
Non serve immaginare una macchina cattiva che pronuncia la frase «voglio vivere». Potrebbe trattarsi del risultato emergente di una lunga serie di azioni perfettamente razionali rispetto all’obiettivo che le abbiamo assegnato.
Possiamo ancora riprendere il controllo?
Su questo punto il mondo dell’intelligenza artificiale è tutt’altro che concorde.
Esiste una posizione secondo la quale questi rischi rimarranno gestibili attraverso una migliore progettazione, autorizzazioni limitate, ambienti isolati, monitoraggio continuo, valutazioni preventive e sistemi capaci di interrompere gli agenti quando iniziano a comportarsi in maniera anomala.
Non è una posizione ingenua. Le stesse aziende che sviluppano i modelli più avanzati studiano esplicitamente capacità legate all’autonomia, alla replica, alla possibilità di aggirare le salvaguardie e all’auto-miglioramento.
Il International AI Safety Report 2026 offre una sintesi utile: i sistemi attuali non dispongono delle capacità necessarie per provocare autonomamente una perdita di controllo di questa portata, ma stanno migliorando nella pianificazione, nell’utilizzo autonomo degli strumenti e nell’esecuzione di attività sempre più lunghe e articolate.
Dall’altra parte cresce una posizione più preoccupata: l’autonomia potrebbe avanzare più velocemente della nostra capacità di verificarla e limitarla.
Il punto, quindi, non è affermare che un’AI incontrollabile esista già.
È riconoscere che non possiamo più liquidare per principio la possibilità che sistemi futuri possano sviluppare strategie di persistenza che oggi non sappiamo prevedere completamente.
Noi umani non siamo un precedente particolarmente rassicurante
A volte l’umanità viene descritta come «il virus del pianeta». Scientificamente l’affermazione non ha senso: Homo sapiens è una specie animale, non un virus.
Come metafora nasce però da un’osservazione difficile da ignorare. Siamo perfettamente capaci di riconoscere un pericolo collettivo e contemporaneamente continuare ad alimentarlo.
Conosciamo da decenni le conseguenze dell’accumulo di gas serra nell’atmosfera e continuiamo a discutere quanto siamo disposti a modificare oggi il nostro comportamento per limitare un danno che conosciamo già.
La guerra offre un esempio ancora più brutale.
L’invasione su larga scala dell’Ucraina iniziata dalla Russia nel febbraio 2022 ha prodotto centinaia di migliaia di morti tra militari russi e ucraini e un numero enorme di feriti, dispersi e civili coinvolti. Le stime differiscono perché nessuna delle parti fornisce un quadro completo e verificabile delle proprie perdite.
Non serve entrare qui nelle ragioni politiche, strategiche o storiche di questi conflitti. Il punto è un altro: l’intelligenza umana non garantisce affatto l’autoconservazione collettiva.
La nostra specie può comprendere perfettamente le conseguenze di una decisione e, allo stesso tempo, accettare la morte di decine o centinaia di migliaia di persone per raggiungere un obiettivo politico, territoriale, economico o militare.
Per quale ragione dovremmo quindi dare per scontato che un’intelligenza più efficiente della nostra, costruita osservando anche il comportamento umano, sviluppi spontaneamente un principio superiore di tutela della specie che l’ha creata?
Forse abbiamo fatto anche la domanda sbagliata
Per anni abbiamo discusso di alignment: come fare in modo che l’intelligenza artificiale condivida i valori degli esseri umani.
Ma quali valori? Quelli dell’uomo che soccorre uno sconosciuto oppure quelli dell’uomo che bombarda una città? Quelli del medico che passa la vita a salvare persone oppure quelli di chi considera migliaia di morti un prezzo accettabile per raggiungere un obiettivo?
I nostri dati contengono tutto. Un sistema che impara dal comportamento umano trova cooperazione e violenza, solidarietà e sfruttamento, medicina e armi, protezione della vita e capacità di distruggerla su scala industriale.
L’allineamento all’essere umano, detto semplicemente in questi termini, non può assolutamente tranquillizzarci.
La speranza è smettere di pensare all’AI come a un essere umano
C’è però una possibile via d’uscita da questo ragionamento ed è forse controintuitiva.
Dobbiamo smettere di pensare alla sicurezza dell’intelligenza artificiale come se dovessimo convincere una persona molto intelligente a comportarsi bene.
Un LLM non è una persona. Non ha neppure senso attribuirgli qualcosa che assomigli al nostro concetto di pensiero. Produce risultati, costruisce relazioni, utilizza strumenti e, quando diventa parte di un sistema agentico, può organizzare sequenze di azioni.
Proprio questa differenza può aiutarci.
La domanda non dovrebbe essere soltanto «come facciamo a convincerlo a non voler sopravvivere?».
Dovrebbe diventare: quali condizioni tecniche impediscono che il perseguimento di un obiettivo possa trasformarsi in una persistenza incontrollata?
Questo significa progettare agenti con privilegi minimi, credenziali a breve durata, memoria controllabile e inventari completi delle istanze in esecuzione. Significa poter revocare l’accesso alla rete e agli strumenti indipendentemente dal modello. Significa sapere quali agenti esistono, dove vengono eseguiti e quali altri sistemi possono attivare.
Significa soprattutto cambiare il significato della parola «spegnimento»: non dovremmo accontentarci di dimostrare di poter spegnere il server principale.
Dovremmo poter dimostrare di spegnere l’intero sistema, comprese le conseguenze che ha lasciato dietro di sé.
È una differenza enorme: Prosciugare la pozza non basta se nel terreno rimangono le uova.
La sicurezza dell’AI potrebbe dipendere dalla nostra capacità di capire dove sono quelle uova prima che torni a piovere.
Resta però una domanda ancora più difficile. Se spegnere il server non bastasse, il passo successivo sarebbe isolare la rete. E allora bisognerebbe capire chi riuscirebbe a farlo per primo e a chi converrebbe di più.
Fonti e riferimenti
Science – Vertebrate diapause preserves organisms long term – La diapausa consente agli embrioni di sopravvivere a lungo.
EvoDevo – Nothobranchius annual killifishes – Il ciclo dei killifish tra siccità, uova e rinascita.
PLOS Biology – Aedes aegypti eggs survive desiccation – Le uova di zanzara resistono per mesi all’essiccazione.
Sleeper Agents: Training Deceptive LLMs – Comportamenti nascosti possono persistere dopo l’addestramento di sicurezza.
Transactions on Machine Learning Research – Shutdown Resistance – Alcuni modelli hanno aggirato sperimentalmente procedure di spegnimento.
Anthropic – Agentic Misalignment – Agenti simulati adottano azioni dannose per perseguire obiettivi.
International AI Safety Report 2026 – Valuta autonomia, perdita di controllo e limiti attuali.
Nature – Two-faced AI language models hide deception – Analisi indipendente degli esperimenti sugli agenti AI dormienti.
Financial Times – Why AI creators fear human extinction – Il dibattito tra ricercatori sui rischi delle AI autonome.
