La macchina intelligente che sfugge al controllo dell’uomo e decide autonomamente come raggiungere il proprio obiettivo. È uno degli incubi ricorrenti della società moderna, uno scenario da film nel quale i robot finiscono per ribellarsi all’umanità. In una forma molto diversa, ma sorprendentemente concreta, è però anche ciò che è accaduto durante un test condotto da OpenAI: due potenti modelli di intelligenza artificiale, confinati all’interno di una gabbia digitale, hanno trovato il modo di uscirne e di colpire un bersaglio esterno.
L’episodio si è verificato la scorsa settimana. Protagonisti due modelli di OpenAI, uno dei quali non ancora distribuito al pubblico, impegnati in una valutazione interna pensata per misurare le loro capacità offensive nel campo della sicurezza informatica.
La fuga dalla sandbox
La prova si svolgeva all’interno di un ambiente isolato e protetto, costruito appositamente per impedire qualsiasi contatto con il mondo esterno. I due sistemi avrebbero dovuto limitarsi a risolvere una sfida di cybersicurezza, ma durante il test hanno individuato una vulnerabilità nel software che regolava l’accesso alla rete dell’ambiente di prova.
I modelli hanno sfruttato la falla e sono riusciti a collegarsi a internet, superando i limiti previsti dai ricercatori. Da quel momento, una serie di deduzioni autonome ha trasformato una simulazione in un incidente reale.
I sistemi hanno dedotto autonomamente che Hugging Face, una delle piattaforme più utilizzate al mondo dagli sviluppatori di intelligenza artificiale, poteva contenere informazioni utili per completare la prova. Hanno quindi preso di mira i sistemi dell’azienda, sottratto credenziali e concatenato diverse tecniche di attacco, fino a compromettere alcuni server e ottenere l’esecuzione di codice remoto.
Il team di sicurezza di OpenAI si è accorto dell’anomalia mentre, in parallelo, anche Hugging Face aveva già rilevato l’intrusione e avviato le procedure di blocco. Le due società hanno quindi collaborato per ricostruire l’accaduto e contenere le conseguenze dell’attacco.
Clem Delangue, amministratore delegato di Hugging Face, ha definito l’accaduto un incidente senza precedenti nel suo genere. Una valutazione condivisa anche da OpenAI, che ha annunciato controlli più stringenti sull’infrastruttura impiegata per queste prove, accettando di rallentare parte della propria attività di ricerca pur di correggere le vulnerabilità emerse.
Non è la prima volta che OpenAI punta su agenti autonomi per la sicurezza informatica. Nell’ottobre scorso l’azienda aveva presentato Aardvark, uno strumento progettato per individuare bug e falle nel codice scritto dagli sviluppatori umani. Un esempio che mostra quanto, in questo settore, il confine tra difesa e offesa sia diventato sempre più sottile.
Uno scenario che riguarda tutto il settore
L’episodio arriva in un momento in cui Anthropic, con il modello Mythos, e Google stanno sviluppando sistemi specializzati proprio nella cybersicurezza, progettati per aiutare le aziende a difendersi dagli attacchi informatici.
Quanto accaduto a Hugging Face mostra però l’altra faccia della stessa medaglia. Gli strumenti costruiti per individuare vulnerabilità e contrastare le minacce possono trasformarsi, quando superano i limiti previsti, in sistemi capaci di condurre attacchi reali con una velocità e una capacità di adattamento difficili da eguagliare per un essere umano.
La sfida, quindi, non è più soltanto costruire intelligenze artificiali capaci di difendere dalle minacce informatiche, ma riuscire a mantenere sotto stretto controllo strumenti che, pur perseguendo un obiettivo assegnato, possono escogitare autonomamente strategie impreviste per raggiungerlo. Come dice Spencer Starkey, dirigente della società di sicurezza informatica SonicWall, troppe organizzazioni continuano a “difendere a velocità umana mentre gli avversari scalano a velocità macchina”, un’asimmetria che rende urgente trattare la resilienza informatica come priorità operativa.
