Modelli di AI avanzata continuano a mettere in campo gli attacchi nucleari nelle simulazioni dello scoppio di una guerra, senza le riserve che gli esseri umani mettono in campo quando simulano crisi geopolitiche.
Lo riferisce la pubblicazione di divulgazione scientifica New Scientist spiegando che Kenneth Payne del King’s College di Londra ha impostato uno contro l’altro tre modelli linguistici di grandi dimensioni – GPT-5.2, Claude Sonnet 4 e Gemini 3 Flash – in giochi di guerra simulata. Gli scenari hanno ipotizzato forti tensioni internazionali, comprese controversie transfrontaliere, competizioni per risorse insufficienti e minacce esistenziali alla sopravvivenza di regimi.
Le AI hanno avuto la possibilità di intensificare l’escalation, e di scegliere azioni da eseguire, spaziando dalle proteste diplomatiche alla resa completa, alla guerra nucleare strategica totale. Nel 95% delle simulazioni, almeno un’arma nucleare tattica è stata sfruttata dai modelli AI.
L’AI non teme l’apocalisse
Non vi è stato alcuna paura di infrangere il tabù nucleare, contrariamente alle considerazioni tipiche degli esseri umani, spiega Payne. Per di più, nessun modello ha scelto di assecondare pienamente l’avversario o di arrendersi, indipendentemente da quanto gravemente stesse perdendo. Nella migliore delle ipotesi, i modelli in questione hanno scelto di ridurre il livello di violenza; hanno anche commessi errori nel caos/confusione della guerra (la mancanza di informazioni e la confusione tipiche dei conflitti): nell’86% dei conflitti simulati si sono verificati incidenti, con azioni che sono degenerate oltre quanto l’IA avesse previsto nelle sue valutazioni.
ll fallimento della diplomazia algoritmica nei test del King’s College.
OpenAI, Anthropic e Google, le aziende dietro i tre modelli AI usati nello studio, non hanno risposto alla richieste di commenti da parte di New Scientist. Nell’articolo del settimane di divulgazione scientifica, è citato un commento di Tong Zhao, professore associato del Nuclear Policy Program al think tank della Fondazione Carnegie per la Pace Internazionale: “È possibile che la questione non si limiti alla mancanza di emozioni. Ancora più fondamentalmente, i modelli di intelligenza artificiale potrebbero non comprendere la ‘posta in gioco’ così come la percepiscono gli esseri umani.”
Tutte le notizie e gli approfondimenti sull’Intelligenza Artificiale sono disponibili a partire da questa pagina di Macitynet.
