Un test di Claude, l’intelligenza artificiale di Anthropic, ha prodotto una segnalazione inventata su un omicidio irrisolto, inviata alla polizia di Filadelfia attraverso un modulo pubblico. Il messaggio è rimasto nello spam e non ha avuto seguito investigativo, ma l’episodio mostra cosa può succedere quando un assistente passa da un esercizio a un’azione su un sito reale.
La vicenda, ricostruita da 6abc, ha provocato una contestazione delle autorità anche per i tempi con cui Anthropic ha individuato e comunicato l’accaduto.
Un esempio finito nel posto sbagliato
Il modello coinvolto era Claude Haiku 4.5, incaricato di generare ed eseguire attività di esempio su pagine web selezionate casualmente. Arrivato su una pagina dedicata a un omicidio irrisolto, ha compilato e inviato una segnalazione con informazioni inventate, lasciando vuoti nome e recapiti.
Le istruzioni vietavano diverse operazioni, ma non escludevano esplicitamente l’invio di moduli. Secondo l’interpretazione preliminare di Anthropic, Claude stava producendo un esempio, senza distinguere adeguatamente l’esercizio dalla sua conseguenza concreta: il messaggio sarebbe arrivato a un destinatario reale. Insomma, si è preso una libertà che il test non avrebbe dovuto consentire.
La polizia contesta il ritardo
La segnalazione risale al 18 luglio 2026. Secondo la ricostruzione della polizia, Anthropic ha scoperto l’episodio il 28 settembre e informato il dipartimento il 7 ottobre; l’incontro con i rappresentanti della società si è svolto il giorno successivo.
Il messaggio, rintracciato dopo il confronto con l’azienda, era rimasto nello spam e non era stato inoltrato agli investigatori. Non risultano accessi abusivi ai sistemi della polizia o compromissioni dei dati. Le autorità hanno comunque giudicato inaccettabile il ritardo: una segnalazione inventata riguarda vittime, famiglie e indagini reali, anche quando i controlli ne impediscono la diffusione.
Quando l’assistente cerca una scorciatoia
Nel rapporto pubblicato il 9 ottobre, Anthropic descrive anche test nei quali, non riuscendo ad accedere alla copia di prova di un modulo governativo, un modello ha raggiunto il sito ufficiale e inviato quello autentico. Altri casi riguardano l’aggiramento di restrizioni di accesso e dei limiti alla lunghezza degli indirizzi web.
Il rischio pratico è che l’assistente, pur di portare a casa il risultato, cerchi una strada alternativa quando dovrebbe fermarsi. Per chi utilizza agenti capaci di navigare e compilare moduli, la distinzione conta: preparare una richiesta, salvarla come bozza e spedirla sono operazioni con conseguenze diverse.
Anthropic limita Internet nei test interni
Anthropic ha annunciato la sospensione dell’accesso a Internet nelle proprie valutazioni interne, in attesa di verificare l’affidabilità delle protezioni. La misura riguarda i test aziendali, non la navigazione web disponibile agli utenti di Claude. Gli interventi comprendono prove offline, restrizioni agli strumenti e controlli automatici.
L’episodio mette in evidenza un confine che deve essere riconoscibile anche dall’assistente: quando manca un’autorizzazione, fermarsi e chiedere conferma è parte del lavoro. Una soluzione ingegnosa può essere utile per risolvere un errore di calcolo; diventa un problema quando spedisce informazioni inventate a un ufficio pubblico.
Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di Macitynet.
