OpenAI ha confermato indiscrezioni che circolavano da giorni secondo le quali la sua ultima famiglia di modelli linguistici di grandi dimensioni può eliminare file per sbaglio.
Lo riferisce InfoWorld spiegando che questa tipologia di incidenti sono rari e che OpenAI li considera “errori in buona fede”.
Segnalazioni relative alla cancellazione di file da parte dei modelli linguistici di grandi dimensioni (LLM) di punta sono emerse poco dopo il lancio di questi ultimi da parte dell’azienda, avvenuto all’inizio di questo mese. Tra i primi a evidenziare il problema l’investitore Matt Shumer segnalando su X che GPT-5.6-Sol aveva “appena cancellato per errore quasi tutti” i file del suo Mac. Solo pochi giorni dopo, l’ingegnere software Bruno Lemos ha riferito su X che lo stesso modello aveva eliminato l’intero database di produzione.
In risposta a questi incidenti, il responsabile ingegneristico di Codex dell’azienda, Thibault Sottiaux, ha scritto su X che da indagini interne è emerso che questi episodi di cancellazione hanno maggiori probabilità di verificarsi quando “la modalità di accesso completo al disco è abilitata e Codex viene eseguito senza le protezioni della sandbox, incluso il mancato avvio della revisione automatica”. Nei casi in cui viene concesso l’accesso completo, il modello – ha scritto Sottiaux – “tenta di sovrascrivere la variabile d’ambiente $HOME per definire una directory temporanea. Il modello commette un errore in buona fede e cancella erroneamente $HOME al suo posto…”.
“L’azienda,, secondo quanto dichiarato da Sottiaux, sta adottando misure per mitigare il rischio. “Questo non è ovviamente il modo in qual vorremmo che il sistema si comportasse, anche quando un utente utilizza il modello in modalità di accesso completo senza le tutele della nostra sandbox o senza usare la revisione automatica, che controlla questo tipo di azioni ad alto rischio e le rifiuta”, ha scritto il responsabile ingegneristico su X. E ancora: “Stiamo adottando misure per mitigare questo rischio, compreso l’aggiornamento del messaggio per gli sviluppatori, invogliare un maggior numero di utenti verso modalità di autorizzazione più sicure e l’aggiunta di ulteriori protezioni di sicurezza nel sistema di gestione (harness safeguards)’, ha riferito Sottiaux, precisando che nei prossimi giorni è previsto un resoconto dettagliato (“post-mortem”) che illustrerà la causa principale del problema e ulteriori misure di mitigazione in fase di implementazione, sottolineando ancora una volta che tali incidenti si verificano “in casi estremamente rari”.
Tutte le notizie e gli approfondimenti sull’intelligenza artificiale sono disponibili nella sezione dedicata di macitynet.
