OpenAI sta cercando un responsabile delle azioni di Preparazione, una persona che può aiutare ad anticipare potenziali pericoli dei modelli AI, prevedere potenziali abusi e migliorare le strategie di sicurezza dell’azienda.
La mossa arriva alla fine di un anno che si è rivelato complicato per OpenAI dal punto di vista della sicurezza, con numerose accuse riguardanti l’impatto di ChatGPT sulla salute mentale degli utenti, comprese alcune cause legali che vedono l’azienda accusata di negligenza dopo il suicidio di un 16enne.
In un post su X riguardo la posizione lavorativa in questione, il CEO di OpenAI Sam Altman riferisce che “il potenziale impatto dei modelli AI sulla salute mentale è qualcosa che abbiamo notato nel 2025”, sottolineando la necessità di affrontare “vere sfide” emerse con le abilità dei nuovi modelli.
Un ruolo di responsabilità
Il ruolo di “Head Of Preparedness” è indicato come “critico” in “un momento importante”. Nell’offerta di lavoro si spiega che la persona responsabile di questo titolo in azienda (con una retribuzione di 555K più capitale azionario), “determinerà strategia ed esecuzione del Preparedness framework di OpenAI”, il framework per la preparazione e il monitoraggio di “funzionalità di confine” che potrebbero creare “nuovi rischi e gravi danni”.
Altman parla di “questioni complesse” riferendo che vi sono pochi precedenti, e che alcune idee che sembrano buone presentano casi limiti. “Sarà un lavoro stressante e sarete catapultati immediatamente in situazioni difficili”.
Nell’annuncio si riferisce che l’Head of Preparedness di OpenAI “guiderà una piccola squadra di grande impatto che si occuperà di ricerche primarie per la preparazione di base”, collaborando ampiamente con personale che si occupa di sicurezza. La persona ricercata deve sentirsi a suo agio nel fornire giudizi tecnici per “situazioni ad alto rischio in condizioni di incertezza”.
Questo anno OpenAI ha predisposto misure di sicurezza più rigorose per ChatGPT, attivando non solo controlli parentali ma anche misure per cercare di comprendere automaticamente l’età dell’utente con il quale ha a che fare.
Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di Macitynet.
