Era stato annunciato a settembre e ora è entrato in funzione il sistema do OpenAI che verifica l’età degli utenti su ChatGPT. Il meccanismo di verifica automatico è attivo negli Stati Uniti ma non ancora in Europa, probabilmente per problematiche legate al GDPR (Regolamento generale sulla protezione dei dati).
Come anticipato a metà settembre, OpenAI ha annunciato ieri sera l’introduzione di un sistema che verifica l’età degli utenti. Per i minorenni verranno applicate diverse restrizioni. Se la stima è sbagliata sarà necessario dimostrare la maggiore età. La novità non è ancora disponibile in Europa, quasi certamente per “colpa” del GDPR (Regolamento generale sulla protezione dei dati).
Efficacia del sistema e rischi per la privacy
Se gli utenti dichiarano di avere meno di 18 anni al momento della registrazione, OpenAI ne terrà conto, applicando automaticamente specifiche restrizioni all’account, ad esempio non fornendo risposte ad argomenti sensibili; altri peccamisi di protezione sono attivi tramite i controlli parentali.
Le restrizioni prevedono meccanismi automatici per chi bara, facendo finta di essere un adulto. OpenAI riferisce di un meccanismo in grado di “comprendere” l’età nei piani consumer di ChatGPT, previsione che dovrebbe permettere di aiutare a capire se un account potrebbe appartiene probabilmente a una persona con meno di 18 anni, applicando di conseguenza “esperienza e protezioni appropriate per gli adolescenti“.
Come funziona la previsione dell’età
ChatGPT utilizza un modello di previsione dell’età per stimare se un account potrebbe appartenere ad utenti che probabilmente hanno meno di 18 anni. Il modello osserva una combinazione di segnali comportamentali, legati all’account, ad esempio: da quanto tempo l’account esiste, orari tipici in cui l’utente è attivo, modelli d’uso nel tempo ed età dichiarata dall’utente.
“Usando questi segnali, possiamo imparare quali informazioni migliorano l’accuratezza e affinare continuamente il modello nel tempo”, spiega OpenAI. “Gli utenti che vengono erroneamente identificati nell’esperienza per under-18 avranno sempre un modo rapido e semplice per confermare la propria età e ripristinare l’accesso completo tramite un selfie con Persona, un servizio sicuro di verifica dell’identità. Gli utenti possono controllare se sono state aggiunte protezioni al loro account e avviare questa procedura in qualsiasi momento da Impostazioni > Account”.
Cosa cambia per i minorenni
OpenAI spiega che quando il modello di previsione dell’età stima che un account possa appartenere a qualcuno sotto i 18 anni, ChatGPT applica automaticamente protezioni aggiuntive progettate per ridurre l’esposizione a contenuti sensibili quali: violenza grafica o contenuti cruenti, fide virali che potrebbero incoraggiare comportamenti rischiosi o dannosi nei minori, giochi di ruolo sessuali, romantici o violenti, rappresentazioni di autolesionismo, contenuti che promuovono standard di bellezza estremi, diete malsane o body-shaming.
“Questo approccio è guidato dal contributo di esperti e si fonda su ricerche scientifiche sullo sviluppo dei giovani, riconoscendo differenze note nei teenager nella percezione del rischio, nel controllo degli impulsi, nell’influenza dei pari e nella regolazione emotiva”, spiega OpenAI. “Pur aiutando a ridurre l’esposizione dei giovani a contenuti sensibili, continuiamo a lavorare per migliorare queste protezioni, soprattutto per contrastare tentativi di aggiramento delle salvaguardie. Quando non siamo sicuri dell’età di qualcuno o abbiamo informazioni incomplete, preferiamo offrire un’esperienza più sicura”.
OpenAI ricorda che oltre a queste protezioni, i genitori possono personalizzare l’esperienza dei loro figli tramite controlli parentali (inclusa la possibilità di impostare orari di silenzio in cui ChatGPT non può essere utilizzato, controllare funzionalità come memoria o addestramento del modello, e ricevere notifiche se vengono rilevati segnali di disagio acuto).
OpenAI riferisce ancora che nell’Unione Europea la previsione dell’età sarà implementata nelle prossime settimane per tenere conto dei requisiti regionali.
OpenAI sta attivando misure di sicurezza più rigorose per ChatGPT, scelta alla quale è stata obbligata dopo che i genitori di Adam Raine, un adolescente statunitense morto suicida, hanno intentato una causa contro l’azienda accusando ChatGPT di aver aiutato il figlio a pianificare la sua morte, e altri casi simili che si sono verificati con adolescenti che sfruttano questo e altri chatbot.
Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di Macitynet.
