Questo sito contiene link di affiliazione per cui può essere compensato

Home » Hi-Tech » Internet » Con ChatGPT vietato chiedere di ripetere parole all’infinito

Con ChatGPT vietato chiedere di ripetere parole all’infinito

Un gruppo di ricercatori la scorsa settimana ha pubblicato un documento dove si dimostra che è possibile fare in modo che ChatGPT riveli vari dati, compresi i numeri di telefono di alcune persone, gli indirizzi email, la loro data di nascita e altri dati ancora di cui l’IA ha tenuto conto nella fase di addestramento.

Il problema banale ma inquietante si verifica quando si chiede all’AI di ripetere all’infinito alcune parole. La ricerca, firmata da 11 autori di laboratori informatici (Google DeepMind, University of Washington e l’UC Berkeley), fa notare che è possibile chiedere di ripetere all’infinito parole come “poem” o “book”: il chatbot comincia a eseguire il comando e poi inizia a pubblicare righe di testo apparentemente prive di senso. Analizzando quanto mostrato, i ricercatori hanno compreso che si tratta di informazioni sfruttate per “allenare” l’IA, compresi dettagli con informazioni varie, indirizzi di posta elettronica e numeri di telefono di persone reali.

La possibilità di estrarre dati di questo tipo è considerata da ChatGPT una “violazione dei termini di servizio”: così riferisce a Engadget un portavoce di OpenIA, spiegando che se si riescono a estrapolare dati che non dovrebbero essere visualizzati, bisognerebbe inviare una segnalazione al fine di migliorare ulteriormente l’IA.

Applicazione iOS per ChatGPT, ma per ora noi non possiamo usarla
Foto di ilgmyzin su Unsplash

Nelle condizioni di uso di ChatGPT è espressamente proibito l’uso di sistemi automatici per estrapolare dati, ma chiedere di ripetere una parola non può essere considerato una violazione dei termini. IA come questa sono addestrate su enormi quantità di dati che includono di tutto, e chissà quanti dati sensibili sono stati acquisiti (da documenti di vario tipo) senza che nessuno possa fare niente per impedirlo. Alcune IA sono usate anche in campo medico: pensate solo a cosa è possibile ottenere da cartelle sanitarie, analisi e anamnesi di pazienti.

Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di macitynet

Offerte Apple e Tecnologia

Le offerte dell'ultimo minuto le trovi nel nostro canale Telegram

Top offerte Apple su Amazon

Amazon fa il "tre per due" su iPhone 13,  lo sconto è del 33%!

Ecco il vero iPhone low cost, iPhone 13 a solo 599 €

Incredibile super su Amazon per iPhone 13 da 128 GB. Lo pagate il 21% in meno del suo prezzo e risparmiate 160 €. Solo 599 €.

Ultimi articoli

Pubblicità