Chatbot AI offre consigli pericolosi per disturbi alimentari

Intelligenza artificiale AI e stupidità umana vanno a braccetto nella vicenda che coinvolge l’associazione nazionale per i disturbi alimentari e il nuovo chatbot AI ingaggiato per rispondere alle domande degli utenti e sostenere i pazienti.

L’associazione statunitense, siglata NEDA, è costretta ad annunciare la sospensione del servizio di chatbot AI denominato Tessa, dopo che si sono verificati diversi episodi di consigli pericolosi, segnalati sia dagli esperti di disturbi alimentari che dagli utenti del servizio.

Agli utenti che scrivevano in chat di odiare il proprio corpo il sistema non offriva alcuna risposta. Anche nei casi di depressione il suggerimento costante era quello di misurarsi e pesarsi, seguire una dieta e fare più esercizio fisico. Peccato però che questi consigli siano validi per perdere peso e migliorare la forma fisica, non adatti e anzi persino pericolosi per chi soffre di disturbi alimentari e depressione.

Chatbot offre consigli pericolosi per disturbi alimentari

Nonostante la gravità del problema emerso, l’associazione NEDA non ha deciso di sospendere completamente il progetto chatbot AI, ma ha annunciato uno stop temporaneo per risolvere bug e problemi. Forse un po’ poco visto che il servizio di supporto e assistenza basato su chatbot AI ha anche consigliato di prendere appuntamento con il Dr. Oz., celebre medico della TV USA meno noto per la sua attendibilità.

Ma la vicenda del chatbot AI per disturbi alimentari ha un altro interessante risvolto. Secondo Vice infatti il problema di fondo non è l’intelligenza artificiale, ma i tentativi di sindacalizzazione dei dipendenti a seguito dei quali NEDA ha risposto con massicci licenziamenti.

Il passaggio al chatbot AI sarebbe dovuto al fatto che NEDA ha licenziato tutti i dipendenti stipendiati, mentre quelli volontari sono stati impiegati per addestrare il modello AI. Un po’ troppo presto sia per gli uomini che per AI. Negli scorsi giorni un avvocato è finito nei guai per aver impiegato ChatGPT in una causa.

Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di macitynet

Offerte Speciali

iPad 10,2 minimo storico con codice a solo 287,99€

iPad di nona generazione, perfetto per la scuola, scontato del 21%

La scuola è iniziata e su Amazon piove uno sconto interessante per l'iPad di nona generazione. Ribasso del 21% e risparmio da quasi 100 €

Ultimi articoli

Pubblicità