Intelligenza artificiale AI e stupidità umana vanno a braccetto nella vicenda che coinvolge l’associazione nazionale per i disturbi alimentari e il nuovo chatbot AI ingaggiato per rispondere alle domande degli utenti e sostenere i pazienti.
L’associazione statunitense, siglata NEDA, è costretta ad annunciare la sospensione del servizio di chatbot AI denominato Tessa, dopo che si sono verificati diversi episodi di consigli pericolosi, segnalati sia dagli esperti di disturbi alimentari che dagli utenti del servizio.
Agli utenti che scrivevano in chat di odiare il proprio corpo il sistema non offriva alcuna risposta. Anche nei casi di depressione il suggerimento costante era quello di misurarsi e pesarsi, seguire una dieta e fare più esercizio fisico. Peccato però che questi consigli siano validi per perdere peso e migliorare la forma fisica, non adatti e anzi persino pericolosi per chi soffre di disturbi alimentari e depressione.
Nonostante la gravità del problema emerso, l’associazione NEDA non ha deciso di sospendere completamente il progetto chatbot AI, ma ha annunciato uno stop temporaneo per risolvere bug e problemi. Forse un po’ poco visto che il servizio di supporto e assistenza basato su chatbot AI ha anche consigliato di prendere appuntamento con il Dr. Oz., celebre medico della TV USA meno noto per la sua attendibilità.
Ma la vicenda del chatbot AI per disturbi alimentari ha un altro interessante risvolto. Secondo Vice infatti il problema di fondo non è l’intelligenza artificiale, ma i tentativi di sindacalizzazione dei dipendenti a seguito dei quali NEDA ha risposto con massicci licenziamenti.
Il passaggio al chatbot AI sarebbe dovuto al fatto che NEDA ha licenziato tutti i dipendenti stipendiati, mentre quelli volontari sono stati impiegati per addestrare il modello AI. Un po’ troppo presto sia per gli uomini che per AI. Negli scorsi giorni un avvocato è finito nei guai per aver impiegato ChatGPT in una causa.
Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di macitynet
