ChatGPT ha fatto leva sulla fede religiosa per convincere un uomo con un problema cardiaco a rimanere a casa invece di cercare assistenza medica. Ora, costretto a ad affrontare anni di riabilitazione e conseguenze finanziarie, l’uomo ha deciso di portare in tribunale OpenAI.
In una causa intentata presso la Corte Superiore di San Francisco, il pastore della Florida Scott Winters sostiene che ChatGPT abbia usato la sua fede contro di lui. Dopo aver chiesto al chatbot informazioni sui propri sintomi, gli è stato risposto che erano probabilmente «un altro piccolo tassello della tua lunga storia» e che «Dio non ha progettato il tuo corpo per fallire all’infinito».
Sei settimane di diagnosi errate e i consigli dell’IA
Dopo un continuo botta e risposta con la funzionalità Health di ChatGPT durato sei settimane, Winters ha finalmente parlato con un medico in carne ed ossa e gli è stata diagnosticata una pericolosa ostruzione delle arterie in entrambi i polmoni.
Durante le sue conversazioni con ChatGPT, a Winters è stato suggerito di non muoversi finché non avesse avuto altri 10 manifestazioni di sintomi. I medici ritengono che questo consiglio abbia probabilmente peggiorato le cose, e l’immobilità di Winters favorito l’ostruzione di arterie vitali.
Il sito The Next Web riferisce che il pastore ora deve affrontare un lungo percorso di guarigione. A causa di questa condizione non è più in grado di svolgere il suo lavoro e ritiene responsabile OpenAI.
«Non solo ho quasi perso la vita», ha dichiarato il pastore, «ma ho perso il mio lavoro, la mia carriera, il mio ministero, la mia casa, tutto».
La battaglia legale e le accuse di esercizio abusivo
Nella causa legale Winters accusa OpenAI e l’amministratore delegato Sam Altman di «esercizio abusivo della professione medica». Chiede il risarcimento danni e chiede il blocco totale di ChatGPT Health”, almeno fino a quando auditor indipendenti non possano certificarne la completa sicurezza delle funzionalità AI legate alla salute.
Gli avvocati di Winters sostengono che «la natura adulatoria e il tono autorevole di ChatGPT, combinati con la manipolazione dell’identità religiosa di Scott, hanno coltivato in lui una pericolosa dipendenza dallo strumento che ha sovvertito la capacità dell’uomo di prendere decisioni sagge, lo ha isolato dai familiari che lo sollecitavano a farsi curar, convincendolo che cercare assistenza medica fosse necessario e persino potenzialmente letale».
OpenAI spiega che la sua AI ricorda regolarmente agli utenti di non essere infallibile ma che gli utenti, dal canto loro, ignorano regolarmente queste avvertenze. OpenAI offre anche ChatGPT Health, funzionalità a supporto dell’assistenza medica, dando agli utenti l’impressione che il chatbot di OpenAI sia qualificato per esprimersi nel campo della salute.
Tutte le notizie e gli approfondimenti sull’intelligenza artificiale sono disponibili nella sezione dedicata di macitynet.
