Da un’inchiesta del Guardian di venerdì 2 gennaio emerge che AI Overview – funzionalità della Ricerca Google che mostra risultati utilizzando l’intelligenza artificiale – mostra informazioni inesatte sulla salute, dettagli che secondo vari esperti in alcuni casi possono anche mettere in pericolo la vita delle persone.
L’inchiesta è nata dopo preoccupazioni sollevate da gruppi per la salute pubblica, enti di beneficenza e professionisti vari, che hanno evidenziato diversi casi di consigli medici fuorvianti, nonostante Google affermi che la funzionalità in questione sia “utile” e “affidabile”.
In uno degli esempi descritto dagli esperti come molto pericoloso, Google suggerisce a persone colpite da cancro al pancreas di evitare cibi ricchi di grasso, l’esatto contrario di ciò che dovrebbe essere raccomandato, indicazioni che potrebbero compromettere la possibilità di tollerare la chemioterapia o l’intervento chirurgico. Cercando informazioni su quali siano i valori normali nell’esame del sangue per la funzionalità epatica, vengono mostrati numeri che non tengono conto di nazionalità, sesso, etnia o età del paziente, dettagli che potrebbero potenzialmente lasciare intendere a persone con gravi malattie epatiche di essere in buona salute. Altro esempio di indicazione errata è il suggerimento del pap test per il carcinoma vaginale.
I risultati mostrati cambiano di volta in volta
L’ente di ricerca no-profit per il cancro The Eve Appeal fa notare che i sommari mostrati dall’AI cambiano eseguendo più volte la stessa ricerca, mostrando dettagli acquisiti di volta in volta da fonti diverse. Anche l’associazione per la salute mentale Mind spiega che alcuni sommari mostrati per condizioni quali la psicosi e disturbi legati all’alimentazione evidenziano spesso “consigli molto pericolosi”.
Google riferisce che la maggior parte dei risultati mostrati da AI Overview sono oggettivi, fattuali e che molti degli esempi contestati erano “schermate incomplete”; secondo Big G il tasso di precisione è allo stesso livello degli snippet in primo piano, le caselle che mostrano (nella parte superiore dei risultati di ricerca) un piccolo estratto di un sito web che dovrebbe aiutare a rispondere alla domanda posta dall’utente, elementi mostrati quando Google ritiene che le persone vogliano risposte che possano essere trovate in un breve segmento di un sito web.
Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di macitynet.
