La funzionalità di ricerca di Google Gemini nota come “AI Overview” e che consente di ottenere risposte grazie all’AI generativa, cita YouTube più di qualsiasi altro sito quando l’utente pone domande che riguardano condizioni che riguardano la salute. Il dato emerge da una ricerca che pone interrogativi seri in termini di salute, uno strumento usato da 2 miliardi di persone ogni mese.
Secondo Big G i sommari che appaiono in alto nei risultati di ricerca e che mostrato risultati ottenuti con l’AI generativa, sono “affidabili” e fanno riferimento a fonti mediche attendibili quali i Centri per il Controllo e la Prevenzione delle Malattie e Mayo Clinic; uno studio ha però analizzato le risposte a oltre 50.000 domande sulla salute e da questo si evince che la fonte più citata è YouTube. Il sito per la condivisione video è il secondo più visitato al mondo dopo Google ed è di proprietà di quest’ultima azienda. Nessun portale governativo per la salute, nessuna rete ospedaliera, associazione medica o istituzione accademica è citata quanto YouTube, con tutto quello che ne consegue.
Indicazioni pericolose e fuorvianti
In un caso di esempio citato, sono state riportate indicazioni pericolose e allarmanti: Google ha mostrato informazioni errate su test cruciali di funzionalità epatiche, indicazioni che potrebbero comportare problemi a persone che soffrono di gravi malattie al fegato lasciando pensare erroneamente di essere in salute.
Google ha rimosso alcune indicazioni mostrate da AI Overview legate alla salute ma non per tutte le ricerche mediche. Hannah van Kolfschooter, ricercatrice specializzata in AI, salute e legislazione dell’Università di Basilea, riferisce:
“Questo studio fornisce prove empiriche che i rischi rappresentati da AI Overview per la salute sono strutturali, non aneddotici. Diventa difficile per Google sostenere che risultati fuorvianti o dannosi per la salute sono casi rari.
Al contrario, i risultati mostrano che questi rischi sono radicate nelle modalità con le quali AI Overview è progettata. In particolare, la forte dipendenza da YouTube anziché su dati di autorità pubbliche sanitarie o istituzioni mediche, lascia immaginare che sono visibilità e la popolarità e non l’affidabilità medica, gli elementi fondamentali per mostrare informazioni sulla salute”.
Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di Macitynet.
