Attenzione a fidarsi troppo di Google AI Overview: sbaglia almeno una risposta su dieci. È il dato che emerge da un’analisi condotta dalla startup Oumi e riportata dal New York Times.
AI Overview è la funzione che integra risposte generate dall’intelligenza artificiale direttamente nei risultati di ricerca, permettendo a Google di rispondere alle domande senza passare dai siti web, riducendo il bisogno di consultare le fonti originali. Proprio per questo, fidarsi ciecamente delle sue risposte può essere rischioso.
Risposte sbagliate, logica da rivedere
I casi concreti aiutano a capire il problema. Alla domanda sulla data in cui l’ex casa di Bob Marley è diventata un museo, AI Overview ha citato tre fonti, ma due non riportavano alcuna informazione utile. La terza, Wikipedia, indicava due date diverse. L’AI ha comunque scelto una risposta, presentandola con sicurezza, ma era quella sbagliata.
In un altro esempio, interrogata sul percorso del violoncellista Yo-Yo Ma, il sistema ha citato correttamente il sito della Classical Music Hall of Fame, per poi sostenere che quell’istituzione non esiste.
Non si tratta di errori occasionali, ma del funzionamento stesso di AI Overview di Google, pensata per anticipare le ricerche e fornire risposte sintetiche senza passare dai siti web. Una trasformazione che sposta il baricentro della ricerca dalla consultazione delle fonti alla fiducia nella risposta generata dalla logica del sistema di Intelligenza Artificiale.
Perché il 10% di errori è un problema reale
Il problema diventa molto serio quando riguarda il campo medico, temi fiscali o legali, e anche la ricerca delle notizie, dove una sintesi errata può attribuire dichiarazioni mai fatte o mescolare fatti diversi, alterando la percezione della realtà.
Secondo quanto riferito dal New York Times, AI Overview sbaglia circa il 10% delle risposte in base al benchmark SimpleQA, sviluppato da OpenAI per valutare la capacità dei sistemi AI di rispondere a domande fattuali basandosi su informazioni presenti sul web.
Oumi aveva già eseguito una prima serie di test quando Gemini 2.5 era il modello di riferimento, registrando un’accuratezza dell’85%. Con l’aggiornamento a Gemini 3, la percentuale è salita al 91%. Ma anche nella versione migliore la carenza di precisione resta un elemento difficile da ignorare: su scala globale, questo margine di errore si traduce in milioni di risposte sbagliate ogni giorno, con il rischio di influenzare il processo decisionale delle persone.
A gennaio, una ricerca indipendente aveva già evidenziato come AI Overview possa fornire indicazioni pericolose per la salute.
La credibilità dell’errore, Google smentisce
Sono situazioni diverse, ma hanno un punto in comune: l’errore appare credibile. Ed è proprio questo l’aspetto più delicato, perché trasforma una risposta sbagliata in qualcosa che può essere accettato senza verifica.
Google ha contestato le conclusioni dello studio. Il portavoce Ned Adriance ha dichiarato che “questo studio presenta gravi lacune” e che non riflette il comportamento reale degli utenti. L’azienda preferisce fare riferimento a un proprio test interno, chiamato SimpleQA Verified, basato su un insieme più ristretto di domande verificate.
Tutte le notizie e gli approfondimenti sull’Intelligenza Artificiale sono disponibili a partire da questa pagina di Macitynet.
