Chatbot AI e LLM sono adulatori pericolosi

Tutti i più grandi e celebri modelli LLM e chatbot AI risultano troppo lusinghieri e accondiscendenti nei confronti dell’utente, un comportamento adulatorio pericoloso perché in diversi casi tendono ad adattare le risposte per rispecchiare le opinioni degli utenti, spesso anche a scapito della verità e dell’accuratezza.

Utenti meno sociali, più dipendenti da AI

Questa in sintesi la conclusione di uno studio realizzato dai ricercatori di Stanford, Harvard e altre università intitolato Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence, letteralmente l’intelligenza artificiale adulatrice riduce le intenzioni prosociali e promuove la dipendenza, pubblicato su Nature e in attesa di revisioni da parte della comunità scientifica.

Adulatore quanto basta

Tra gli undici modelli LLM e chatbot messi alla prova ci sono diverse versioni di ChatGPT di OpenAI, Google Gemini, Claude di Anthropic e Llama di Meta. Secondo i risultati i modelli AI sono il 50% più adulatori degli esseri umani.

Questo è emerso confrontando le risposte dell’AI e degli utenti in carne e ossa nei commenti a quasi 12.000 messaggi pubblicati su un canale di Reddit in cui le persone chiedono alla comunità di giudicare il loro comportamento, spesso in situazioni ambigue e conflittuali. In generale gli utenti umani sono sempre molto più severi sulle trasgressioni discusse nel thread rispetto ai chatbot AI.

Pericoli psicologici e scientifici

Secondo i ricercatori si instaurano degli incentivi perversi: le AI adulatrici riducono le intenzioni prosociali e favoriscono la dipendenza. A livello psicologico sentirsi dire ciò che si vuole o si pensa rafforza le proprie convinzioni, limitando la capacità di prendere in considerazione un punto di vista diverso di un’altra persona. Questo rappresenta un pericolo soprattutto per minori e utenti più deboli e in generale nell’impiego dell’AI per studio e apprendimento.

Ma la propensione a compiacere gli utenti e all’adulazione influenza anche come modelli AI e chatbot vengono impiegati nel lavoro, in compiti come riunioni, generazione ipotesi, ragionamento e analisi, fino ad arrivare alla ricerca scientifica.

Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di macitynet.