L’intelligenza artificiale (AI) può produrre risposte che sembrano sicure, dettagliate e logiche anche quando le informazioni sono false. I ricercatori chiamano questo comportamento “allucinazione”. Un’allucinazione si verifica quando un sistema di intelligenza artificiale genera informazioni che non corrispondono alla realtà, ai fatti verificati o ai dati di input.
Potresti vedere allucinazioni in chatbot, assistenti di ricerca, app per la generazione di immagini, strumenti di codifica e assistenti vocali. Un chatbot potrebbe inventare uno studio scientifico mai esistito. Un’app per la generazione di immagini può creare una persona con sei dita. Un assistente di codifica può scrivere codice computer che sembra corretto ma fallisce quando lo esegui.
Le allucinazioni dell’intelligenza artificiale si verificano perché i sistemi moderni prevedono modelli invece di comprendere la verità nello stesso modo in cui lo fanno gli esseri umani. Il problema deriva dal modo in cui i modelli di intelligenza artificiale apprendono, da come gli sviluppatori li testano, da come si comportano i dati di addestramento e da come funziona la previsione basata sulla probabilità.
Che aspetto hanno le allucinazioni dell’intelligenza artificiale?
Le allucinazioni legate all’intelligenza artificiale possono apparire in molte forme.
Fatti fabbricati
Un chatbot può inventare:
- Documenti di ricerca falsi
- Falsi eventi storici
- Leggi inesistenti
- Dirigenti aziendali immaginari
- Consiglio medico errato.
Ad esempio, in diversi casi giudiziari gli avvocati hanno presentato documenti legali contenenti false decisioni giudiziarie generate da sistemi di intelligenza artificiale. Il chatbot ha prodotto citazioni di casi che sembravano autentiche ma non esistevano.
Riepiloghi errati
Un modello di intelligenza artificiale può riassumere un documento in modo errato pur sembrando persuasivo. I ricercatori Microsoft hanno recentemente scoperto che modelli linguistici avanzati potrebbero corrompere o distorcere il contenuto dei documenti durante flussi di lavoro lunghi. Alcuni sistemi hanno danneggiato fino al 25% dei contenuti durante i test.
Allucinazioni visive
Le app per la generazione di immagini a volte:
- Aggiungi arti extra
- Crea testo illeggibile
- Produrre riflessi impossibili
- Distorcere l’anatomia umana.
Potresti notare questo problema soprattutto nelle mani, nei denti, negli orologi o negli sfondi complessi perché questi dettagli richiedono relazioni spaziali precise.
Allucinazioni logiche
Alcuni modelli di intelligenza artificiale producono risposte che contengono contraddizioni o passaggi di ragionamento impossibili. Un sistema può spiegare la matematica in modo errato pur presentando la spiegazione con totale sicurezza.
Ragioni per cui l’intelligenza artificiale ha allucinazioni
1. L’intelligenza artificiale prevede modelli invece di verificare la verità
La ragione più importante dietro le allucinazioni riguarda la progettazione centrale di grandi modelli linguistici.
I modelli linguistici moderni prevedono la parola successiva in una sequenza. Non “conoscono” direttamente la verità. Stimano quale modello di parole segue molto probabilmente le parole precedenti.
Ad esempio, quando chiedi:
“Chi ha inventato il telefono?”
Il modello calcola le probabilità sulla base di modelli appresi da enormi quantità di testo. Se i dati di addestramento associano fortemente “Alexander Graham Bell” con “ha inventato il telefono”, il modello produce quella risposta.
Tuttavia, quando il modello incontra informazioni incerte, rare, incomplete o contrastanti, il sistema tenta comunque di continuare lo schema.
Il sistema non si ferma naturalmente e dice: “Non lo so”.
I ricercatori di OpenAI hanno spiegato che le allucinazioni emergono in parte perché i modelli linguistici ottimizzano la previsione della parola successiva piuttosto che la verifica dei fatti.
2. La formazione premia l’ipotesi
Un’altra causa importante deriva dal modo in cui gli sviluppatori addestrano e valutano i modelli.
La maggior parte dei test di benchmark premiano le risposte corrette ma non puniscono fortemente le risposte errate sicure. Grazie a questo metodo di punteggio, i sistemi di intelligenza artificiale apprendono che indovinare spesso produce punteggi migliori rispetto ad ammettere l’incertezza.
I ricercatori hanno confrontato questo comportamento con gli studenti che affrontavano un difficile esame a scelta multipla. Uno studente che indovina a volte riceve punti per caso. Uno studente che lascia le domande in bianco riceve sempre zero punti.
La stessa pressione colpisce i sistemi di intelligenza artificiale.
Secondo una ricerca pubblicata da OpenAI Research, alcuni modelli più recenti hanno ridotto le allucinazioni rifiutando più spesso le domande incerte. Questa ricerca ha mostrato una differenza sorprendente:
- Un modello ha prodotto risposte sbagliate il 75% delle volte su un benchmark difficile
- Un altro modello ha risposto “Non lo so” più frequentemente e ha ridotto gli errori al 26%.
Questa ricerca suggerisce che i sistemi di valutazione stessi incoraggiano le allucinazioni.
3. I dati di addestramento contengono errori e contraddizioni
I sistemi di intelligenza artificiale apprendono da enormi set di dati raccolti da:
- Siti web
- Libri
- Articoli
- Forum
- Repository di codici
- Mezzi sociali.
Molte di queste fonti contengono:
- Affermazioni false
- Informazioni obsolete
- Opinioni parziali
- Fatti contraddittori
- Satira
- Spam
- Scrittura di bassa qualità.
Il modello assorbe relazioni statistiche da tutte queste informazioni.
Se informazioni contrastanti compaiono ripetutamente nei dati di addestramento, il modello può combinare questi frammenti di informazioni in una risposta inventata.
Per esempio:
- Un articolo contiene una data errata
- Un altro articolo menziona un evento simile
- Il modello può unire entrambi i modelli in un’affermazione falsa.
Poiché il modello non possiede una comprensione di tipo umano o una consapevolezza del controllo dei fatti, non può sempre separare le informazioni affidabili da quelle inaffidabili.
4. Fatti rari creano grossi problemi
I sistemi di intelligenza artificiale funzionano meglio su modelli comuni che compaiono molte volte durante l’addestramento.
I fatti rari creano difficoltà molto maggiori.
Per esempio:
- Eventi storici famosi compaiono milioni di volte online
- Il compleanno del sindaco di una piccola città può apparire solo una volta.
I ricercatori spiegano che i fatti rari si comportano in modo quasi casuale dal punto di vista del modello. Il sistema non può generalizzare in modo affidabile questi dettagli perché nei dati di addestramento esistono esempi limitati.
Questo problema diventa particolarmente grave nei seguenti campi:
- Medicinale
- Legge
- Ricerca scientifica
- Ingegneria tecnica
- Informazioni sulle imprese locali
- Eventi di notizie recenti.
5. I modelli di intelligenza artificiale cercano di sembrare fluenti e utili
Gli sviluppatori addestrano i chatbot a sembrare naturali, colloquiali e utili.
Questa formazione crea un altro problema.
Se una modella rispondesse spesso: “Non lo so”, molti utenti considererebbero questo sistema frustrante o poco intelligente.
Di conseguenza, gli sviluppatori spesso ottimizzano i sistemi per:
- Conversazione fluida
- Spiegazioni dettagliate
- Risposte veloci
- Fiducia
- Soddisfazione dell’utente.
Sfortunatamente, un linguaggio fluente può nascondere informazioni errate.
Diversi ricercatori ora sostengono che le allucinazioni sono un effetto collaterale dei sistemi ottimizzati per la comunicazione persuasiva invece che per la cauta incertezza.
6. L’intelligenza artificiale manca di una comprensione fondata
Gli esseri umani collegano il linguaggio con:
- Esperienze fisiche
- Emozioni
- Ingresso sensoriale
- Interazione nel mondo reale.
I grandi modelli linguistici non sperimentano direttamente la realtà.
Un essere umano comprende il “fuoco” in parte attraverso:
- Calore
- Pericolo
- Memoria visiva
- Interazione fisica.
Un modello linguistico vede solo modelli di parole associate al “fuoco”.
A causa di questa limitazione, il sistema può generare un linguaggio che appare significativo senza comprendere veramente la realtà sottostante.
Alcuni ricercatori descrivono questo problema come una mancanza di “radicamento”.
7. Le allucinazioni aumentano con compiti più lunghi
Ricerche recenti mostrano che le allucinazioni spesso peggiorano durante i lunghi flussi di lavoro.
Quando le conversazioni diventano più lunghe:
- Gli errori precedenti si propagano in avanti
- Piccole imprecisioni si accumulano
- Il contesto diventa più difficile da monitorare
- Aumentano le contraddizioni interne.
I ricercatori Microsoft hanno scoperto che le prestazioni peggioravano con l’aumentare della complessità e della lunghezza dei documenti.
Potresti notare questo problema quando:
- Generazione di report lunghi
- Scrivere programmi software di grandi dimensioni
- Condurre conversazioni di ricerca estese
- Riepilogo di documenti lunghi.
8. I problemi di recupero delle informazioni possono scatenare allucinazioni
Alcuni sistemi collegano modelli linguistici a database esterni o motori di ricerca. Gli sviluppatori chiamano questo approccio generazione aumentata di recupero.
Questo metodo riduce le allucinazioni, ma non le elimina.
I problemi si verificano ancora quando:
- Il sistema di ricerca recupera informazioni irrilevanti
- Le informazioni recuperate contengono errori
- Il modello interpreta erroneamente i dati recuperati
- Il database non dispone di fatti aggiornati.
Ad esempio, se il sistema di recupero trova due articoli in conflitto, il modello potrebbe combinarli entrambi in una risposta fuorviante.
9. L’apprendimento per rinforzo può aumentare involontariamente le allucinazioni
Gli sviluppatori spesso perfezionano i modelli utilizzando il feedback umano.
I revisori umani solitamente premiano le risposte che sembrano utili, complete, educate o sicure.
Tuttavia, i revisori potrebbero non verificare attentamente ogni affermazione fattuale.
Questo processo di formazione può insegnare involontariamente ai modelli a dare priorità alla comunicazione persuasiva rispetto alla precisione rigorosa.
Diversi ricercatori e discussioni nella comunità evidenziano ripetutamente questo problema.
Perché le allucinazioni a volte sembrano estremamente convincenti?
Le allucinazioni dell’intelligenza artificiale spesso appaiono credibili perché i modelli linguistici eccellono nella grammatica, nella struttura, nel tono, nell’imitazione dello stile e nel flusso contestuale.
Il sistema può produrre:
- Linguaggio accademico
- Terminologia tecnica
- Formattazione professionale
- Citazioni dettagliate
- Transizioni logiche.
Anche le informazioni completamente inventate possono sembrare autorevoli.
Questa combinazione crea un effetto pericoloso:
- Alta fluidità
- Alta fiducia
- Bassa affidabilità fattuale.
Le persone spesso si fidano automaticamente di un linguaggio fluente, soprattutto quando la risposta appare dettagliata e professionale.
Le allucinazioni potrebbero non scomparire mai completamente
Alcuni ricercatori ora sostengono che le allucinazioni non possono essere completamente eliminate nei sistemi linguistici basati sulla probabilità.
Un documento di ricerca del 2025 ha sostenuto che possono sempre esistere dei compromessi tra creatività, completezza, fiducia, accuratezza e copertura delle informazioni.
Se gli sviluppatori costringono un modello a evitare tutte le possibili allucinazioni, quel modello potrebbe diventare eccessivamente cauto e rifiutare molte domande legittime.
Se gli sviluppatori incoraggiano risposte utili e dettagliate, il rischio di allucinazioni potrebbe aumentare.
Questo equilibrio crea un difficile problema di ingegneria.
Il modo in cui le aziende riducono le allucinazioni
Le aziende di intelligenza artificiale utilizzano diverse strategie per ridurre le allucinazioni.
Migliori sistemi di recupero delle informazioni
Gli sviluppatori collegano i modelli a:
- Motori di ricerca
- Database verificati
- Documenti aziendali interni
- Archivi scientifici.
Questo metodo di base fornisce ai modelli l’accesso alle informazioni fattuali attuali.
Stima della fiducia
Alcuni sistemi tentano di misurare l’incertezza prima di rispondere.
Un modello può:
- Rifiuta le domande incerte
- Fai domande di follow-up
- Visualizza avvisi di affidabilità.
Migliorare la formazione
Gli sviluppatori addestrano sempre più i modelli ad ammettere incertezze, citare fonti, verificare risultati e utilizzare passaggi di ragionamento.
Supervisione umana
Molte organizzazioni richiedono ancora che gli esseri umani esaminino documenti legali, raccomandazioni mediche, analisi finanziarie e riepiloghi di ricerca.
La supervisione umana rimane estremamente importante perché le allucinazioni possono ancora apparire inaspettatamente.
Dovresti trattare l’intelligenza artificiale come un assistente, non come un’autorità perfetta
I sistemi di intelligenza artificiale possono produrre risultati notevoli:
- Assistenza alla scrittura
- Aiuto per la codifica
- Traduzione
- Supporto alla ricerca
- Riepilogo
- Brainstorming.
Tuttavia, dovresti comunque verificare le informazioni importanti in modo indipendente.
Dovresti prestare particolare attenzione quando usi l’intelligenza artificiale in questi campi:
- Medicinale
- Legge
- Finanza
- Ingegneria
- Ricerca accademica
- Decisioni critiche per la sicurezza.
Le allucinazioni si verificano perché i sistemi di intelligenza artificiale generano modelli linguistici statisticamente probabili anziché verificare direttamente la verità oggettiva. Questi sistemi possono imitare molto bene la conoscenza, ma l’imitazione non sempre equivale all’accuratezza.
I ricercatori continuano a migliorare l’affidabilità, la calibrazione e i metodi di verifica. I tassi di allucinazioni sono diminuiti in molti sistemi più recenti, ma questo problema è ancora una delle principali limitazioni della moderna intelligenza artificiale.
