Perché l’intelligenza artificiale può inventare cose che sembrano vere

Le allucinazioni degli LLM spiegate semplice: quando una risposta è plausibile, ma non è affidabile

IN BREVE

Un modello linguistico può produrre informazioni false con forma plausibile, dettagliata e autorevole. Questo fenomeno viene comunemente descritto come allucinazione.

Il termine è una metafora tecnica: non implica coscienza, intenzione o menzogna nel senso umano.

Per l’uso professionale la conseguenza è decisiva: plausibilità linguistica e verità non coincidono, quindi affermazioni e fonti devono essere verificate esternamente.

Immagina di chiedere a un’intelligenza artificiale: «Indicami tre sentenze della Cassazione che hanno deciso questo problema». La risposta arriva in pochi secondi. Ci sono il numero della sentenza, l’anno, la sezione, magari persino una sintesi del principio di diritto. Tutto è scritto bene. Talmente bene che sembra il risultato di una ricerca giurisprudenziale. Poi apri la banca dati. La prima sentenza non dice quello che l’IA sostiene. La seconda esiste, ma riguarda un’altra materia. La terza non esiste affatto. È uno dei problemi più importanti da comprendere quando utilizziamo un Large Language Model (LLM). Lo chiamiamo comunemente allucinazione. Ma l’intelligenza artificiale non sta “vedendo” qualcosa che non esiste e, soprattutto, non dobbiamo immaginare che stia necessariamente mentendo. Il problema è più semplice e, allo stesso tempo, più profondo. Per comprenderlo dobbiamo tornare a ciò che abbiamo già imparato sul funzionamento degli LLM.

Torniamo per un momento al token successivo

Negli articoli precedenti abbiamo seguito un percorso che, partendo dal linguaggio, ci ha condotti progressivamente dentro il funzionamento di un modello linguistico:

TESTO → TOKEN → EMBEDDINGS → TRANSFORMER/ATTENTION → PROBABILITÀ → TOKEN SUCCESSIVO → LLM

Abbiamo visto che un LLM genera il testo calcolando, passo dopo passo, possibili continuazioni sulla base del contesto e di ciò che è stato appreso durante l’addestramento. Questo significa che il suo compito fondamentale non consiste nell’andare in una biblioteca, trovare il documento corretto e copiarne il contenuto. Il modello sta generando una continuazione linguisticamente plausibile. Ed è qui che dobbiamo fissare una distinzione fondamentale:

PLAUSIBILE ≠ VERO

Se chiediamo il nome di una sentenza, il modello può produrre una sequenza di parole perfettamente compatibile con il modo in cui normalmente vengono citate le decisioni della Cassazione: numero, data, sezione, principio. La forma può essere impeccabile. Il fatto che quella sequenza sembri una citazione giuridica, però, non dimostra che la sentenza esista. La letteratura scientifica utilizza diffusamente il termine hallucination per descrivere fenomeni nei quali i modelli linguistici generano contenuti falsi, non supportati o non fedeli alle informazioni di riferimento, anche se non esiste una definizione perfettamente uniforme del fenomeno. Una parte della ricerca utilizza o propone termini più specifici, come confabulation, anche per evitare che la metafora dell’“allucinazione” ci porti ad attribuire alla macchina processi mentali propri dell’essere umano.

Un esempio molto semplice

Immaginiamo che il modello abbia incontrato moltissimi testi strutturati in questo modo:

Cassazione, Sez. III, sentenza n. XXXX del XX/XX/XXXX

Il modello può aver appreso molto bene come appare una citazione della Cassazione. Ma conoscere la forma di una citazione non equivale ad avere verificato l’esistenza della sentenza che sta generando. Pensiamo a un bambino che abbia imparato perfettamente la struttura degli indirizzi italiani. Sa che normalmente può trovare un nome della via, un numero civico e una città. Potrebbe allora costruire un indirizzo come “Via Alessandro Verdi 27, Milano”. Suona perfettamente credibile. Ma il fatto che abbia la forma di un indirizzo reale non significa che quell’indirizzo esista. Un LLM può produrre qualcosa di concettualmente analogo, naturalmente attraverso meccanismi enormemente più complessi. Ha imparato regolarità, strutture e relazioni del linguaggio e può generare una sequenza estremamente convincente senza che questo costituisca, di per sé, una verifica fattuale di ciò che afferma.

Perché succede?

Non esiste una sola causa delle allucinazioni. Possono concorrere diversi fattori: caratteristiche e limiti dei dati di addestramento, modalità con cui il modello è stato addestrato, ambiguità della richiesta, informazioni insufficienti nel contesto, caratteristiche della generazione e altri elementi che la ricerca continua a studiare. Proprio per questo le allucinazioni sono oggetto di lavori dedicati alla loro classificazione, rilevazione e mitigazione. Non è necessario entrare qui in tutti questi meccanismi. È sufficiente comprendere un principio: un modello può produrre una frase molto convincente anche quando non dispone di una base sufficiente per affermare che quella frase sia vera. Ed è proprio questa combinazione a rendere il fenomeno insidioso. L’errore non sempre “suona” come un errore. Può essere grammaticalmente corretto, elegante, dettagliato e perfettamente coerente con il resto della risposta.

FLUIDITÀ ≠ ACCURATEZZA

SICUREZZA DEL TONO ≠ CERTEZZA DEL CONTENUTO

Un’allucinazione non è necessariamente una bugia

Dire che l’intelligenza artificiale “mente” rischia di portarci fuori strada. Nel linguaggio umano, la menzogna presuppone normalmente che qualcuno conosca o ritenga vera una determinata circostanza e intenzionalmente ne affermi un’altra. Non abbiamo bisogno di attribuire un’intenzione di questo tipo a un LLM per spiegare la produzione di un output falso. Il termine allucinazione può essere utilizzato perché è ormai largamente diffuso in ambito tecnico, ricordando però che si tratta di una metafora e non della descrizione di uno stato mentale della macchina.

ALLUCINAZIONE ≠ MENZOGNA

Questa precisazione è importante anche per un’altra ragione: ci aiuta a mantenere l’approccio antropocentrico che abbiamo adottato fin dall’inizio. Utilizzare parole come “pensa”, “sa”, “capisce”, “vuole” o “mente” può essere utile nel linguaggio quotidiano, ma non deve farci dimenticare il funzionamento tecnico del sistema.

Non tutti gli errori dell’IA sono allucinazioni

Anche questo passaggio merita attenzione. Un output sbagliato non deve essere automaticamente chiamato “allucinazione”. Il sistema potrebbe aver ricevuto un documento sbagliato, potrebbe aver interpretato male una richiesta ambigua, potrebbe omettere un elemento rilevante, utilizzare informazioni non aggiornate o produrre un altro tipo di errore. La stessa letteratura scientifica propone tassonomie differenti e mette in evidenza la difficoltà di utilizzare hallucination come etichetta universale per qualsiasi risultato non corretto. Per questo è utile conservare fin d’ora una seconda distinzione:

OUTPUT ERRATO ≠ SEMPRE ALLUCINAZIONE

Più avanti questa distinzione diventerà particolarmente importante. Quando parleremo di RAG, fonti esterne e sistemi di verifica, infatti, dovremo capire non soltanto se una risposta è sbagliata, ma anche da dove proviene l’errore.

Quando il problema arriva sulla scrivania dell’avvocato

Torniamo adesso alla domanda iniziale. L’avvocato chiede all’intelligenza artificiale tre sentenze e riceve tre riferimenti apparentemente perfetti. Che cosa deve fare? Deve verificarli. Non perché l’intelligenza artificiale sia inutile, né perché ogni risposta generata debba essere considerata sospetta. La ragione è diversa: la generazione dell’output e la verifica della fonte sono due operazioni differenti. Un modello capace di produrre una citazione linguisticamente plausibile non si trasforma, per questo solo fatto, in una banca dati giuridica certificata. Possiamo quindi aggiungere un’altra regola alla nostra mappa:

OUTPUT GENERATO ≠ FONTE VERIFICATA

Ed è precisamente in questo punto che il nostro percorso tecnico incontra direttamente il diritto e la responsabilità professionale.

Plausibile non significa verificato

GenerazioneIl modello produce una continuazione plausibile.
ApparenzaLa forma può sembrare precisa e autorevole.
RischioFatti, citazioni o riferimenti possono essere errati o inventati.
ControlloRaggiungere la fonte, leggerla e verificare che sostenga l’affermazione.

Una richiesta di non inventare non sostituisce il controllo delle fonti.

La Cassazione e le “allucinazioni informatiche”

Nel 2026 la questione è arrivata davanti alla Corte di cassazione. La Terza Sezione penale, con la sentenza n. 23006, depositata il 22 giugno 2026, ha affrontato un ricorso contenente precedenti giurisprudenziali inesistenti o alterati. La Corte utilizza l’espressione “allucinazione informatica” e affronta il problema del dovere del difensore di verificare veridicità e pertinenza delle fonti richiamate nell’atto. Nel caso esaminato, la presenza di precedenti inesistenti o alterati assume rilievo anche nella valutazione della colpa nella determinazione della causa di inammissibilità e delle conseguenze previste dall’art. 616 c.p.p. Questo passaggio è molto importante per l’avvocato, ma deve essere letto correttamente. La Cassazione non sta costruendo una definizione scientifica generale di hallucination. Sta affrontando le conseguenze processuali e professionali dell’utilizzo, in un atto difensivo, di riferimenti giurisprudenziali inesistenti o alterati. Dobbiamo quindi tenere separati due piani:

FENOMENO TECNICO → possibile generazione di contenuto non fondato

CONSEGUENZA PROFESSIONALE → il difensore verifica ciò che utilizza

La distinzione è perfettamente coerente con l’impostazione antropocentrica che attraversa HUMAIURIS: l’intelligenza artificiale può assistere il professionista nella ricerca, nell’analisi e nell’elaborazione, ma non trasferisce sulla macchina la responsabilità della prestazione intellettuale.

L’AI Act parla di “allucinazioni”?

Qui dobbiamo evitare un errore diverso: prendere una parola utilizzata nel linguaggio tecnico e trasformarla automaticamente in una categoria giuridica. “Allucinazione” non è una categoria giuridica autonoma dell’AI Act. Il Regolamento affronta tuttavia problemi collegati all’affidabilità e al funzionamento dei sistemi attraverso disposizioni differenti, la cui applicabilità dipende dal sistema, dal suo ruolo e dalla relativa classificazione. Per esempio, per i sistemi di IA ad alto rischio l’art. 15 disciplina accuratezza, robustezza e cibersicurezza. Il quadro regolatorio contempla inoltre la supervisione umana e specifici obblighi informativi e documentali in determinati contesti. La distinzione che dobbiamo conservare è quindi questa:

ALLUCINAZIONE → fenomeno e terminologia tecnica

ACCURATEZZA, ROBUSTEZZA, RISCHIO, DOCUMENTAZIONE, SUPERVISIONE → concetti e requisiti giuridici da esaminare nei rispettivi ambiti di applicazione

Non sarebbe corretto, per esempio, prendere automaticamente l’art. 15 — che riguarda i sistemi di IA ad alto rischio — e applicarlo indistintamente a qualsiasi strumento generativo utilizzato da un avvocato. Prima viene la qualificazione del sistema e del caso concreto; soltanto dopo possiamo individuare le norme applicabili. Ed è proprio per questa ragione che, nella nostra opera complessiva, gli articoli e i considerando pertinenti dell’AI Act saranno oggetto di autonomi approfondimenti giuridici e di collegamenti sistematici, senza appesantire eccessivamente questo percorso divulgativo.

E il quadro italiano?

Anche la legge 23 settembre 2025, n. 132 si colloca in una prospettiva antropocentrica. L’art. 3 richiama principi relativi, tra l’altro, ad accuratezza, sicurezza, riservatezza, conoscibilità, trasparenza e spiegabilità e pone l’utilizzo dell’intelligenza artificiale nel rispetto dell’autonomia e del potere decisionale umano, assicurando sorveglianza e intervento umano. La stessa disposizione deve però essere letta insieme alla precisazione secondo cui la legge italiana non introduce nuovi obblighi rispetto a quelli previsti dall’AI Act per sistemi e modelli di IA per finalità generali. Per le professioni intellettuali abbiamo poi già incontrato l’art. 13 della stessa legge: l’utilizzo dell’IA è consentito per attività strumentali e di supporto, mentre deve rimanere prevalente il lavoro intellettuale oggetto della prestazione. Questo ci riporta al nostro esempio iniziale. L’intelligenza artificiale può proporre una sentenza, organizzare materiali, confrontare testi e assistere nella costruzione di una ricerca. Ma il passaggio professionale decisivo rimane umano: verificare che la fonte esista, leggerla, comprenderla, stabilire se sia pertinente e decidere se utilizzarla.

L’IA GENERA → IL PROFESSIONISTA VERIFICA → IL PROFESSIONISTA DECIDE

Possiamo eliminare le allucinazioni?

Possiamo cercare di ridurle, rilevarle e gestirle. La ricerca studia molte strategie: miglioramento dei modelli, recupero di informazioni esterne, utilizzo di strumenti, sistemi di verifica, valutazione dell’incertezza e altre tecniche. Non dobbiamo però trasformare una misura di mitigazione in una promessa di infallibilità. Per questo aggiungiamo un’ultima distinzione:

MITIGARE ≠ ELIMINARE

Ed è proprio qui che si apre naturalmente il prossimo capitolo del nostro percorso.

Se il modello può inventare, possiamo dargli delle fonti?

Finora abbiamo osservato un modello che genera una risposta utilizzando i propri parametri e il contesto che gli viene fornito. Immaginiamo adesso di cambiare il sistema. Prima recuperiamo documenti realmente esistenti — per esempio sentenze, contratti, regolamenti o documenti dello studio — e poi forniamo al modello i passaggi ritenuti pertinenti affinché possa utilizzarli per costruire la risposta. Abbiamo aggiunto qualcosa che prima non c’era: un meccanismo di recupero delle informazioni. Questo è il principio che sta alla base della Retrieval-Augmented Generation, normalmente abbreviata in RAG. Il RAG mostra come fornire fonti a un LLM possa migliorare l’affidabilità di un sistema, senza però trasformarlo in una macchina incapace di sbagliare.

Da ricordare