Quando utilizziamo un sistema di intelligenza artificiale generativa e gli chiediamo di riassumere un documento, spiegare una norma o predisporre una prima bozza, ciò che appare sullo schermo può dare un’impressione sorprendente: sembra che il sistema abbia letto la nostra domanda, ne abbia compreso il significato e abbia quindi formulato una risposta.
IN BREVE
Un modello linguistico genera testo attraverso una sequenza iterativa di previsioni.
Il testo viene elaborato attraverso token e rappresentazioni numeriche.
Il Transformer utilizza il contesto per contribuire alla determinazione dei possibili token successivi.
Il modello produce una distribuzione di probabilità.
Un token viene selezionato.
Il token entra nel nuovo contesto.
Il processo ricomincia.
Da questa successione emerge il testo generato.
La conseguenza fondamentale è:
probabilità ≠ verità.
Un output può essere linguisticamente plausibile senza essere fattualmente o giuridicamente corretto.
Per l’avvocato questo comporta una regola essenziale:
l’IA può generare; il professionista deve verificare.
Questa impressione è comprensibile. Ma, per utilizzare consapevolmente questi strumenti — soprattutto nell’attività professionale — è necessario distinguere l’apparenza linguistica dal meccanismo tecnico che la produce.
Un modello linguistico non scrive una risposta nello stesso modo in cui la scriverebbe un avvocato.
Non parte da una tesi che ritiene vera per poi scegliere le parole con cui esprimerla. Non possiede, per il solo fatto di generare una frase linguisticamente convincente, una garanzia intrinseca della correttezza giuridica di ciò che sta affermando.
Alla base della generazione troviamo invece un meccanismo fondamentale:
la previsione del token successivo.
Capire questo passaggio significa comprendere una parte essenziale del funzionamento dell’IA generativa e, soprattutto, capire perché un sistema capace di produrre testi straordinariamente plausibili può anche produrre informazioni sbagliate.
Prima di tutto: il modello non vede semplicemente delle “parole”
Nel percorso precedente abbiamo incontrato i token.
Un testo viene suddiviso in unità che il modello può elaborare. Queste unità non coincidono necessariamente con le parole: un token può corrispondere a una parola, a una sua parte, a un segno di punteggiatura o ad altre unità determinate dal sistema di tokenizzazione.
Abbiamo poi incontrato gli embeddings, cioè rappresentazioni numeriche attraverso le quali gli elementi elaborati dal modello vengono collocati in uno spazio matematico.
Infine abbiamo visto il Transformer, l’architettura che consente al modello di elaborare le relazioni tra gli elementi presenti nel contesto.
Questi concetti ora cominciano a collegarsi.
Possiamo rappresentare, in modo volutamente semplificato, il percorso così:
testo → token → rappresentazioni numeriche → Transformer → probabilità → token successivo.
Ed è proprio nell’ultima parte di questa sequenza che nasce il testo generato.
Una previsione alla volta
Immaginiamo di scrivere:
“Il contratto è nullo quando…”
Il modello elabora il contesto disponibile e determina quali token potrebbero ragionevolmente seguire quelli già presenti.
Non produce necessariamente una sola possibilità.
Può attribuire probabilità differenti a molti possibili token successivi.
In forma puramente illustrativa:
“manca” → 31%
“viola” → 19%
“contrasta” → 12%
“è” → 7%
altri token → probabilità differenti
Questi numeri sono soltanto un esempio didattico: non rappresentano l’output reale di uno specifico modello.
Il punto importante è un altro.
Il sistema costruisce una distribuzione di probabilità sui possibili token successivi.
A questo punto viene selezionato un token secondo il meccanismo di generazione utilizzato.
Quel token viene aggiunto alla sequenza.
E il procedimento ricomincia.
Il ciclo della generazione
Supponiamo che venga selezionato il token “manca”.
Il contesto non è più:
“Il contratto è nullo quando…”
ma:
“Il contratto è nullo quando manca…”
Il modello elabora nuovamente la sequenza e calcola quali token potrebbero seguire.
Viene scelto un altro token.
La sequenza cresce ancora.
Poi il processo viene ripetuto.
Possiamo quindi rappresentare il ciclo essenziale in questo modo:
contesto → previsione → selezione → nuovo token → nuovo contesto → nuova previsione.
La generazione procede iterativamente.
Token dopo token.
È così che, da una successione di previsioni, può emergere una frase; da più frasi, un paragrafo; e da più paragrafi, una risposta apparentemente articolata e coerente.
- ContestoIl modello riceve le informazioni rese disponibili per il compito.
- PrevisioneCalcola possibilità per il token successivo.
- SceltaIl procedimento di generazione seleziona un token.
- Nuovo contestoIl token generato contribuisce al passaggio seguente.
Il ciclo si ripete. Un testo plausibile non è automaticamente vero.
Ma allora l’IA sceglie sempre il token più probabile?
Non necessariamente.
Ed è proprio qui che il funzionamento dell’IA generativa diventa ancora più interessante.
Se il sistema selezionasse sempre e soltanto il token con la probabilità più elevata, la generazione potrebbe assumere caratteristiche diverse da quelle desiderate.
I sistemi generativi possono utilizzare differenti strategie per determinare quale token selezionare tra quelli possibili.
Entrano così in gioco concetti come:
- sampling;
- temperatura;
- top-k;
- top-p.
Non dobbiamo ancora approfondirli.
Per il momento è sufficiente comprendere una conseguenza fondamentale:
la risposta generata non deve necessariamente essere identica ogni volta.
La stessa richiesta può produrre formulazioni differenti perché la generazione può includere una componente di selezione probabilistica.
Questo sarà uno dei prossimi passaggi del nostro percorso.
Probabilità non significa verità
Arriviamo ora al punto più importante per chi utilizza questi sistemi professionalmente.
Un modello linguistico può produrre una sequenza altamente plausibile senza che quella sequenza sia necessariamente vera.
La probabilità con cui un token viene selezionato riguarda la generazione della sequenza linguistica.
Non costituisce, da sola, una verifica della verità dell’affermazione risultante.
Consideriamo una richiesta apparentemente semplice:
“Indicami una sentenza della Corte di cassazione che afferma questo principio.”
Il modello può generare una risposta formalmente perfetta:
- numero della sentenza;
- anno;
- sezione;
- principio di diritto;
- spiegazione;
- collegamento logico con il caso prospettato.
La struttura può apparire assolutamente credibile.
Ma la plausibilità linguistica non dimostra che quella sentenza esista realmente, né che affermi davvero ciò che il sistema le attribuisce.
Questo è un passaggio decisivo:
testo plausibile ≠ informazione verificata.
E, nel diritto:
testo plausibile ≠ fonte giuridica affidabile.
Perché questo è particolarmente importante per l’avvocato
Per un utilizzo ricreativo dell’IA, un’imprecisione può talvolta avere conseguenze modeste.
Nell’attività professionale il quadro cambia radicalmente.
Una norma inesistente, una sentenza attribuita alla sezione sbagliata, un precedente realmente esistente ma interpretato in modo scorretto o una citazione apparentemente precisa possono entrare in:
- un parere;
- una lettera;
- un contratto;
- un atto giudiziario;
- una memoria;
- una comunicazione al cliente.
La qualità linguistica dell’output può quindi generare un rischio particolare: aumentare la fiducia dell’utilizzatore proprio quando sarebbe necessario verificare.
Per questo la conoscenza tecnica diventa parte della competenza professionale nell’utilizzo dell’IA.
Sapere che il modello genera mediante un processo probabilistico aiuta a comprendere perché l’output non può essere assunto automaticamente come fonte.
L’IA può assistere il professionista.
La verifica rimane umana.
Non significa che il modello “sceglie le parole a caso”
Sarebbe però sbagliato passare all’estremo opposto.
Dire che la generazione ha natura probabilistica non significa affermare che il modello costruisca frasi scegliendo parole casualmente.
Le probabilità dipendono dal contesto elaborato dal modello e dalle relazioni apprese durante il training.
La sequenza precedente condiziona quindi fortemente ciò che può venire dopo.
È proprio questa capacità di modellare relazioni linguistiche estremamente complesse che consente ai moderni modelli di generare testi coerenti, modificare registro linguistico, riassumere documenti, tradurre, rispondere a domande e svolgere numerose altre attività.
Il punto da ricordare non è dunque:
“l’IA scrive casualmente”.
È invece:
“l’IA genera attraverso un processo probabilistico che non coincide con una verifica automatica della verità.”
La differenza è fondamentale.
Da dove arrivano queste probabilità?
Per comprenderlo dobbiamo ricollegarci al percorso già compiuto.
Durante il training, il modello modifica i propri parametri sulla base dei dati e dell’obiettivo di apprendimento.
Abbiamo già visto che i parametri sono valori numerici interni e che, nelle reti neurali, pesi e bias partecipano alle trasformazioni matematiche attraverso cui vengono elaborati gli input.
Abbiamo poi visto che il Transformer consente di modellare relazioni tra gli elementi della sequenza.
Durante la generazione, tutto questo patrimonio di parametri appresi concorre all’elaborazione del contesto e alla determinazione dei possibili token successivi.
Per questo la previsione non nasce da una banca dati contenente semplicemente frasi già pronte da recuperare.
Il modello utilizza le rappresentazioni e i parametri appresi per produrre il proprio output.
Questo ci porterà successivamente a una distinzione importantissima:
ciò che il modello genera sulla base dei propri parametri non è la stessa cosa di ciò che un sistema può recuperare da una fonte esterna.
È il punto dal quale arriveremo, più avanti, al RAG — Retrieval-Augmented Generation.
Ed è qui che iniziamo a capire le “allucinazioni”
Quando un sistema produce un’affermazione falsa ma linguisticamente convincente si utilizza frequentemente il termine allucinazione.
Per ora fermiamoci qui.
Non dobbiamo ancora studiarne cause, classificazioni o rimedi.
Ci interessa soltanto registrare una relazione:
generazione probabilistica → plausibilità linguistica → possibile errore fattuale → necessità di verifica.
L’allucinazione merita infatti un approfondimento autonomo, soprattutto per l’attività dell’avvocato.
Perché il problema non è soltanto che l’IA possa sbagliare.
Il problema è che può sbagliare bene: produrre cioè un’informazione errata con una forma linguistica sufficientemente convincente da renderla apparentemente affidabile.
Generazione e diritto: un primo ponte
Comprendere cosa significhi tecnicamente “contenuto generato dall’IA” permette anche di affrontare con maggiore precisione le norme che utilizzano questo concetto.
L’articolo 50 dell’AI Act disciplina specifici obblighi di trasparenza relativi, tra l’altro, a sistemi che interagiscono direttamente con persone e a determinate categorie di contenuti generati o manipolati mediante IA. Gli obblighi dell’articolo 50 sono applicabili dal 2 agosto 2026.
Questo, tuttavia, non significa che ogni utilizzo professionale di un sistema generativo comporti automaticamente un obbligo generalizzato dell’avvocato di dichiarare l’impiego dell’IA.
Le Guidelines della Commissione distinguono le differenti fattispecie previste dall’articolo 50 e, con riferimento ai deployer, considerano specificamente anche testi generati o manipolati dall’IA pubblicati per informare il pubblico su questioni di interesse pubblico quando manchino revisione umana o controllo editoriale.
La questione giuridica merita pertanto un approfondimento autonomo nel Diritto & AI.
Qui ci basta registrare il collegamento:
generazione tecnica → contenuto generato → trasparenza → controllo umano → responsabilità.
L’avvocato rimane al centro
Il fatto che un sistema possa produrre rapidamente testi complessi non trasferisce al sistema la funzione professionale.
L’avvocato deve continuare a governare la prestazione.
Questo significa, a seconda dell’attività svolta:
- verificare le fonti;
- controllare norme e precedenti;
- valutare la pertinenza dell’argomentazione;
- proteggere i dati e il segreto professionale;
- comprendere i limiti dello strumento utilizzato;
- assumere personalmente la decisione professionale finale.
Comprendere il meccanismo della generazione non è quindi un esercizio informatico fine a se stesso.
Serve a utilizzare meglio lo strumento.
E soprattutto a capire quando non dobbiamo fidarci semplicemente di ciò che leggiamo sullo schermo.
Continua il percorso
Prima di questo articolo
Da qui proseguiremo verso
- Che cos’è davvero un LLM
- Sampling e temperatura
- Perché la stessa domanda può produrre risposte diverse
- Allucinazioni
- Prompt e istruzioni
- Context window
- Fonti e RAG
- Verifica professionale dell’output
Torna al percorso AI Literacy · Esplora AI spiegata semplice