AI SPIEGATA SEMPLICE 10
IN BREVE
Abbiamo visto che durante il training un modello modifica i propri parametri.
Quando arriva un nuovo input, quei parametri vengono utilizzati durante l’inferenza per produrre un risultato.
Ma come si passa dall’input all’output?
Una delle idee fondamentali del machine learning è che il modello non deve necessariamente applicare una regola rigida del tipo:
SE accade A → ALLORA rispondi B
Può invece stimare, sulla base di ciò che ha appreso, quale risultato sia più compatibile con l’input ricevuto.
Entrano così in gioco due concetti essenziali:
probabilità e previsione.
Capirli ci permetterà, più avanti, di comprendere perché un’intelligenza artificiale generativa può produrre risposte differenti, perché un output plausibile non è necessariamente vero e, infine, come funziona un Large Language Model.
Da dove ripartiamo
La sequenza concettuale è la seguente:
DATI
↓
TRAINING
↓
PARAMETRI
↓
MODELLO
↓
INFERENZA
↓
OUTPUT
L’approfondimento sui parametri ha mostrato che durante il training vengono adattati valori numerici interni al modello.
Ora immaginiamo che il training sia terminato.
Arriva un nuovo input.
Il modello deve produrre un output.
È qui che comincia l’inferenza.
Inferenza non significa ragionamento umano
La parola inferenza può trarre in inganno un giurista.
Nel linguaggio comune e nella logica, inferire significa ricavare una conclusione da determinate premesse.
Nel machine learning il termine assume un significato tecnico.
In modo semplice possiamo dire che l’inferenza è la fase nella quale un modello già addestrato utilizza ciò che ha appreso per elaborare nuovi input e produrre un output.
Non dobbiamo quindi immaginare automaticamente un ragionamento umano.
Il modello esegue operazioni matematiche utilizzando la propria struttura e i parametri appresi.
Questo punto è importante anche sul piano normativo.
L’articolo 3 dell’AI Act descrive il sistema di IA come un sistema automatizzato che, per determinati obiettivi, deduce dall’input ricevuto come generare output, tra i quali previsioni, contenuti, raccomandazioni o decisioni.
La norma utilizza quindi l’inferenza come elemento centrale della nozione di sistema di IA.
Ma non afferma che una macchina “ragioni” come una persona.
Un esempio semplicissimo
Immaginiamo un modello addestrato a distinguere documenti appartenenti a due categorie.
Riceve un nuovo documento.
Il risultato interno, semplificando moltissimo, potrebbe essere:
Possibili risultati
NUOVO INPUT
↓
MODELLO
↓
Categoria A — 82%
Categoria B — 18%
↓
OUTPUT
Esempio semplificato: il significato dei valori dipende dal modello e dalla sua calibrazione. Percentuali fittizie a solo scopo didattico.
Il modello può quindi classificare il documento nella categoria A.
Non perché abbia trovato necessariamente una regola scritta:
se il documento contiene X, allora appartiene ad A.
Il risultato può derivare dall’insieme delle relazioni apprese durante il training.
Questo è un primo modo per comprendere la previsione.
Che cos’è una probabilità?
In termini elementari, la probabilità ci aiuta a rappresentare quanto un determinato risultato sia considerato possibile rispetto ad altri risultati all’interno di un determinato modello matematico.
Una probabilità può essere espressa, ad esempio, tra:
0 e 1
oppure, in modo più intuitivo, come percentuale:
0% → 100%
Ma qui dobbiamo introdurre immediatamente una cautela.
Se un modello attribuisce a un risultato il valore 90%, non possiamo automaticamente tradurre quel numero nella frase:
«C’è il 90% di probabilità che questa affermazione sia vera.»
Dipende da che cosa rappresenta quel valore, da come il modello è stato costruito e da come sono calibrati i suoi output.
Questa distinzione diventerà importantissima quando parleremo degli LLM.
È anche il punto di partenza per comprendere perché gli LLM possono produrre risposte plausibili ma non affidabili.
Probabilità non significa verità
Questo è forse il concetto più importante dell’articolo.
ALTA PROBABILITÀ ≠ VERITÀ
Un sistema può attribuire un punteggio elevato a un risultato e quel risultato può comunque essere errato.
Perché?
Perché il modello opera sulla base di ciò che ha appreso dai dati e delle relazioni matematiche incorporate nei propri parametri.
Non possiede automaticamente un accesso alla verità del mondo.
Facciamo un esempio vicino alla professione forense.
Immaginiamo un sistema che, sulla base di determinate caratteristiche, attribuisca:
Documento contrattuale → 93%
Il sistema sta classificando il documento.
Non sta certificando giuridicamente che quel documento sia un contratto valido.
La qualificazione giuridica richiede un’analisi ulteriore.
Prevedere non significa prevedere il futuro
Anche la parola previsione può creare confusione.
Nel machine learning una prediction non deve necessariamente riguardare qualcosa che accadrà domani.
Può significare, ad esempio:
- classificare un’immagine;
- stimare un valore;
- individuare una categoria;
- assegnare un punteggio;
- prevedere una parola o un altro elemento;
- suggerire un risultato sulla base di un input.
Quindi:
PREDICTION ≠ necessariamente FUTURO
È più corretto immaginarla come un output prodotto dal modello sulla base delle relazioni apprese.
Classificazione e regressione
Classificazione
Il modello deve scegliere fra categorie.
Per esempio:
email → spam / non spam
oppure:
documento → categoria A / categoria B / categoria C
Il risultato può essere associato a valori o probabilità relative alle diverse classi.
Regressione
Il modello deve invece stimare un valore numerico.
Per esempio:
caratteristiche di un immobile → stima di un valore
Sono problemi differenti, ma entrambi ci mostrano che il machine learning può utilizzare ciò che ha appreso per produrre risultati su nuovi input.
Non serve ancora conoscere la matematica che sta dietro questi processi.
Ci interessa comprendere il principio.
Il modello confronta risultati possibili
Possiamo immaginare, sempre in modo didattico:
Regola rigida e previsione
Regola rigida
SE A
↓
ALLORA B
Modello
INPUT
↓
ELABORAZIONE SULLA BASE DI CIÒ CHE È STATO APPRESO
↓
STIMA / PREVISIONE
↓
OUTPUT
Confronto didattico: il software tradizionale non è sempre deterministico e l’IA non è sempre probabilistica.
NUOVO INPUT
↓
MODELLO + PARAMETRI APPRESI
↓
VALUTAZIONE DI POSSIBILI OUTPUT
↓
OUTPUT SELEZIONATO O STIMATO
Questa rappresentazione non descrive ogni algoritmo di machine learning.
Serve però a far emergere una differenza fondamentale rispetto a un programma tradizionale composto esclusivamente da istruzioni deterministiche.
Il comportamento del modello può dipendere da relazioni statistiche apprese dai dati.
Deterministico e probabilistico
Introduciamo due termini che incontreremo spesso.
Un processo deterministico, semplificando, produce lo stesso risultato quando parte dalle stesse condizioni e segue le stesse regole.
Un processo probabilistico incorpora invece una rappresentazione dell’incertezza o una scelta basata su probabilità.
Ma attenzione.
Non dobbiamo concludere che:
software tradizionale = sempre deterministico
e
IA = sempre casuale
La realtà è più complessa.
Un sistema di IA può contenere componenti deterministiche e probabilistiche.
E persino un modello che calcola una distribuzione di probabilità può essere configurato in modo da selezionare sempre il risultato con il valore più elevato.
Queste distinzioni diventeranno fondamentali quando parleremo di generazione del linguaggio.
Un modello può sbagliare pur essendo “sicuro” della risposta?
Nel linguaggio quotidiano potremmo dirlo.
Tecnicamente è meglio essere più precisi.
Il modello non prova sicurezza o insicurezza.
Può attribuire un valore elevato a un determinato output.
Ma quel valore non equivale a una convinzione soggettiva.
Quindi eviteremo formule come:
«L’IA è convinta che…»
Preferiremo:
«Il modello attribuisce un punteggio o una probabilità elevata a…»
È un piccolo cambiamento linguistico che evita di antropomorfizzare la macchina.
Probabilità e affidabilità non sono la stessa cosa
Un altro errore sarebbe confondere:
probabilità prodotta dal modello
con
affidabilità complessiva del sistema.
L’affidabilità dipende da molti fattori:
dati, architettura, training, contesto d’uso, qualità dell’input, robustezza, accuratezza, eventuali cambiamenti dell’ambiente e modalità con cui il sistema viene utilizzato.
Per questo un singolo numero non può dirci automaticamente se possiamo fidarci di un sistema.
Il NIST utilizza infatti un approccio molto più ampio alla trustworthy AI, mentre AgID struttura la propria terminologia richiamando anche standard ISO/IEC e il quadro europeo.
Dalla tecnica al diritto
Qui il percorso tecnico comincia nuovamente a incontrare il diritto.
L’AI Act non si limita a parlare genericamente di “intelligenza”.
La definizione dell’articolo 3 guarda concretamente al rapporto:
INPUT → INFERENZA → OUTPUT
e individua tra gli output:
previsioni → contenuti → raccomandazioni → decisioni.
Questa scelta lessicale è significativa.
Il diritto europeo disciplina sistemi che possono produrre output capaci di influenzare ambienti fisici o virtuali.
La questione giuridica non è quindi stabilire se la macchina “pensi”.
È comprendere che cosa produce, come viene utilizzato quell’output e quali conseguenze può determinare.
Le Guidelines della Commissione sulla definizione di sistema di IA aiutano proprio a interpretare operativamente questi elementi, pur avendo natura non vincolante.
Perché interessa a un avvocato?
Immaginiamo che uno strumento di IA analizzi documenti e attribuisca:
rilevante → 87%
Quel numero non sostituisce la valutazione professionale dell’avvocato.
Occorre chiedersi almeno:
Che cosa misura realmente?
Come è stato ottenuto?
Quanto è affidabile nel contesto concreto?
Quali errori può commettere?
Il professionista ha verificato il risultato?
La decisione finale rimane sotto controllo umano?
È qui che la conoscenza tecnica diventa competenza professionale.
L’avvocato non deve trasformarsi in un matematico.
Deve però comprendere abbastanza il funzionamento dello strumento da non attribuire all’output un significato che tecnicamente non possiede.
Attenzione
Un valore numerico può dare un’impressione di precisione.
87% sembra molto più autorevole di “probabilmente”.
Ma la presenza di una percentuale non rende automaticamente il risultato corretto.
Questa sarà una regola importante per tutto il nostro percorso:
precisione numerica apparente ≠ certezza sostanziale
Nel lavoro giuridico questa distinzione è particolarmente importante perché l’output dell’IA può entrare in attività nelle quali un errore produce conseguenze professionali, processuali o sui diritti delle persone.
Il concetto fondamentale
Il training modifica i parametri.
L’inferenza utilizza il modello addestrato.
Il modello elabora un nuovo input.
Può attribuire valori, punteggi o probabilità a possibili risultati.
Da questa elaborazione viene prodotto un output.
Possiamo quindi aggiornare la nostra mappa:
Mappa progressiva
DATI
↓
TRAINING
↓
PARAMETRI
↓
MODELLO
↓
NUOVO INPUT
↓
INFERENZA
↓
PROBABILITÀ / STIMA
↓
OUTPUT
Schema didattico progressivo della collana HUMAIURIS.
Ma ora nasce una domanda ancora più interessante.
Se l’output non è una categoria ma una frase, come può un modello produrre il linguaggio una parte alla volta?
Per rispondere dovremo finalmente incontrare:
token → probabilità → generazione del testo.
Ed è lì che inizieremo davvero a capire come funziona un Large Language Model.
Fonti
AI Act — testo consolidato EUR-Lex
Commissione europea — Guidelines sulla definizione di sistema di IA
AgID — Strumento A, termini e definizioni
NIST — The Language of Trustworthy AI
AgID costituisce qui il riferimento terminologico italiano qualificato; NIST è utilizzato come fonte tecnica internazionale complementare. Le Guidelines della Commissione sono un orientamento istituzionale non vincolante, non una fonte normativa equivalente all’AI Act.
Continua il percorso
Prima
AI SPIEGATA SEMPLICE 09 — Parametri e pesi. Dove resta ciò che il modello ha imparato.
Approfondimento giuridico
MAGAZINE 02 — Modello, sistema e GPAI nell’AI Act. Perché la distinzione tecnica produce conseguenze giuridiche.
Prossimo passo
AI SPIEGATA SEMPLICE 11 — Token. Come l’intelligenza artificiale divide il linguaggio prima di elaborarlo.