AI SPIEGATA SEMPLICE 07
IN BREVE
Training e inferenza sono due fasi differenti. Durante il training il modello modifica i propri parametri sulla base dei dati; durante l’inferenza utilizza quanto appreso per elaborare nuovi input.
Quando si interagisce con un sistema già disponibile si svolge normalmente inferenza, non un nuovo addestramento del modello.
La distinzione è importante perché fornire un documento nel contesto non significa, di regola, modificare automaticamente i parametri del modello.
Nel precedente articolo abbiamo visto che il machine learning consente a un sistema di ricavare dai dati regolarità utilizzabili per produrre risultati rispetto a nuovi input.
Adesso dobbiamo fare un passo ulteriore.
Quando utilizziamo un sistema di intelligenza artificiale già disponibile, per esempio per classificare un documento o formulare una previsione, normalmente non stiamo assistendo al suo addestramento. Stiamo utilizzando qualcosa che è stato costruito in precedenza attraverso una fase di apprendimento.
Per comprendere questa differenza dobbiamo introdurre due concetti fondamentali.
Training e inferenza.
Sono due momenti diversi e distinguerli ci permetterà, negli articoli successivi, di capire che cosa siano un modello, i suoi parametri e il ruolo della probabilità.
Partiamo da un esempio molto semplice
Immaginiamo di voler costruire un sistema capace di distinguere due categorie di documenti.
Contratti e sentenze.
Disponiamo di molti documenti dei quali conosciamo già la categoria corretta.
Possiamo rappresentare, in modo estremamente semplificato, la prima fase così.
DOCUMENTI → ADDESTRAMENTO → MODELLO
Il sistema utilizza gli esempi disponibili durante il processo di addestramento.
Al termine di questa fase otteniamo un modello addestrato.
A questo punto arriva un documento nuovo, che non faceva parte degli esempi utilizzati in precedenza.
Il modello deve produrre un risultato.
Possiamo rappresentare questa seconda fase così.
NUOVO DOCUMENTO → MODELLO ADDESTRATO → INFERENZA → OUTPUT
Per esempio
“Sentenza”
Questa seconda operazione è l’inferenza.
Training e inferenza non sono la stessa cosa
Possiamo quindi fissare una prima distinzione.
Training
È il processo attraverso il quale un modello viene addestrato utilizzando dati e una determinata procedura di apprendimento.
Inferenza
È il processo attraverso il quale il modello addestrato viene utilizzato per produrre un output a partire da nuovi input.
Questa distinzione è fondamentale perché consente di separare concettualmente il momento in cui il modello viene costruito o addestrato dal momento in cui viene utilizzato.
La documentazione tecnica di AgID dedicata allo sviluppo dei sistemi di intelligenza artificiale distingue espressamente attività di training, fine-tuning e inferenza. Anche l’AI Act utilizza in numerose disposizioni la nozione di dati di addestramento e disciplina specificamente i sistemi che fanno uso di tecniche che comportano l’addestramento di modelli di IA con dati.
Bozza AgID delle Linee guida per lo sviluppo di sistemi di IA nella pubblica amministrazione
Un’analogia utile per il giurista
Pensiamo a un praticante che studia molte decisioni relative a una determinata materia.
Legge le sentenze, confronta i casi, osserva quali elementi ricorrono e impara progressivamente a riconoscere alcune configurazioni.
Questa fase può aiutarci, soltanto come analogia, a immaginare il training.
Successivamente gli viene sottoposto un caso nuovo.
Il praticante utilizza ciò che ha appreso per formulare una valutazione sul nuovo problema.
Questa seconda situazione può aiutarci a intuire il concetto di inferenza.
Ma l’analogia deve fermarsi qui.
Una persona comprende testi, significati e contesti attraverso capacità cognitive che non possiamo semplicemente attribuire a una macchina.
Il modello esegue operazioni computazionali sulla base della struttura appresa durante l’addestramento.
ATTENZIONE
L’analogia serve a comprendere la distinzione funzionale tra due fasi. Non significa che l’apprendimento automatico coincida con l’apprendimento umano.
Che cosa succede durante il training
Per ora possiamo utilizzare uno schema molto semplice.
DATI
↓
ALGORITMO O PROCEDURA DI APPRENDIMENTO
↓
TRAINING
↓
MODELLO ADDESTRATO
Durante il training il sistema utilizza i dati per modificare progressivamente alcuni elementi interni del modello secondo la procedura di apprendimento adottata.
Non approfondiamo ancora che cosa venga modificato.
È precisamente il problema che affronteremo quando parleremo dei parametri.
Per ora ci basta comprendere il risultato concettuale.
Prima del training abbiamo un modello che deve essere addestrato.
Dopo il training disponiamo di un modello nel quale il processo di apprendimento ha determinato una certa configurazione interna.
Un secondo esempio
Immaginiamo un sistema destinato a riconoscere messaggi appartenenti a due categorie.
Messaggio normale
oppure
Spam
Durante l’addestramento vengono utilizzati numerosi esempi.
Il sistema può ricavare dai dati determinate regolarità utili alla classificazione.
Terminato l’addestramento arriva un messaggio nuovo.
Il modello deve stabilire a quale categoria assegnarlo.
Non è necessario, in questo esempio semplificato, ripetere da zero l’intero training ogni volta che arriva una nuova e-mail.
Il modello utilizza quanto appreso per produrre la classificazione.
Questa è inferenza.
Un errore da evitare
Potremmo essere tentati di pensare
“Ho scritto qualcosa nel chatbot, quindi gli ho insegnato qualcosa.”
Non necessariamente.
Il fatto che un sistema utilizzi il nostro input per produrre una risposta non significa, da solo, che quell’input venga utilizzato in quel momento per riaddestrare il modello.
Sono questioni differenti.
Dobbiamo distinguere almeno
utilizzo dell’input per produrre l’output
da
eventuale utilizzo dei dati per ulteriori finalità, compreso un possibile addestramento o miglioramento del sistema.
Questa distinzione diventerà molto importante per il professionista.
Quando un avvocato utilizza un servizio di IA, infatti, deve conoscere non soltanto ciò che il sistema produce, ma anche le condizioni alle quali vengono trattati i dati inseriti.
Perché questa distinzione interessa l’avvocato
Immaginiamo di inserire in un servizio di intelligenza artificiale il contenuto di un documento relativo a un cliente.
La prima domanda potrebbe essere
“Che risposta produrrà il sistema?”
Ma non è l’unica.
Occorre chiedersi anche quale trattamento venga effettuato sull’input, per quanto tempo i dati vengano conservati, quali soggetti possano accedervi e se possano essere utilizzati per finalità ulteriori rispetto alla generazione dell’output.
La distinzione tra training e inferenza, quindi, non è soltanto una curiosità informatica.
È una delle basi tecniche che consentono al professionista di formulare correttamente le domande giuridiche.
Quando entreranno in gioco dati personali, informazioni riservate o documenti coperti dal segreto professionale, queste domande assumeranno una rilevanza ancora maggiore.
Il collegamento con l’AI Act
La distinzione che stiamo costruendo trova riscontro anche nel linguaggio del Regolamento europeo sull’intelligenza artificiale.
L’articolo 10 dell’AI Act disciplina, per i sistemi ad alto rischio interessati dalla disposizione, i set di dati utilizzati nelle fasi di addestramento, convalida e prova e stabilisce requisiti relativi alla governance e alla qualità dei dati. Il testo consolidato vigente contempla espressamente i sistemi ad alto rischio che utilizzano tecniche comportanti l’addestramento di modelli di IA con dati.
AI Act nel testo consolidato su EUR-Lex
Questo ci mostra qualcosa di importante.
Il dato utilizzato per addestrare un modello e il dato fornito successivamente al sistema durante il suo utilizzo non devono essere confusi soltanto perché entrambi sono “dati”.
Ruolo, fase del ciclo di vita e trattamento possono essere differenti.
E l’inferenza nell’AI Act
La parola inferenza ha inoltre un’importanza particolare nella stessa definizione di sistema di IA.
Le Guidelines della Commissione sulla definizione di sistema di IA spiegano come interpretare gli elementi della definizione contenuta nell’AI Act e sono espressamente destinate ad aiutare a stabilire quando un sistema software rientri nel concetto giuridico di sistema di IA. Le Guidelines hanno natura interpretativa e non vincolante.
Commissione europea — Guidelines sulla definizione di sistema di IA
Questo passaggio è particolarmente utile per noi.
Stiamo imparando un concetto tecnico, ma scopriamo immediatamente che quel concetto entra anche nel linguaggio normativo.
È precisamente il motivo per cui un giurista che si occupa di intelligenza artificiale deve possedere almeno una base di AI literacy.
Training e inferenza sono sempre nettamente separati?
La distinzione è essenziale per imparare, ma non dobbiamo trasformarla in una regola assoluta sulla struttura di ogni sistema esistente.
Esistono tecniche di aggiornamento, adattamento e apprendimento che rendono il quadro più articolato.
Esiste inoltre il fine-tuning, attraverso il quale un modello già addestrato può essere ulteriormente adattato. La documentazione AgID distingue, ad esempio, il fine-tuning dall’inferenza nel descrivere l’impiego di modelli pre-addestrati.
Non abbiamo ancora bisogno di approfondire queste tecniche.
Ci interessa, per ora, costruire una mappa mentale corretta.
TRAINING
Il modello viene addestrato.
INFERENZA
Il modello viene utilizzato per produrre risultati rispetto a nuovi input.
Questa distinzione ci accompagnerà per tutto il resto del percorso.
La mappa costruita finora
Possiamo ora collegare training e inferenza ai concetti precedenti.
COMPUTER
↓
elabora informazioni rappresentate digitalmente
↓
DATI
↓
vengono elaborati mediante procedure
↓
ALGORITMI
↓
definiscono operazioni e procedure
↓
SOFTWARE
↓
realizza concretamente determinate funzionalità
↓
MACHINE LEARNING
↓
consente di ricavare regolarità dai dati
↓
TRAINING
↓
produce un modello addestrato
↓
INFERENZA
↓
utilizza il modello per produrre un output rispetto a nuovi input
Adesso manca una domanda inevitabile.
Che cos’è esattamente questo “modello” di cui continuiamo a parlare?
Sarà il nostro prossimo passo.
Il concetto fondamentale
Training e inferenza indicano due momenti concettualmente differenti. Nel training il modello viene addestrato utilizzando dati e una procedura di apprendimento. Nell’inferenza il modello addestrato viene utilizzato per produrre un output rispetto a nuovi input.
Comprendere questa distinzione è essenziale anche per il giurista, perché consente di formulare domande più precise sul funzionamento del sistema e sul ruolo dei dati nelle diverse fasi.
L’IA rimane uno strumento.
La valutazione dell’output, la tutela delle informazioni utilizzate e la decisione professionale restano affidate alla persona.
Fonti
Regolamento (UE) 2024/1689 — Artificial Intelligence Act, testo consolidato Fonte normativa europea. In particolare, definizione di sistema di IA e disciplina dei dati utilizzati per addestramento, convalida e prova dei sistemi ad alto rischio.
EUR-Lex — AI Act, testo consolidato
Commissione europea — Guidelines on the definition of an artificial intelligence system Fonte istituzionale interpretativa. Utile per approfondire la nozione di inferenza nella definizione europea di sistema di IA. Le Guidelines non hanno natura vincolante.
Commissione europea — Guidelines sulla definizione di sistema di IA
AgID — Bozza di Linee guida per lo sviluppo di sistemi di Intelligenza Artificiale nella pubblica amministrazione Fonte istituzionale italiana in versione di consultazione, utilizzata per la contestualizzazione tecnica nazionale. Il documento distingue, fra l’altro, training, fine-tuning e inferenza. Proprio perché si tratta di una bozza, questa qualificazione deve essere mantenuta.
AgID — documento in consultazione
Il prossimo passo
Che cos’è un modello di intelligenza artificiale. Ciò che resta dopo il training
Continua il percorso
AI spiegata semplice → per ripercorrere dall’inizio computer, dati, algoritmi, software e machine learning.
AI Literacy → per collocare questi concetti nel percorso formativo strutturato di HUMAIURIS.