AI SPIEGATA SEMPLICE 06
IN BREVE
Nel machine learning un sistema modifica il proprio comportamento ricavando regolarità dai dati, invece di ricevere soltanto regole dettagliate per ogni singolo caso.
Questo apprendimento non coincide con la comprensione umana: il sistema individua configurazioni utili a produrre risultati sulla base del processo di addestramento.
Dati, obiettivi, progettazione e valutazione dipendono comunque da scelte umane, che restano decisive anche per l’uso giuridico e professionale.
Finora abbiamo seguito un percorso preciso. Abbiamo visto che cosa fa un computer, come rappresenta i dati, che cosa significa algoritmo e perché il passaggio dal software tradizionale ai sistemi capaci di inferire introduce qualcosa di nuovo.
Ora possiamo affrontare una delle espressioni più utilizzate quando si parla di intelligenza artificiale. Machine learning, in italiano apprendimento automatico.
Il nome può trarre in inganno.
Quando diciamo che una macchina “impara”, non stiamo necessariamente dicendo che comprende ciò che sta facendo, che acquisisce esperienza come una persona o che sviluppa una propria consapevolezza.
Stiamo descrivendo un particolare modo di costruire sistemi informatici.
Invece di stabilire anticipatamente tutte le regole che il programma dovrà applicare, possiamo utilizzare dati ed esempi affinché un procedimento di addestramento determini o adatti i parametri di un modello.
È qui che comincia il nostro viaggio nel machine learning.
Partiamo da un problema semplice
Immaginiamo di voler costruire un programma capace di distinguere due categorie di documenti.
Potremmo provare a scrivere molte regole.
Se nel documento compare una certa espressione, assegna un punteggio.
Se compare un’altra espressione, sottrai un punteggio.
Se sono presenti determinate caratteristiche, classifica il documento nella categoria A.
Altrimenti, classificalo nella categoria B.
Il programmatore stabilisce anticipatamente il procedimento che il software deve seguire.
In forma molto semplificata possiamo rappresentarlo così.
DATI → REGOLE PROGRAMMATE → RISULTATO
Ma immaginiamo ora che il problema diventi molto più complesso.
Le caratteristiche rilevanti potrebbero essere centinaia o migliaia. Le combinazioni possibili potrebbero essere difficili da prevedere. Scrivere manualmente una regola per ogni situazione potrebbe diventare impraticabile.
Possiamo allora cambiare approccio.
Forniamo al sistema dei dati e utilizziamo un procedimento di addestramento affinché vengano determinati o modificati i parametri di un modello.
Lo schema diventa diverso.
DATI DI ADDESTRAMENTO → ALGORITMO DI APPRENDIMENTO → MODELLO
Dopo l’addestramento, quel modello potrà essere utilizzato su nuovi input.
NUOVO INPUT → MODELLO ADDESTRATO → OUTPUT
Questa distinzione è fondamentale.
Il training, cioè l’addestramento, e l’utilizzo successivo del modello non sono la stessa operazione.
Che cosa significa davvero “imparare”
Qui dobbiamo fare attenzione al linguaggio.
La parola apprendimento appartiene originariamente al nostro modo di descrivere attività umane e animali. Applicata alle macchine assume un significato tecnico.
In termini molto semplificati, durante l’addestramento un sistema può modificare determinati parametri sulla base dei dati e del procedimento utilizzato.
Un parametro può essere immaginato, per ora, come uno dei valori interni che contribuiscono a determinare il comportamento del modello.
Non dobbiamo ancora conoscere la matematica che sta dietro a questo processo.
Ci basta comprendere la differenza concettuale.
Nel software tradizionale molte regole operative vengono definite direttamente attraverso la programmazione.
Nel machine learning almeno una parte del comportamento del modello deriva invece da un processo di apprendimento effettuato utilizzando dati.
Questa è una semplificazione didattica. I sistemi reali possono combinare regole programmate, modelli appresi, procedure deterministiche e altre componenti.
Il diritto europeo parla già di addestramento
Questo passaggio non appartiene soltanto al linguaggio degli informatici.
L’AI Act utilizza espressamente il concetto di dati di addestramento.
L’articolo 3, punto 29, del Regolamento (UE) 2024/1689 li definisce come i dati utilizzati per addestrare un sistema di IA adattandone i parametri che può apprendere. Lo stesso articolo distingue i dati di addestramento dai dati di convalida, dai dati di prova e dai dati di input.
Questa distinzione è molto utile anche per comprendere tecnicamente il processo.
Possiamo rappresentarla, ancora una volta in modo semplificato, così.
DATI DI ADDESTRAMENTO
servono al processo attraverso il quale viene addestrato il modello.
DATI DI CONVALIDA
servono a valutarlo durante lo sviluppo e possono essere utilizzati per mettere a punto aspetti del processo di apprendimento.
DATI DI PROVA
servono a effettuare una valutazione indipendente delle prestazioni attese prima dell’immissione sul mercato o della messa in servizio, secondo la definizione dell’AI Act.
DATI DI INPUT
sono invece i dati forniti al sistema, o acquisiti direttamente dallo stesso, sulla base dei quali viene prodotto un output.
Queste categorie non devono essere confuse.
Un esempio vicino al lavoro del giurista
Immaginiamo di avere migliaia di documenti già classificati secondo determinate categorie.
Durante l’addestramento un sistema di machine learning può utilizzare esempi e caratteristiche ricavate dai dati per determinare i parametri di un modello.
Successivamente arriva un documento nuovo.
Il sistema non deve necessariamente cercare una regola del tipo
se compare la parola X, allora categoria A.
Utilizza il modello risultante dall’addestramento per produrre una classificazione del nuovo documento.
Questa distinzione è importante perché cambia anche il modo in cui dobbiamo formulare una domanda molto frequente.
Dove sono scritte le regole che hanno prodotto quel risultato?
In un programma tradizionale può essere possibile ricostruire direttamente una sequenza di istruzioni predisposte dal programmatore.
In un sistema di machine learning la risposta può essere più complessa perché una parte rilevante del comportamento dipende dai parametri appresi durante l’addestramento.
Questo non significa che il sistema sia inspiegabile per definizione.
Significa che dobbiamo capire quale sistema stiamo osservando e come è stato costruito.
Il modello non è il programma intero
Un altro equivoco frequente consiste nel confondere il modello con l’intero sistema di intelligenza artificiale.
Non sono necessariamente la stessa cosa.
Il modello è una componente che può essere inserita all’interno di un sistema più ampio.
Intorno al modello possono esserci software tradizionale, interfacce, database, sistemi di autenticazione, filtri, strumenti di sicurezza, procedure di controllo e altre componenti.
Possiamo quindi immaginare, in termini puramente didattici
SISTEMA DI IA
↓
software e infrastruttura
↓
modello
↓
dati e input
↓
procedure e controlli
↓
output
È una rappresentazione volutamente semplificata. Serve a evitare l’equazione
modello = intero sistema di IA.
Non tutta l’intelligenza artificiale è machine learning
Questo punto è particolarmente importante.
Nel linguaggio comune intelligenza artificiale e machine learning vengono spesso utilizzati quasi come sinonimi.
Non lo sono.
Anche il quadro europeo delle competenze digitali DigComp 2.2, nella versione italiana pubblicata da AgID, richiama questa distinzione e colloca il machine learning come una modalità dell’IA, non come sinonimo universale dell’intelligenza artificiale.
Lo stesso documento ricorda inoltre un elemento essenziale. Dietro ai sistemi di IA rimangono decisioni umane che riguardano, fra l’altro, selezione e preparazione dei dati, progettazione e addestramento dei modelli.
Questo è particolarmente importante per un giurista.
Parlare di apprendimento della macchina non deve far scomparire dalla nostra analisi le decisioni umane che precedono, accompagnano e governano il sistema.
I dati non sono una materia prima neutrale
Se il comportamento del modello dipende anche dall’addestramento, la qualità dei dati diventa un problema centrale.
Dati incompleti, scarsamente rappresentativi, errati o caratterizzati da determinate distorsioni possono incidere sulle prestazioni del sistema.
L’AI Act rende evidente la rilevanza del problema nella disciplina dei sistemi ad alto rischio. Nel testo consolidato, l’articolo 10 disciplina la governance dei dati utilizzati per addestramento, convalida e prova e richiede, nell’ambito della disciplina applicabile, attenzione alla pertinenza, rappresentatività, qualità e alle possibili distorsioni.
Questo ci porta a una conseguenza importante.
Non possiamo valutare un sistema di IA guardando soltanto il suo output.
Quando necessario dobbiamo interrogarci anche sul modello, sui dati, sul contesto nel quale viene utilizzato e sui controlli predisposti.
Perché tutto questo interessa l’avvocato
Supponiamo che uno strumento assegni a documenti, persone o situazioni una determinata classificazione.
Per il giurista non basta sapere che il software ha prodotto un risultato.
Diventano rilevanti domande ulteriori.
Da quali dati dipende il modello?
Quale risultato deve produrre?
Quali errori può commettere?
Il risultato è una previsione, una raccomandazione, una classificazione o una decisione?
Quale persona verifica l’output?
Quali conseguenze derivano dall’utilizzo di quell’output?
Queste domande ci fanno uscire dalla semplice descrizione tecnica.
Entriamo progressivamente nel terreno della responsabilità, della protezione dei dati, della non discriminazione, della sicurezza, della trasparenza e della tutela dei diritti.
Ma c’è soprattutto una domanda che deve accompagnare tutto il percorso di HUMAIURIS.
Chi mantiene il governo della decisione?
ATTENZIONE
Dire che un sistema di machine learning “impara” non significa attribuirgli necessariamente comprensione, intenzione o coscienza.
Il termine descrive un processo tecnico.
Allo stesso modo, dire che un modello individua regolarità nei dati non significa che conosca il significato giuridico o umano di ciò che sta elaborando.
Questa distinzione diventerà ancora più importante quando arriveremo ai modelli linguistici.
Il ruolo dell’essere umano non scompare
Il machine learning può modificare profondamente il modo nel quale vengono costruiti alcuni sistemi informatici.
Non elimina però l’essere umano.
Persone e organizzazioni scelgono gli obiettivi, progettano i sistemi, selezionano o governano i dati, stabiliscono procedure, determinano contesti d’uso e decidono se e come utilizzare gli output.
Anche il NIST AI Risk Management Framework considera la gestione del rischio lungo il ciclo di vita dei sistemi di IA e insiste sulla necessità di incorporare caratteristiche di affidabilità nella progettazione, nello sviluppo, nell’uso e nella valutazione dei sistemi. Per HUMAIURIS questa fonte mantiene una funzione tecnica comparativa e integrativa, mentre il quadro normativo di riferimento resta europeo e italiano.
NIST AI Risk Management Framework
Per l’avvocato il principio rimane fermo.
L’intelligenza artificiale è uno strumento a supporto del professionista e non sostituisce l’avvocato.
IL CONCETTO FONDAMENTALE
Nel machine learning non vengono necessariamente programmate anticipatamente tutte le regole che determineranno ogni singolo risultato.
Attraverso l’addestramento, i dati contribuiscono alla determinazione dei parametri di un modello che potrà successivamente essere utilizzato per produrre output a partire da nuovi input.
“Apprendere”, però, è qui un termine tecnico.
Non significa automaticamente comprendere.
Fonti
Unione europea
Regolamento (UE) 2024/1689 — AI Act, EUR-Lex
Per la pubblicazione utilizzeremo il testo consolidato vigente, con particolare attenzione alle definizioni dell’articolo 3 e, quando pertinente, alla disciplina dei dati contenuta nell’articolo 10. Il testo consolidato disponibile su EUR-Lex incorpora le modifiche successive.
Italia
AgID — DigComp 2.2, versione italiana
La fonte è utilizzata per contestualizzare il machine learning nel quadro italiano delle competenze digitali e per evidenziare il ruolo delle scelte umane nella costruzione e nell’addestramento dei sistemi.
Fonte tecnica
NIST — Artificial Intelligence Risk Management Framework 1.0
È utilizzato come riferimento tecnico internazionale complementare. Non sostituisce le fonti normative europee e italiane.
Il prossimo passo
Abbiamo compreso che cosa significa addestrare un modello.
Ora possiamo fare una domanda ancora più interessante.
Come fa un modello a trasformare ciò che ha appreso dai dati in una previsione o in un altro output quando riceve un nuovo input?
È il passaggio che ci porterà a distinguere meglio training e inferenza e, successivamente, a comprendere che cosa accade nei modelli più complessi.
Training e inferenza. Prima la macchina impara dai dati, poi usa ciò che ha appreso
Il tema è sviluppato nell’approfondimento dedicato a training e inferenza.
Continua il percorso
AI spiegata semplice → per tornare all’indice progressivo della collana.
AI Literacy → per inserire questi concetti nel percorso strutturato di alfabetizzazione sull’intelligenza artificiale.