AI SPIEGATA SEMPLICE · FONDAMENTI
IN BREVE
Un modello linguistico non lavora direttamente con parole e frasi nel modo in cui le legge un avvocato. Dopo la tokenizzazione, gli elementi elaborati dal modello devono essere rappresentati matematicamente.
Uno degli strumenti fondamentali sono gli embedding: rappresentazioni numeriche, organizzate come vettori, che permettono al sistema di collocare elementi all’interno di uno spazio matematico nel quale possono emergere relazioni e similarità.
Comprendere questo passaggio è importante anche per il giurista: aiuta a capire perché un sistema può individuare testi semanticamente vicini senza per questo averne compreso il significato giuridico.
Dal token ai numeri
Abbiamo già visto che un modello linguistico non riceve necessariamente una frase come una sequenza di parole intere.
Prima avviene la tokenizzazione.
Una frase come:
Il giudice ha pronunciato la sentenza.
viene trasformata in una sequenza di token.
Ma rimane un problema.
Una rete neurale esegue operazioni matematiche. Per questo il sistema ha bisogno di rappresentazioni numeriche degli elementi sui quali deve lavorare.
È qui che incontriamo gli embedding.
Che cos’è un embedding
Un embedding è una rappresentazione vettoriale di un elemento all’interno di uno spazio matematico.
Google descrive l’embedding come una rappresentazione vettoriale dei dati in un embedding space.
Per capire l’idea non occorre conoscere l’algebra lineare.
Immaginiamo di trasformare un elemento in una sequenza di numeri:
sentenza → [0,17; −0,42; 0,81; …]
Questi numeri sono soltanto un esempio illustrativo.
Un embedding reale può avere molte dimensioni e i singoli valori non devono essere interpretati come etichette leggibili dall’uomo.
Non dobbiamo quindi pensare:
0,17 = giudice
−0,42 = processo
0,81 = decisione
Non funziona così.
La rappresentazione acquisisce significato soprattutto attraverso le relazioni matematiche tra rappresentazioni.
Che cos’è un vettore
Abbiamo introdotto un altro termine tecnico.
Un vettore, nel significato che ci interessa qui, può essere immaginato semplicemente come una sequenza ordinata di valori numerici.
Per esempio:
[0,21; 0,74; −0,16]
Un embedding è quindi rappresentabile mediante un vettore.
Non serve, in questa fase del percorso, conoscere le operazioni matematiche sui vettori.
Ci interessa capire il principio:
elemento → rappresentazione numerica → elaborazione matematica.
Lo spazio degli embedding
Possiamo fare un altro passo.
Se disponiamo di molte rappresentazioni vettoriali, possiamo immaginare che occupino differenti posizioni all’interno di uno spazio di embedding (embedding space).
Google lo definisce come uno spazio vettoriale nel quale vengono mappate le rappresentazioni e nel quale può essere catturata una struttura significativa per l’applicazione considerata.
In termini intuitivi:
elementi maggiormente correlati possono risultare matematicamente più vicini di elementi meno correlati.
È questa idea che rende gli embedding particolarmente importanti.
- ElementoUn token o altro elemento viene rappresentato numericamente.
- VettoreLa rappresentazione è una sequenza di numeri.
- ConfrontoLe rappresentazioni possono essere confrontate nello spazio del modello.
- UsoLe relazioni numeriche possono contribuire a elaborazione e recupero delle informazioni.
Similarità matematica, significato umano e rilevanza giuridica non sono la stessa cosa.
Un esempio per il giurista
Immaginiamo, in maniera volutamente semplificata, quattro elementi:
sentenza
tribunale
giudice
bicicletta
In uno spazio costruito in modo appropriato potremmo trovare rappresentazioni di sentenza, tribunale e giudice relativamente vicine rispetto alla rappresentazione di bicicletta.
Questo consente al sistema di utilizzare relazioni che non dipendono esclusivamente dalla presenza della stessa parola.
Ed è uno dei passaggi che, permette di capire la ricerca semantica.
Ma attenzione.
Vicinanza matematica non significa comprensione giuridica
Questa distinzione è fondamentale per HUMAIURIS.
Se due testi hanno rappresentazioni matematicamente simili, non possiamo concludere automaticamente che siano giuridicamente equivalenti.
Due sentenze possono parlare entrambe di responsabilità contrattuale e risultare semanticamente vicine, pur applicando principi differenti o arrivando a conclusioni opposte.
Analogamente, due clausole contrattuali linguisticamente simili possono produrre conseguenze giuridiche diverse.
L’embedding rappresenta quindi relazioni utilizzabili computazionalmente.
Non sostituisce l’interpretazione giuridica dell’avvocato.
Embedding non significa “significato trasformato in numeri”
Questa formula viene spesso utilizzata per spiegare gli embedding, ma deve essere maneggiata con cautela.
Dire semplicemente che l’IA «trasforma il significato in numeri» rischia di attribuire al sistema qualcosa che non abbiamo dimostrato.
È più corretto dire che vengono costruite rappresentazioni numeriche capaci di catturare determinate relazioni utili al modello.
Inoltre, le dimensioni di uno spazio di embedding reale non sono necessariamente interpretabili dall’essere umano.
Quindi:
embedding ≠ comprensione umana del significato.
Embedding e Transformer
Ora possiamo collegare alcuni pezzi della nostra mappa.
Abbiamo già incontrato:
token → rete neurale → Transformer → attention.
Gli embedding aggiungono un passaggio essenziale.
In forma molto semplificata:
testo
↓
tokenizzazione
↓
token
↓
rappresentazioni numeriche
↓
Transformer / attention
↓
rappresentazioni contestualizzate
↓
elaborazione e previsione dell’output
Il quadro reale è molto più complesso, ma questa mappa è sufficiente per costruire il prossimo livello della nostra AI Literacy.
Perché interessa a un avvocato
Gli embedding non sono soltanto una curiosità tecnica.
Più avanti li ritroveremo quando parleremo di sistemi capaci di cercare informazioni all’interno di grandi raccolte documentali.
Pensiamo a uno studio che disponga di:
atti, contratti, pareri, sentenze e documentazione dei fascicoli.
Una ricerca basata soltanto sulle parole esatte e una ricerca basata anche su rappresentazioni semantiche possono comportarsi diversamente.
Questo ci porterà progressivamente a comprendere:
ricerca semantica → vector database → chunking → retrieval → RAG.
Ed è qui che la tecnologia tornerà direttamente alla professione forense.
Dovremo domandarci non soltanto come il sistema recupera un documento, ma anche:
perché ha recuperato proprio quello?
quali documenti non ha recuperato?
la similarità matematica corrisponde davvero alla rilevanza giuridica?
l’avvocato può verificare la fonte originaria?
Sono domande tecnologiche che diventano immediatamente domande professionali.
Il concetto fondamentale
Un embedding permette di rappresentare elementi mediante vettori e di utilizzare matematicamente le relazioni tra tali rappresentazioni.
Ma:
similarità matematica ≠ identità di significato
e soprattutto:
similarità semantica ≠ rilevanza giuridica.
Per l’avvocato questa distinzione sarà decisiva quando utilizzeremo l’IA per cercare precedenti, documenti, clausole o informazioni all’interno di un fascicolo.
Continua il percorso
Abbiamo aggiunto un nuovo tassello:
testo → token → embedding → rappresentazioni → Transformer → output.
Prima di affrontare il RAG occorre chiarire un passaggio ulteriore.
Prima dobbiamo capire come si misura la vicinanza tra rappresentazioni e che cosa significa realmente “similarità” in uno spazio vettoriale.
Solo dopo avremo gli strumenti per capire perché un sistema può cercare semanticamente all’interno di migliaia di documenti.
Prerequisito: Token. Come l’intelligenza artificiale divide il linguaggio prima di elaborarlo
Collegamento: Transformer e attention. Come il modello mette in relazione gli elementi del linguaggio
Percorso: AI spiegata semplice · AI Literacy
Approfondimento applicativo già disponibile Che cos’è il RAG e perché permette all’IA di usare delle fonti.