AI SPIEGATA SEMPLICE · FONDAMENTI
IN BREVE
Una rete neurale artificiale è un modello computazionale formato da unità organizzate in livelli. Le informazioni entrano nella rete come valori numerici, vengono progressivamente trasformate e producono un output.
Pesi e bias sono parametri appresi utilizzati nelle trasformazioni tra i livelli. Il singolo neurone combina gli input mediante i rispettivi pesi e applica una funzione di attivazione. Durante l’addestramento molti parametri vengono modificati affinché il modello migliori rispetto all’obiettivo previsto.
Nel linguaggio delle reti neurali, il bias qui indicato è un parametro matematico del modello e non deve essere confuso con il diverso concetto di bias o distorsione algoritmica, fenomeno che può assumere autonoma rilevanza tecnica e giuridica, anche sotto il profilo della discriminazione.
La parola neurale può però essere fuorviante. Un neurone artificiale non è un neurone biologico e una rete neurale artificiale non deve essere immaginata come un piccolo cervello digitale.
Comprendere questa struttura permette di collegare concetti che abbiamo già incontrato — training, parametri e pesi — e soprattutto di capire meglio il Transformer.
Perché dobbiamo parlare di reti neurali
Abbiamo già incontrato dati, addestramento, modelli, parametri, pesi, token e probabilità.
Quando abbiamo spiegato il Transformer e il meccanismo di attention, però, è comparsa un’espressione importante: architettura di rete neurale.
Prima di procedere oltre dobbiamo quindi capire che cosa significa. Una rete neurale artificiale può essere vista, in prima approssimazione, come una struttura nella quale informazioni rappresentate numericamente attraversano una successione di trasformazioni.
INPUT → TRASFORMAZIONI → OUTPUT
La realtà matematica è naturalmente più complessa. Ma questa prima rappresentazione ci permette di costruire il concetto un elemento alla volta.
Il “neurone” artificiale
Cominciamo dalla parola più insidiosa.
Nel machine learning un neurone artificiale, spesso chiamato anche nodo o unità, è un elemento computazionale che riceve valori, li combina utilizzando determinati parametri e produce un nuovo valore.
Il glossario di Google descrive il neurone attraverso due operazioni fondamentali: combinazione ponderata degli input e applicazione di una funzione di attivazione.
NEURONE ARTIFICIALE ≠ NEURONE DEL CERVELLO
La terminologia deriva storicamente dall’ispirazione biologica, ma ciò che stiamo descrivendo è una struttura matematica e computazionale. Dire che una rete possiede “neuroni” non significa quindi dire che pensa, comprende o ragiona come una persona.
Dai singoli neuroni ai livelli
Le unità non sono normalmente considerate isolate. Sono organizzate in livelli, in inglese layers.
- Il livello di input riceve la rappresentazione iniziale.
- Uno o più livelli intermedi, o hidden layers, trasformano progressivamente l’informazione.
- Il livello di output produce la rappresentazione richiesta per il compito svolto dal modello.
Google indica come hidden layers i livelli collocati tra input e output e mostra come ulteriori livelli consentano di ricombinare i dati mediante ulteriori parametri.
Connessioni, pesi e trasformazioni
Qui possiamo recuperare un concetto già studiato nell’articolo sui parametri e i pesi.
Supponiamo che un’unità riceva diverse informazioni. Non necessariamente tutte devono incidere nello stesso modo sul risultato. Il neurone combina gli input utilizzando i rispettivi pesi; insieme ai bias, questi valori costituiscono parametri appresi impiegati nelle trasformazioni tra i livelli.
INPUT → PESI E BIAS → UNITÀ → NUOVA RAPPRESENTAZIONE
Durante l’addestramento tali parametri possono essere modificati per migliorare il comportamento del modello rispetto all’obiettivo previsto. Ecco perché era importante comprendere parametro e peso prima di arrivare alle reti neurali.
Che cosa fa una funzione di attivazione
Semplificando molto, un neurone riceve valori, li combina e produce un nuovo valore. Una tipica unità calcola una combinazione ponderata degli input e applica poi una funzione di attivazione.
La funzione di attivazione è una funzione matematica applicata al valore calcolato dall’unità prima che il risultato venga utilizzato nelle elaborazioni successive. Per ora è sufficiente questo: le diverse funzioni e il loro significato matematico appartengono a un livello successivo del percorso.
- InputLe informazioni entrano nella rete come valori numerici.
- Connessioni e pesiLe connessioni contribuiscono al calcolo secondo i pesi del modello.
- LivelliLe trasformazioni producono rappresentazioni intermedie.
- OutputLa rete restituisce un risultato da interpretare nel contesto del compito.
Il richiamo ai neuroni è un’analogia: una rete neurale artificiale non è un cervello umano.
Che cosa significa che una rete “impara”
Anche qui dobbiamo evitare un’ambiguità linguistica. Quando diciamo che la rete impara, non stiamo descrivendo l’apprendimento nel significato umano del termine.
Durante il training vengono modificati parametri del modello in modo da ridurre gli errori rispetto all’obiettivo dell’addestramento. In una rete neurale questo processo riguarda, tra gli altri, pesi e bias.
TRAINING → MODIFICA DEI PARAMETRI → COMPORTAMENTO DEL MODELLO
I capitoli precedenti non erano quindi indipendenti: stavamo progressivamente costruendo gli elementi necessari per arrivare qui.
Da una rete semplice alle reti profonde
Una rete può avere più livelli intermedi. Quando vengono utilizzati molti livelli di elaborazione entriamo nel territorio del deep learning, cioè l’impiego di reti neurali con più livelli per apprendere rappresentazioni progressivamente trasformate.
Non dobbiamo approfondirlo adesso. Il deep learning meriterà una propria spiegazione quando diventerà necessario comprendere più nel dettaglio le architetture moderne.
E il Transformer?
Ora possiamo comprendere meglio una frase già incontrata: il Transformer è un’architettura di rete neurale.
Non significa semplicemente che “usa l’intelligenza artificiale”. Significa che appartiene alla famiglia delle architetture costruite attraverso strutture computazionali organizzate in livelli e parametri appresi, introducendo un’organizzazione particolarmente importante per l’elaborazione delle sequenze: il meccanismo di attention.
Il Transformer non sostituisce ciò che abbiamo imparato sulle reti neurali. Si costruisce sopra quelle fondamenta.
Il concetto fondamentale
Una rete neurale è una struttura computazionale nella quale valori numerici attraversano trasformazioni organizzate in livelli, governate anche da parametri appresi durante l’addestramento.
Non è una mente artificiale. Non pensa o comprende come una persona. È una struttura matematica che possiamo rappresentare così:
DATI → INPUT → UNITÀ E LIVELLI → PESI E BIAS → TRASFORMAZIONI → OUTPUT
Da qui possiamo tornare al Transformer con un pezzo fondamentale in più.
Continua il percorso
- Prerequisito: Parametri e pesi. Dove resta ciò che il modello ha imparato.
- Ora: Che cos’è una rete neurale. Neuroni, livelli, connessioni e pesi.
- Continua con: Embeddings. Come l’intelligenza artificiale trasforma gli elementi del linguaggio in rappresentazioni numeriche.
Consulta anche il percorso AI spiegata semplice e la mappa permanente AI Literacy.