162 articoli
Esplora le guide
La regolarizzazione baratta un po’ di accuratezza sull’addestramento per una generalizzazione migliore. Le forme più comuni sono penalizzare i pesi grandi, spegnere unità a caso durante l’addestramento e fermarsi presto. È la leva principale contro l’overfitting quando non puoi ottenere più dati. In pratica: Il dropout spegne a caso alcune unità a ogni passo, così la rete non può dipendere da nessuna di esse in particolare.
I modelli di regressione producono un valore continuo — un prezzo, una temperatura, una stima dei giorni che mancano all’abbandono. Il contrasto con la classificazione sta in ciò che prevedi, non nel modo in cui il modello funziona internamente. In pratica: Stimare che un appartamento sarà venduto a €340,000.
Una rete neurale prende un input sotto forma di numeri, li moltiplica per pesi appresi, applica una funzione non lineare e passa il risultato allo strato successivo. Ripeti abbastanza volte con abbastanza dati e la rete riesce ad approssimare relazioni notevolmente complesse. L’analogia con i ’neuroni’ è un’etichetta storica, non un’affermazione sulla biologia. In pratica: Un classificatore di immagini è una rete neurale che trasforma 200.000 valori di pixel in un numero per ogni etichetta possibile. ...
Il RAG divide il lavoro in due: una fase di recupero trova i passaggi rilevanti per la domanda, poi il modello risponde usando quei passaggi come contesto. È la soluzione standard per i limiti temporali della conoscenza, per i dati privati e per le allucinazioni, perché il modello è ancorato a testo che può citare. La qualità del recupero fissa il tetto — il modello migliore non può salvare i tre paragrafi sbagliati. ...
La ricerca ibrida esegue insieme il recupero lessicale e quello semantico e ne fonde le classifiche. Le parole chiave centrano le corrispondenze esatte — codici prodotto, nomi, stringhe di errore — mentre i vettori gestiscono le parafrasi. Nella RAG in produzione questa combinazione batte regolarmente ciascuna delle due presa da sola. In pratica: ‘Rimborso errore E-4471’ ha bisogno sia del codice esatto sia del concetto di rimborso.
La ricerca vettoriale trasforma la query in embedding e restituisce i vettori memorizzati più vicini, così ‘come faccio a riavere i miei soldi’ trova una politica di rimborso che quelle parole non le usa mai. È il motore di recupero dietro il RAG. È anche più debole della ricerca per parole chiave sugli identificatori esatti, ed è per questo che esiste la ricerca ibrida. In pratica: Una query che non condivide alcun vocabolario fa comunque emergere il documento giusto. ...
L’articolo 3(65) lega il rischio sistemico ai modelli GPAI le cui capacità eguagliano o superano lo stato dell’arte attuale e la cui diffusione potrebbe incidere in modo significativo sul mercato dell’Unione. La designazione porta doveri aggiuntivi: test avversariali, segnalazione degli incidenti, cybersicurezza e valutazione. È la risposta del regolamento ai modelli di frontiera. In pratica: Un modello che supera la soglia di calcolo fa scattare obblighi aggiuntivi per il suo fornitore. ...
L’RLHF raccoglie classifiche umane degli output del modello, addestra un modello di ricompensa a prevedere quelle preferenze e poi ottimizza il modello linguistico rispetto a esso. Questa fase di post-training è quasi tutta la differenza tra un semplice predittore del token successivo e un assistente utilizzabile. Codifica anche le preferenze di chi ha stilato le classifiche, il che è un limite reale e poco discusso. In pratica: Due risposte, un essere umano sceglie la migliore, si ripete qualche centinaio di migliaia di volte. ...
La robustezza è la prestazione fuori dal test set ordinato: refusi, casi limite, spostamenti della distribuzione, attacchi. Un modello accurato sui dati puliti che crolla sui dati reali non è accurato in nessun senso che conti. È una delle caratteristiche di affidabilità del NIST AI RMF e un requisito per i sistemi ad alto rischio nell’UE. In pratica: L’accuratezza scende dal 94% al 51% quando le foto in input sono scattate con poca luce. ...
Il role prompting imposta una prospettiva — ‘sei un consulente fiscale che esamina questo documento in ottica di rischio’ — e questo sposta ciò che il modello considera rilevante. Cambia in modo affidabile registro ed enfasi. Non aggiunge conoscenza né autorità : dire a un modello che è un avvocato non rende il suo output una consulenza legale. In pratica: ‘Esamina questo come farebbe un CFO scettico’ fa emergere obiezioni diverse rispetto a ’esamina questo’. ...