162 articoli
Esplora le guide
Un solo esempio basta spesso a fissare il formato quando il compito in sé è chiaro ma la forma dell’output no. È il modo più economico per impedire a un modello di avvolgere il JSON dentro un testo discorsivo. In pratica: Mostra una coppia input-output, poi passa l’input vero.
L’orchestrazione è la logica di instradamento e controllo attorno ai modelli: nuovi tentativi, fallback, escalation che parte dal modello economico, passaggi in parallelo, stato. In produzione è questo strato, non il modello, a determinare di solito se il sistema è affidabile e sostenibile nei costi. In pratica: Instrada i ticket facili a un modello piccolo, fai salire quelli ambigui a un modello di ragionamento.
L’output strutturato vincola la generazione a JSON valido o a uno schema fornito, invece di sperare che un prompt produca testo interpretabile. È la differenza tra una demo e una pipeline, perché elimina l’intera categoria di errori del tipo ‘il modello ha aggiunto una frase gentile prima del JSON’. In pratica: Garantire che ogni risposta contenga invoice_number, amount e currency, oppure fallisca in modo rumoroso.
Un modello in overfitting ha imparato il rumore oltre al segnale. Ottiene punteggi brillanti sui dati che ha già visto e scarsi su quelli che non ha visto. I rimedi soliti sono più dati, meno capacità del modello, regolarizzazione e interruzione anticipata dell’addestramento quando la loss di validazione riprende a salire. In pratica: 99% sui dati di addestramento, 62% in produzione — un caso da manuale.
I parametri sono i valori apprendibili dentro un modello — soprattutto pesi e bias. L’addestramento è il processo di spostarli finché gli output del modello smettono di essere sbagliati. I numeri da titolo come ‘70B parametri’ descrivono la capacità , non la qualità : architettura, dati e post-training contano spesso più della dimensione grezza. In pratica: Un modello da 70B ha all’incirca 70 miliardi di numeri regolabili; un numero più grande non significa automaticamente risposte migliori. ...
ReAct — reason più act — fa sì che il modello dichiari il proprio ragionamento, compia un’azione, legga l’osservazione e ragioni di nuovo. Alternare le due cose funziona meglio che ragionare tutto in anticipo, perché gli ambienti reali riservano sorprese. Quasi tutti i framework per agenti ne implementano una versione. In pratica: Pensiero: mi serve la data della fattura. Azione: search_invoices. Osservazione: tre risultati. Pensiero: scelgo la più recente.
I pesi determinano quanto ciascun input contribuisce a ciascun output, a ogni livello. Partono da valori casuali e vengono aggiornati dalla discesa del gradiente finché la loss smette di migliorare. Quando si parla di ‘pesi aperti’ si intende che i numeri addestrati sono scaricabili, ed è questo che rende possibile l’uso locale e self-hosted. In pratica: Scaricare un modello a pesi aperti significa scaricare un file di miliardi di numeri in virgola mobile. ...
L’articolo 5 vieta un elenco definito, che comprende le tecniche manipolative che distorcono materialmente il comportamento e causano danno, lo sfruttamento delle vulnerabilità , il punteggio sociale da parte o per conto delle autorità pubbliche, lo scraping non mirato di immagini facciali per costruire banche dati di riconoscimento e l’inferenza delle emozioni sul lavoro e a scuola — con eccezioni ristrette. Valgono a prescindere dalla valutazione del rischio: non c’è una via di conformità . ...
La precisione chiede: di tutto ciò che il modello ha segnalato, quanto era giusto? Il recall chiede: di tutto ciò che avrebbe dovuto segnalare, quanto ne ha colto? Le due si scambiano l’una con l’altra, e quale ottimizzare è una decisione di prodotto, non tecnica. L’accuratezza le nasconde entrambe. In pratica: Un modello antifrode che coglie il 60% delle frodi (recall) con il 90% dei suoi allarmi autentici (precisione) può battere uno accurato al 99.9% che non ne coglie nessuna. ...
La privacy differenziale aggiunge rumore calibrato affinché i singoli record non possano essere ricostruiti a partire dagli output, con un budget di privacy regolabile che quantifica la garanzia. A differenza dell’anonimizzazione, è una dimostrazione e non una speranza. Il prezzo è l’accuratezza, e il budget è limitato nell’arco delle interrogazioni. In pratica: Pubblicare statistiche aggregate che non possono essere usate per identificare un singolo rispondente.