162 articoli
Esplora le guide
Il chunking è il passaggio meno affascinante e più determinante di una pipeline RAG. I chunk troppo grandi diluiscono l’embedding e sprecano contesto; quelli troppo piccoli perdono il significato che li rendeva rilevanti. Suddividere seguendo la struttura — titoli, sezioni — funziona meglio che suddividere in base al numero di caratteri. In pratica: Tagliare un contratto a metà clausola, così il recupero restituisce mezza frase che non significa nulla.
Il ciclo agentico è la struttura di controllo che trasforma un modello senza stato in qualcosa che porta a termine il lavoro. Ogni passaggio riporta l’esito dell’azione precedente nella decisione successiva, così l’agente può riprendersi dagli errori. I cicli hanno bisogno di condizioni di arresto esplicite, altrimenti un agente continuerà allegramente a ritentare all’infinito e a farti pagare il conto. In pratica: Cerca → leggi il risultato → capisci che è sbagliato → affina la query → riprova. ...
Un modello di classificazione produce una classe anziché un numero: spam o no, quale tra cinque lingue, quale malattia. La sua qualità si misura con precisione, richiamo e metriche affini — la sola accuratezza è fuorviante ogni volta che una classe è rara. In pratica: Smistare i ticket di assistenza in fatturazione, tecnico o account.
Il computer use permette a un agente di lavorare con software privo di API guidando direttamente l’interfaccia. Sblocca sistemi legacy e strumenti di nicchia al prezzo di essere più lento e più fragile di un’integrazione vera. Poiché eredita tutti i permessi dell’utente, la sandbox non è facoltativa. In pratica: Compilare un modulo in un portale interno costruito nel 2009 e privo di API.
Le Content Credentials, basate sullo standard C2PA, allegano a un file una cronologia a prova di manomissione — acquisito con questa fotocamera, modificato qui, generato da quel modello. L’approccio dimostra la provenienza invece di rilevare i falsi, il che è un problema più trattabile. Il suo punto debole è che rimuovere i metadati è banale, quindi la loro assenza non prova nulla. In pratica: Un’immagine le cui credenziali mostrano che proviene da una fotocamera e non da un generatore. ...
Il context engineering è la disciplina nata attorno al prompting quando le finestre di contesto sono diventate grandi: con spazio per centinaia di pagine, la domanda non è più ‘cosa dico’ ma ‘di cosa ha davvero bisogno il modello’. Il contesto irrilevante peggiora l’output in modo misurabile, quindi la selezione batte l’accumulo. In pratica: Recuperare tre sezioni pertinenti invece di incollare l’intero manuale di 200 pagine.
Un copilot lavora al tuo fianco dentro l’applicazione — suggerendo la riga successiva, abbozzando il paragrafo, proponendo la formula. La differenza rispetto a un agente è chi tiene il volante: il copilot propone, tu accetti. Il nome è ormai generico, pur essendo anche un marchio commerciale. In pratica: Un completamento automatico che termina la funzione che stavi per scrivere.
I token di input e quelli di output hanno di solito prezzi diversi, e l’output è il lato caro. I costi crescono con la lunghezza della conversazione perché la cronologia viene rispedita a ogni turno, ed è per questo che le app di chat fatte in modo ingenuo diventano care in fretta. Caching, contesto più corto e instradamento verso modelli più piccoli sono le leve standard. In pratica: Rispedire un documento di 50 pagine a ogni domanda di follow-up, e pagarlo ogni volta. ...
Il poisoning attacca il modello prima che esista. Una piccola quantità di dati costruiti ad arte può installare una backdoor che si comporta normalmente tranne che su un input scelto dall’attaccante. È un problema di catena di fornitura, ed è per questo che la provenienza dei dati è un controllo di sicurezza e non solo documentazione. In pratica: Esempi iniettati che spingono un filtro ad approvare qualsiasi cosa contenga una certa frase. ...
I database vettoriali indicizzano vettori ad alta dimensionalità in modo che ’trova gli elementi più simili’ venga eseguito in millisecondi su milioni di record. Sono il livello di archiviazione sotto la maggior parte dei sistemi RAG. Se ti serva uno strumento dedicato o basti un’estensione vettoriale sul database che già hai dipende interamente dalla scala. In pratica: Conservare ogni paragrafo della tua documentazione come vettore, così un bot di supporto può recuperare i tre giusti. ...