Quanto capisci davvero l'IA?

I modelli non vedono parole, vedono token: frammenti di sotto-parola di circa quattro caratteri in media in inglese. Conta perché la fatturazione è a token e perché i limiti di contesto si misurano in token, non in pagine.

La parte pericolosa non è l'errore, è la sicurezza. Un modello non ha alcun segnale interno per « non lo so », quindi una citazione inventata si legge esattamente come una vera. Ecco perché le abitudini di verifica delle fonti contano più della scelta del modello.

Tutto compete per la stessa finestra: le tue istruzioni, il documento incollato, la conversazione fino a quel punto e la risposta. Quando una chat lunga inizia a « dimenticare » l'inizio, è la finestra che si riempie — non il modello che perde interesse.

Il RAG è recupero più un prompt più lungo — nel modello non cambia nulla. È proprio questo il bello: i tuoi documenti restano tuoi, aggiornarli è immediato e il modello può citare ciò che gli è stato dato.

Un esempio concreto batte qualsiasi quantità di aggettivi. « Sii preciso » non dà al modello nulla su cui agire; un campione del formato, della lunghezza e del tono che vuoi gli dà un bersaglio da centrare.

La conoscenza incorporata è congelata alla data di taglio. La maggior parte degli strumenti lo maschera con la ricerca web in tempo reale — per questo la stessa domanda può ottenere una risposta aggiornata in un prodotto e una obsoleta in un altro, con lo stesso modello.

La regola pratica: più un'affermazione è precisa e verificabile, più è probabile che un'invenzione sembri convincente e faccia danni. Bozze e brainstorming falliscono senza conseguenze; un numero di fascicolo inventato no.

Il fine-tuning insegna comportamento e stile, non fatti. I team ci si buttano e poi scoprono che il loro vero problema era la conoscenza — e quella il RAG la risolve meglio, più in fretta e a meno.

Una temperatura bassa spinge il modello a scegliere il token successivo più probabile, quindi l'output è coerente e ripetitivo. Una temperatura alta allenta questa spinta. Non rende nulla più vero — una falsità detta con sicurezza a temperatura 0 resta una falsità.

I piani gratuiti e consumer spesso si riservano il diritto di conservare ciò che inserisci e di addestrarci sopra, e « cancellare » raramente significa sparito dai loro sistemi. Tratta tutto ciò che incolli in un chatbot pubblico come potenzialmente pubblico — per qualsiasi cosa sensibile usa un piano enterprise con controlli sui dati, o un deployment privato.