Você entende mesmo bem a IA?

Modelos não veem palavras, veem tokens: pedaços de subpalavras com cerca de quatro caracteres em média em inglês. Isso importa porque a cobrança é por token e porque os limites de contexto são contados em tokens, não em páginas.

O perigoso não é o erro, é a confiança. Um modelo não tem um sinal interno para “não sei”, então uma citação inventada se lê exatamente como uma real. É por isso que o hábito de checar fontes importa mais do que a escolha do modelo.

Tudo disputa a mesma janela: suas instruções, o documento colado, a conversa até ali e a resposta. Quando um chat longo começa a “esquecer” o início, é a janela enchendo — não o modelo perdendo o interesse.

RAG é recuperação mais um prompt maior — nada muda no modelo. É aí que está a graça: seus documentos continuam sendo seus, atualizá-los é instantâneo e o modelo pode citar o que recebeu.

Um exemplo concreto vale mais do que qualquer quantidade de adjetivos. “Seja preciso” não dá ao modelo nada em que se apoiar; uma amostra do formato, do tamanho e do tom que você quer dá a ele um alvo a acertar.

O conhecimento próprio fica congelado na data de corte. A maioria das ferramentas disfarça isso com busca na web ao vivo — por isso a mesma pergunta pode receber uma resposta atual em um produto e uma desatualizada em outro, usando o mesmo modelo.

A regra prática: quanto mais precisa e verificável for uma afirmação, mais provável é que uma invenção pareça convincente e cause estrago. Rascunhos e brainstormings falham sem consequência; um número de processo inventado, não.

Fine-tuning ensina comportamento e estilo, não fatos. Times recorrem a ele e depois descobrem que o problema real era conhecimento — algo que o RAG resolve melhor, mais rápido e mais barato.

Temperatura baixa faz o modelo escolher o próximo token mais provável, então a saída fica consistente e repetitiva. Temperatura alta afrouxa isso. Nada disso torna nada mais verdadeiro — uma falsidade dita com confiança na temperatura 0 continua sendo uma falsidade.

Planos gratuitos e de consumo costumam se reservar o direito de guardar o que você envia e treinar com isso, e “apagar” raramente significa sumir dos sistemas deles. Trate tudo o que você cola em um chatbot público como potencialmente público — para qualquer coisa sensível, use um plano corporativo com controles de dados ou uma implantação privada.