AI Glossary

Engenharia de Prompt

Engenharia de prompt é a prática de enunciar tarefa, público, formato e restrições com precisão suficiente para que o modelo consiga entregar. As alavancas confiáveis são especificidade, exemplos, formato de saída explícito e dar ao modelo o contexto que falta. A maioria dos problemas de ‘o modelo não consegue fazer isso’ acaba sendo prompt mal especificado. Na prática: Acrescentar dois exemplos de saída reduz erros de formato mais do que qualquer adjetivo algum dia vai reduzir. ...

Envenenamento de dados

O envenenamento ataca o modelo antes de ele existir. Uma pequena quantidade de dados forjados pode instalar um backdoor que se comporta normalmente, exceto na entrada escolhida pelo atacante. É um problema de cadeia de suprimentos, e é por isso que a proveniência dos dados é um controle de segurança, e não apenas documentação. Na prática: Exemplos injetados que fazem um filtro aprovar qualquer coisa que contenha uma frase específica. ...

Época

O treinamento normalmente leva muitas épocas, já que olhar os dados uma única vez raramente basta. Poucas demais e o modelo fica subajustado; muitas demais e ele começa a memorizar. Modelos muito grandes às vezes treinam por menos de uma época inteira, simplesmente porque o conjunto de dados é enorme. Na prática: Dez épocas sobre 50,000 imagens significam que o modelo viu cada imagem dez vezes.

Equidade

Equidade parece uma propriedade só, mas são várias: acurácia igual entre grupos, taxas iguais de falso positivo, resultados iguais. Está matematicamente provado que não dá para satisfazer todas as definições razoáveis ao mesmo tempo, exceto em casos triviais. Então trabalhar com equidade significa escolher qual definição o seu contexto exige e defender essa escolha. Na prática: Igualar as taxas de erro entre grupos pode forçar taxas de aprovação desiguais, e vice-versa. ...

Espaço de ações

O espaço de ações define o que um agente consegue alcançar. Pequeno demais e ele não termina o trabalho; grande demais e ele comete mais erros, ampliando o raio de impacto de cada um. Delimitá-lo de forma deliberada é um controle de segurança, não um detalhe de configuração. Na prática: Ler a agenda e enviar convites — mas não apagar eventos nem mandar e-mail para fora.

Exemplo adversarial

Exemplos adversariais exploram o fato de que as fronteiras de decisão de um modelo não coincidem com a percepção humana. Alterações minúsculas e direcionadas invertem a saída com alta confiança. Eles são um lembrete de que uma alta acurácia em benchmarks não diz nada sobre o comportamento sob ataque. Na prática: Uma placa de pare com alguns adesivos que um modelo de visão lê como placa de limite de velocidade. ...

Explicabilidade

Explicabilidade é uma questão de público: a explicação precisa ser utilizável por quem dela precisa — um candidato, um auditor, um engenheiro. Muitas vezes ela é obtida com métodos post-hoc que aproximam o comportamento do modelo em vez de revelar seu mecanismo real. Essa aproximação é uma limitação de verdade, não um detalhe técnico. Na prática: ‘Recusado principalmente pela relação dívida/renda e pelo histórico de crédito curto.’

Feature

Uma feature é uma única propriedade mensurável de um exemplo — um preço, um pixel, uma contagem de palavras. O ML clássico dependia de pessoas para projetar boas features; o deep learning, em grande parte, as aprende direto da entrada bruta, e isso explica boa parte de por que ele se impôs. Na prática: Para prever o preço de um imóvel: metros quadrados, CEP, ano de construção — cada um é uma feature. ...

Few-Shot Prompting

O few-shot prompting ensina por demonstração dentro da janela de contexto, sem nenhum treinamento envolvido. É a técnica de prompting com maior retorno em consistência, principalmente em classificação e formatação. Escolha exemplos que cubram os casos-limite, não só os fáceis — o modelo vai copiar o que você mostrar, inclusive as lacunas. Na prática: Cinco tickets rotulados no prompt, e a acurácia de categorização sobe sem nenhum fine-tuning.

Fine-Tuning

O fine-tuning atualiza os pesos de um modelo pré-treinado usando um conjunto de dados menor e direcionado. É a ferramenta certa para ensinar forma — tom de voz, formato, um esquema de classificação — e a ferramenta errada para ensinar fatos, que o RAG resolve melhor e mais barato. A maioria dos times parte para o fine-tuning cedo demais; trabalho de prompt e recuperação resolvem mais problemas do que se imagina. ...