162 artigos
Explorar guias
Red teaming é teste adversarial: pessoas tentam fazer o modelo produzir saídas prejudiciais, falsas ou fora da política, e os achados retroalimentam o treinamento e os guardrails. Difere da avaliação normal por ser criativo e aberto, em vez de pontuado contra um conjunto fixo. Para modelos de fronteira, é cada vez mais uma expectativa regulatória. Na prática: Vinte pessoas passando uma semana tentando fazer um bot de suporte prometer reembolsos que ele não pode cumprir. ...
Uma rede neural recebe uma entrada em forma de números, multiplica-os por pesos aprendidos, aplica uma função não linear e passa o resultado para a camada seguinte. Repita isso vezes suficientes com dados suficientes e a rede consegue aproximar relações notavelmente complexas. A analogia dos ’neurônios’ é um rótulo histórico, não uma afirmação sobre biologia. Na prática: Um classificador de imagens é uma rede neural que transforma 200,000 valores de pixel em um número por rótulo possível. ...
Modelos de regressão devolvem um valor contínuo — um preço, uma temperatura, uma estimativa de dias até o churn. O contraste com a classificação está no que você prevê, não em como o modelo funciona por dentro. Na prática: Estimar que um apartamento será vendido por €340,000.
A regularização troca um pouco de acurácia no treino por uma generalização melhor. As formas mais comuns são penalizar pesos grandes, desligar unidades aleatórias durante o treino e parar cedo. É a principal alavanca contra overfitting quando você não consegue mais dados. Na prática: O dropout desliga unidades aleatoriamente a cada passo, para que a rede não possa depender de nenhuma delas em particular.
O RAG divide o trabalho em duas partes: uma etapa de recuperação encontra os trechos relevantes para a pergunta e, então, o modelo responde usando esses trechos como contexto. É a correção padrão para data de corte do conhecimento, dados privados e alucinação, porque o modelo fica ancorado em um texto que ele pode citar. A qualidade da recuperação define o teto — o melhor modelo do mundo não salva os três parágrafos errados. ...
A retropropagação percorre o erro de trás para frente pela rede, camada por camada, atribuindo responsabilidade a cada peso pela regra da cadeia. É o que torna computacionalmente viável treinar redes profundas, e é a razão de o deep learning funcionar. Na prática: A saída errou por 0.3 — a retropropagação decide quais dos bilhões de pesos são responsáveis.
O Artigo 3(65) liga o risco sistêmico a modelos GPAI cujas capacidades igualam ou superam o estado da arte atual e cujo alcance poderia afetar significativamente o mercado da União. A designação traz deveres extras: testes adversariais, notificação de incidentes, cibersegurança e avaliação. É a resposta do AI Act aos modelos de fronteira. Na prática: Um modelo que cruza o limiar de computação aciona obrigações adicionais para o seu provedor. ...
O RLHF coleta rankings humanos de saídas do modelo, treina um modelo de recompensa para prever essas preferências e depois otimiza o modelo de linguagem contra ele. Essa etapa de pós-treinamento responde pela maior parte da diferença entre um preditor bruto do próximo token e um assistente utilizável. Ela também codifica as preferências de quem fez os rankings, o que é uma limitação real e pouco discutida. Na prática: Duas respostas, um humano escolhe a melhor, repita algumas centenas de milhares de vezes. ...
Robustez é o desempenho fora do conjunto de teste arrumadinho: erros de digitação, casos extremos, mudança de distribuição, ataque. Um modelo que acerta em dados limpos e desaba em dados reais não é preciso em nenhum sentido que importe. É uma das características de confiabilidade do NIST AI RMF e um requisito para sistemas de alto risco na UE. Na prática: A acurácia cai de 94% para 51% quando as fotos de entrada são tiradas com pouca luz. ...
O role prompting define uma perspectiva — ‘você é um consultor tributário avaliando isto em busca de riscos’ —, o que muda aquilo que o modelo trata como relevante. Isso altera registro e ênfase de forma confiável. O que não faz é acrescentar conhecimento ou autoridade: dizer a um modelo que ele é advogado não transforma a saída dele em parecer jurídico. Na prática: ‘Revise isto como um CFO cético’ levanta objeções diferentes de ‘revise isto’. ...