162 artigos
Explorar guias
Modelos de raciocínio geram passos intermediários — um rascunho privado — antes de produzir a resposta final, e são treinados para fazer isso bem, e não apenas induzidos a isso por prompt. Eles trocam latência e custo por acurácia em matemática, código e análises de várias etapas. Em tarefas simples, são mais lentos e mais caros sem nenhum benefício. Na prática: Quinze segundos de trabalho oculto antes de uma resposta correta, contra um segundo e uma resposta errada. ...
O Artigo 3(25) e o Artigo 72 exigem que os provedores coletem e revisem a experiência dos sistemas já em uso, para que os problemas disparem ação corretiva em vez de se acumularem. Isso fecha o ciclo que um lançamento normalmente deixa aberto, e anda junto com os deveres de reporte de incidentes graves. Na prática: Um plano documentado para coletar dados de desempenho em campo e agir sobre eles. ...
Publicado pelo NIST em janeiro de 2023, o AI RMF é orientação, e não lei, e é agnóstico de setor. Suas quatro funções dão aos times uma estrutura para identificar contexto, medir risco e agir sobre ele. Virou a referência de fato para programas de governança de IA, inclusive em empresas sem nenhuma obrigação nos EUA, porque é prático e gratuito. Na prática: Usar Govern-Map-Measure-Manage como esqueleto de uma política interna de IA. ...
Um único exemplo costuma bastar para travar o formato quando a tarefa em si já foi entendida, mas o formato da saída não. É a maneira mais barata de impedir que o modelo embrulhe o JSON em prosa. Na prática: Mostre um par de entrada e saída e então entregue a entrada real.
A orquestração é a lógica de roteamento e controle em volta dos modelos: novas tentativas, planos de contingência, escalonamento começando pelo modelo mais barato, etapas em paralelo, estado. Em produção, é essa camada, e não o modelo, que costuma determinar se o sistema é confiável e sustentável no custo. Na prática: Encaminhar tickets fáceis para um modelo pequeno e escalar os ambíguos para um modelo de raciocínio.
Um modelo com overfitting aprendeu o ruído junto com o sinal. Ele pontua brilhantemente nos dados que já viu e mal nos dados que não viu. As correções usuais são mais dados, menos capacidade de modelo, regularização e parar o treinamento cedo, quando a perda de validação começa a subir. Na prática: 99% nos dados de treinamento, 62% em produção — um caso de manual.
O ReAct — reason plus act, raciocinar e agir — faz o modelo declarar o que está pensando, executar uma ação, ler a observação e pensar de novo. Alternar os dois funciona melhor do que raciocinar tudo de antemão, porque ambientes reais devolvem surpresas. A maioria dos frameworks de agentes implementa alguma versão disso. Na prática: Pensamento: preciso da data da nota fiscal. Ação: search_invoices. Observação: três resultados. Pensamento: pegar a mais recente. ...
Parâmetros são os valores aprendíveis dentro de um modelo — em sua maioria pesos e vieses. Treinar é o processo de ajustá-los até que as saídas do modelo parem de estar erradas. Números de destaque como ‘70B de parâmetros’ descrevem capacidade, não qualidade: arquitetura, dados e pós-treinamento muitas vezes pesam mais que o tamanho bruto. Na prática: Um modelo de 70B tem cerca de 70 bilhões de números ajustáveis; um número maior não significa automaticamente respostas melhores. ...
Os pesos determinam quanto cada entrada contribui para cada saída em cada camada. Eles começam aleatórios e são atualizados por gradiente descendente até a perda parar de melhorar. Quando se fala em ‘pesos abertos’, quer dizer que os números treinados podem ser baixados, e é isso que viabiliza o uso local e auto-hospedado. Na prática: Baixar um modelo de pesos abertos significa baixar um arquivo com bilhões de números de ponto flutuante. ...
O Artigo 5 proíbe uma lista definida, que inclui técnicas manipulativas que distorcem materialmente o comportamento e causam dano, exploração de vulnerabilidades, pontuação social por autoridades públicas ou em nome delas, coleta não direcionada de imagens faciais para montar bancos de reconhecimento e inferência de emoções em locais de trabalho e escolas — com exceções estreitas. Elas valem independentemente de avaliação de risco: não existe caminho de conformidade. Na prática: Reconhecimento de emoções em funcionários durante o trabalho é proibido, não apenas de alto risco. ...