LoRA (Low-Rank Adaptation)
A cheap fine-tuning method that trains a small add-on instead of updating the whole model.
O LoRA congela os pesos do modelo base e aprende um número pequeno de parâmetros extras ao lado deles. O resultado é um arquivo de adaptador leve — megabytes, não gigabytes — que pode ser trocado por tarefa e treinado em hardware modesto. É por isso que o fine-tuning deixou de ser privilégio exclusivo dos grandes laboratórios.
Na prática: Um modelo base mais cinco adaptadores LoRA atendendo a cinco vozes de marca.