LoRA (Low-Rank Adaptation)
A cheap fine-tuning method that trains a small add-on instead of updating the whole model.
LoRA congela los pesos base y aprende un número reducido de parámetros extra junto a ellos. El resultado es un archivo adaptador ligero — megabytes, no gigabytes — que se puede intercambiar por tarea y entrenar en hardware modesto. Por eso el fine-tuning dejó de ser un privilegio exclusivo de los grandes laboratorios.
En la práctica: Un modelo base más cinco adaptadores LoRA sirviendo cinco voces de marca.