Batch Size
How many examples the model processes before updating its weights once.
La taille de lot arbitre entre stabilité, mémoire et vitesse. De grands lots donnent des estimations de gradient plus lisses mais réclament plus de mémoire GPU ; de petits lots sont plus bruités mais généralisent parfois mieux. Elle interagit avec le taux d’apprentissage, si bien que les deux se règlent généralement ensemble.
En pratique : Une taille de lot de 32 signifie 32 exemples en entrée, une mise à jour des poids en sortie.