Backpropagation

The algorithm that works out how much each weight contributed to the error, so gradient descent can fix it.

A retropropagação percorre o erro de trás para frente pela rede, camada por camada, atribuindo responsabilidade a cada peso pela regra da cadeia. É o que torna computacionalmente viável treinar redes profundas, e é a razão de o deep learning funcionar.

Na prática: A saída errou por 0.3 — a retropropagação decide quais dos bilhões de pesos são responsáveis.