Building & Running AI beginner

Rate Limit

The cap a provider puts on how many requests or tokens you can use per interval.

Rate limits protegem a capacidade compartilhada e moldam a sua arquitetura: qualquer integração em produção precisa de backoff, retentativas e fila. Os limites costumam subir conforme o tier da conta e o histórico de uso, então planeje para o limite que você tem hoje, não para o que você espera ter.

Na prática: HTTP 429 às 3 da tarde porque o tráfego de todo mundo tem pico junto.

Where this comes up