Building & Running AI beginner

Rate Limit

The cap a provider puts on how many requests or tokens you can use per interval.

Les rate limits protègent une capacité partagée et façonnent votre architecture : toute intégration en production a besoin de backoff, de reprises et d’une file d’attente. Les limites augmentent généralement avec le niveau de compte et l’historique d’usage, alors dimensionnez pour la limite que vous avez aujourd’hui, pas pour celle que vous espérez.

En pratique : Une erreur HTTP 429 à 15 h parce que le trafic de tout le monde culmine en même temps.

Where this comes up