Limites de débit

La capacité peut varier selon le compte, le groupe, le modèle, le fournisseur en amont et la disponibilité actuelle. Aucune valeur unique de RPM ou de TPM ne s’applique à toutes les requêtes.

Utilisez une file d’attente bornée, un limiteur de concurrence, un délai d’expiration global et un budget de nouvelles tentatives. Commencez avec une faible concurrence et augmentez-la tout en surveillant la latence, les réponses 429 et 5xx, l’utilisation et les coûts.

Une réponse 429 peut signaler un quota, un solde, une concurrence, un débit ou une capacité en amont insuffisants. Examinez la réponse et les journaux d’utilisation avant de conclure qu’il s’agit uniquement d’une limite de RPM.