Throttling

Limita as chamadas que o próprio sistema faz a um terceiro, para nunca passar da cota que ele impõe. O excedente é atrasado, não descartado: cada chamada espera um token de um bucket no Redis compartilhado por todas as réplicas. É o inverso do rate limiting — protege o fornecedor e o contrato com ele, não o próprio serviço.

passos: 6
arquivos: 5
testes: 0
tecnologias: 5

Infraestrutura realTypeScriptBunElysiaRedisDocker

Cenário Relações Comparar

Baixar cartão

Cenário

A API do BACEN aceita 10 consultas de status de PIX por segundo por integrador e responde 429 acima disso. Duas réplicas do banco consultam 20 PIX cada, ao mesmo tempo. Direto, o BACEN atende 10 e recusa 30. Pelo bucket compartilhado (8 de rajada, 9 por segundo, um pouco abaixo da cota), as 40 consultas são atendidas em cerca de 3,5 s, sem nenhum 429.

Planta

Sequência

10/10

10 passos — reproduza para seguir o fluxo

chamada
resposta ou assíncrono
falha
passo
toque num participante para focar
Outras plantas de sequência

Como funciona

6 passos

Auto-limita chamadas de saída.

Esconde cada passo: lembre antes de tocar para revelar.

Vocabulário compartilhado

updatedAt+1

Eventual Consistency

01
bucketTake roda um script Lua: repõe tokens pelo tempo decorrido, limita à capacidade e consome um, num passo atômico
02
Sem token, o script devolve quanto falta para o próximo (waitMs); throttleAcquire espera e tenta de novo, sem nunca chamar o BACEN antes
03
O bucket fica no RedisRéplicas somam uma cota só, e não N vezes a cota
04
updatedAt nunca volta no tempo: réplica com relógio atrasado não cria tokens
05
Capacidade e taxa ficam um pouco abaixo da cota do BACEN, margem para relógio e rede
06
O tempo médio de espera no bucket é a métrica: crescendo, a demanda passou da cota contratada

Trade-offs

O que se ganha, o que se paga

3 vantagenscada ganho tem um preço3 custos

Vantagens

O fornecedor nunca recebe mais que a cota, então não há 429
Cota única para a frota inteira
Excedente atrasado, nenhum descartado

Custos

As chamadas excedentes ficam mais lentas
Cada chamada de saída custa uma ida ao Redis
Demanda acima da cota acumula espera sem limite

apps/resiliency/throttling

5 arquivos

src/

throttle_bucket.tsToken bucket atômico em Lua e a espera pelo próximo token
client_bacen.tsConsulta de status do PIX atrás do bucket, calibrado abaixo da cota
bacen_api.tsAPI do BACEN em ElysiaJS com a própria cota de 10/s e resposta 429
config_throttle.tsConfiguração validada do ambiente
demo.tsdemoDuas réplicas em rajada, direto e pelo bucket