proto.lib

Distributed Sliding Window Rate Limiting

Nhiều node gateway chia sẻ một bộ đếm sliding window trong Redis để giới hạn tốc độ request chính xác trên toàn cụm, không chỉ trên từng node.

ArchitectureNâng cao2026-07-08
Distributed Sliding Window Rate Limiting

Tags

#rate-limiting#sliding-window#distributed#redis#gateway

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

ArchitectureNâng cao

Phân lớp ưu tiên request (Priority Classes)

Dưới tải cao, request được gán vào các lớp ưu tiên (interactive, background job, retry, bulk export) và bộ admission controller shed/delay các lớp thấp trước, để một export hàng loạt không làm đói checkout và một cơn bão retry không lấn át request lần đầu.

#priority-class#load-shedding#admission-control#rate-limiting
ArchitectureCơ bản

Leaky Bucket Rate Limiting

Leaky bucket dồn burst request vào hàng đợi và xả ra với tốc độ cố định, giúp làm mượt lưu lượng tới backend.

#rate-limiting#leaky-bucket#traffic-shaping#backpressure
ArchitectureTrung bình

Throttling vs Rate Limiting

Rate limiting từ chối cứng khi vượt ngưỡng, trong khi throttling làm chậm và xếp hàng request để duy trì thông lượng ổn định.

#throttling#rate-limiting#traffic-control#queueing