proto.lib

Throttling vs Rate Limiting

Rate limiting từ chối cứng khi vượt ngưỡng, trong khi throttling làm chậm và xếp hàng request để duy trì thông lượng ổn định.

ArchitectureTrung bình2026-07-08
Throttling vs Rate Limiting

Tags

#throttling#rate-limiting#traffic-control#queueing#resilience

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

ArchitectureCơ bản

Leaky Bucket Rate Limiting

Leaky bucket dồn burst request vào hàng đợi và xả ra với tốc độ cố định, giúp làm mượt lưu lượng tới backend.

#rate-limiting#leaky-bucket#traffic-shaping#backpressure
ArchitectureNâng cao

Static Stability: sống sót khi phụ thuộc điều khiển sập

Data plane tiếp tục hoạt động trên trạng thái ĐÃ CÓ sẵn — capacity được cấp phát trước thay vì scale theo yêu cầu, cấu hình được cache cục bộ, quyết định mặc định về giá trị đúng gần nhất đã biết — để một control plane sập chỉ làm chậm việc THAY ĐỔI, không làm chậm việc PHỤC VỤ.

#static-stability#control-plane#data-plane#resilience
ArchitectureNâng cao

Phân lớp ưu tiên request (Priority Classes)

Dưới tải cao, request được gán vào các lớp ưu tiên (interactive, background job, retry, bulk export) và bộ admission controller shed/delay các lớp thấp trước, để một export hàng loạt không làm đói checkout và một cơn bão retry không lấn át request lần đầu.

#priority-class#load-shedding#admission-control#rate-limiting