proto.lib

Leaky Bucket Rate Limiting

Leaky bucket dồn burst request vào hàng đợi và xả ra với tốc độ cố định, giúp làm mượt lưu lượng tới backend.

ArchitectureCơ bản2026-07-14
Leaky Bucket Rate Limiting

Tags

#rate-limiting#leaky-bucket#traffic-shaping#backpressure#queueing

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

ArchitectureTrung bình

Throttling vs Rate Limiting

Rate limiting từ chối cứng khi vượt ngưỡng, trong khi throttling làm chậm và xếp hàng request để duy trì thông lượng ổn định.

#throttling#rate-limiting#traffic-control#queueing
ArchitectureNâng cao

Phân lớp ưu tiên request (Priority Classes)

Dưới tải cao, request được gán vào các lớp ưu tiên (interactive, background job, retry, bulk export) và bộ admission controller shed/delay các lớp thấp trước, để một export hàng loạt không làm đói checkout và một cơn bão retry không lấn át request lần đầu.

#priority-class#load-shedding#admission-control#rate-limiting
ArchitectureTrung bình

Bulk Import qua Staging: validate trước khi commit

Một file 2 triệu dòng được ghi vào object storage, parse và validate vào bảng STAGING (thu thập lỗi theo từng dòng, không abort cả job), trả báo cáo cho người dùng sửa và nộp lại, và chỉ batch đã hợp lệ mới được commit vào bảng live theo từng chunk — toàn bộ job resumable và idempotent theo file hash cộng row key.

#bulk-import#staging-table#validation#idempotency