proto.lib

Phân lớp ưu tiên request (Priority Classes)

Dưới tải cao, request được gán vào các lớp ưu tiên (interactive, background job, retry, bulk export) và bộ admission controller shed/delay các lớp thấp trước, để một export hàng loạt không làm đói checkout và một cơn bão retry không lấn át request lần đầu.

ArchitectureNâng cao2026-08-25
Phân lớp ưu tiên request (Priority Classes)

Tags

#priority-class#load-shedding#admission-control#rate-limiting#retry#fairness

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

ArchitectureTrung bình

Constant Work Pattern: tải cố định bất kể có thay đổi hay không

Thay vì phản ứng theo sự kiện (mà tần suất tăng vọt đúng lúc có sự cố), thành phần định kỳ xử lý lại TOÀN BỘ trạng thái — đẩy lại một snapshot cấu hình đầy đủ, hoặc reconcile toàn bộ — nên tải của nó luôn phẳng và hành vi vào ngày xấu nhất giống hệt hành vi được kiểm thử mỗi ngày.

#constant-work#reliability#load-shedding#config-distribution
ArchitectureNâng cao

Metastable Failure: Bão Retry Tự Duy Trì

Một cú sốc ngắn (dependency chậm, cache bị flush) khiến request retry hàng loạt; lượng retry đó tự trở thành phần lớn tải, giữ latency cao mãi cả sau khi nguyên nhân gốc đã biến mất — hệ thống mắc kẹt ở trạng thái 'bền vững nhưng hỏng'.

#metastable-failure#retry-storm#feedback-loop#load-shedding
ArchitectureCơ bản

Leaky Bucket Rate Limiting

Leaky bucket dồn burst request vào hàng đợi và xả ra với tốc độ cố định, giúp làm mượt lưu lượng tới backend.

#rate-limiting#leaky-bucket#traffic-shaping#backpressure