proto.lib

Autoscaling theo SLO thay vì CPU

CPU là một proxy dễ gây lừa với service nghẽn I/O; controller nên scale theo chính SLI (latency so với objective, hoặc queue wait) với một headroom target, kèm guardrail để outage của dependency không kích hoạt scale-up vô hạn chỉ làm tải thêm nặng.

ObservabilityNâng cao2026-08-25
Autoscaling theo SLO thay vì CPU

Tags

#autoscaling#slo#sli#latency#headroom#guardrail#hpa

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

ObservabilityTrung bình

SLO độ trễ: percentile hay đếm good/bad request

Viết mục tiêu độ trễ theo p99 < 300ms buộc tính percentile trên toàn bộ traffic một window, không thể gộp trung bình qua nhiều window hay nhiều service; viết lại thành "99% request nhanh hơn 300ms" biến mỗi request thành một sự kiện good/bad, cộng dồn được qua window và service, và sinh ra error budget có thể đốt dần.

#slo#error-budget#percentile#sli
ObservabilityCơ bản

SLI Types: Availability, Latency, Quality, Freshness

Bốn loại SLI phổ biến — availability, latency, quality và freshness — cùng đo lường trải nghiệm người dùng từ nhiều góc độ khác nhau.

#sli#slo#availability#latency
ObservabilityTrung bình

SLO as Code: định nghĩa SLO bằng file thay vì click dashboard

SLI/SLO được khai báo dưới dạng file YAML trong repo (query SLI, target, window) thay vì tạo tay trên dashboard; pipeline CI validate cú pháp rồi apply để tự sinh dashboard và alert burn-rate, còn thay đổi target phải qua review PR và được version hoá.

#slo#sli#gitops#ci-cd