proto.lib

Giám sát Cache Hit Ratio: chỉ số đẹp có thể đang lừa bạn

Hit ratio tổng gộp có thể ổn định trong khi một KEY CLASS cụ thể sập hoàn toàn; cần tách hits/misses theo key class, đo latency của miss (vì đó là thứ user cảm nhận), theo dõi eviction/fill rate, và đo ratio riêng cho từng tier vì một miss ở L1 được L2 phục vụ không phải miss thật.

ObservabilityTrung bình2026-08-25
Giám sát Cache Hit Ratio: chỉ số đẹp có thể đang lừa bạn

Tags

#cache#hit-ratio#key-class#eviction#multi-tier-cache#latency#alerting

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

ObservabilityNâng cao

Autoscaling theo SLO thay vì CPU

CPU là một proxy dễ gây lừa với service nghẽn I/O; controller nên scale theo chính SLI (latency so với objective, hoặc queue wait) với một headroom target, kèm guardrail để outage của dependency không kích hoạt scale-up vô hạn chỉ làm tải thêm nặng.

#autoscaling#slo#sli#latency
ObservabilityTrung bình

SLO độ trễ: percentile hay đếm good/bad request

Viết mục tiêu độ trễ theo p99 < 300ms buộc tính percentile trên toàn bộ traffic một window, không thể gộp trung bình qua nhiều window hay nhiều service; viết lại thành "99% request nhanh hơn 300ms" biến mỗi request thành một sự kiện good/bad, cộng dồn được qua window và service, và sinh ra error budget có thể đốt dần.

#slo#error-budget#percentile#sli
ObservabilityTrung bình

Quan sát Connection Pool phía Client

Một service trông vẫn khoẻ mạnh trong khi connection pool tới database đã cạn là một bí ẩn có thể giải ngay nếu bạn export pool size, số connection đang dùng, thời gian chờ để lấy connection và số lần timeout khi acquire — bốn số liệu này biến câu hỏi 'database chậm hay do hết connection' thành chẩn đoán hai giây.

#connection-pool#client-metrics#acquisition-wait#database