proto.lib

Rate Limiting với Token Bucket

Thuật toán token bucket cấp phát token theo tốc độ cố định vào một bucket có sức chứa giới hạn, cho phép burst nhưng vẫn kiểm soát tốc độ trung bình.

Case StudyCơ bản2026-07-02
Rate Limiting với Token Bucket

Tags

#rate-limiting#token-bucket#api-throttling

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

Case StudyTrung bình

Virtual Waiting Room: xếp hàng ảo trước cửa hàng flash sale

Khi 200 nghìn người cùng vào một đợt sale chỉ đủ sức phục vụ 5 nghìn, edge phát cho mỗi lượt truy cập một queue token đã ký, giữ vị trí theo timestamp phía server, rồi admit vào shop với TỐC ĐỘ có kiểm soát để backend phía sau không bao giờ thấy tải vượt khả năng.

#waiting-room#rate-limiting#queue-token#flash-sale
Case StudyTrung bình

Unfurl link preview (title/ảnh) khi dán URL

Khi người dùng dán một URL, hệ thống fetch trang đó ở phía server để lấy Open Graph/meta tag, tải lại ảnh rồi cache theo URL — nhưng vì đây là fetch tới địa chỉ do kẻ tấn công kiểm soát, phần thiết kế thật sự nằm ở việc chặn SSRF (private/link-local IP, redirect vào mạng nội bộ), giới hạn timeout/size và rate limit theo user.

#ssrf#link-preview#opengraph#worker-queue
Case StudyCơ bản

Dịch vụ gửi mã OTP đa kênh

Thiết kế dịch vụ gửi OTP qua SMS và giọng nói với rate limit, TTL hết hạn và cơ chế retry/fallback khi kênh chính thất bại.

#otp#rate-limiting#ttl#fallback