proto.lib

Thiết kế API Gateway

API Gateway tập trung xử lý authentication, rate limiting, routing, aggregation và biến đổi request/response cho các microservice phía sau.

Case StudyTrung bình2026-07-13
Thiết kế API Gateway

Tags

#api-gateway#auth#rate-limit#routing#aggregation

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

Case StudyNâng cao

Kiến trúc AI Chat Assistant: một lượt hỏi-đáp end-to-end

Một tin nhắn tới sẽ được kiểm duyệt đầu vào, lịch sử phiên được nạp và cắt gọn theo ngân sách token, retrieval bổ sung ngữ cảnh, rồi model stream token về trình duyệt trong khi tool call chạy giữa dòng chảy; lượt hội thoại hoàn tất được lưu cùng token usage và chi phí.

#llm#chat-assistant#streaming#tool-calling
Case StudyNâng cao

Pipeline đo lường sử dụng → hoá đơn (Usage Metering)

Sự kiện sử dụng thô được ingest với idempotency key, gộp theo khách hàng theo kỳ vào một counter chính xác tuyệt đối (không lấy mẫu), rồi rate theo bảng giá và đóng thành invoice cuối kỳ; sự kiện đến muộn sau khi đóng kỳ sẽ chuyển sang kỳ sau, không sửa hoá đơn đã gửi.

#usage-metering#billing#idempotency#aggregation
Case StudyTrung bình

Digest thông báo: gộp burst thành một bản tóm tắt

Khi một user nhận nhiều sự kiện trong thời gian ngắn, hệ thống định tuyến theo class (urgent gửi ngay, còn lại vào một cửa sổ tích lũy), khử trùng lặp và tóm tắt, rồi gửi trên kênh mà user ưu tiên — có tôn trọng quiet hours và trần tần suất gửi.

#notification#digest#batching#rate-limit