proto.lib

Giảm Cold Start cho Serverless

Provisioned concurrency giữ sẵn một số instance ấm để tránh cold start; scheduler ưu tiên tái sử dụng container ấm cho invocation mới.

ArchitectureTrung bình2026-07-17
Giảm Cold Start cho Serverless

Tags

#serverless#cold-start#provisioned-concurrency#faas#scheduler

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

ArchitectureTrung bình

Serverless Function và Container: chọn runtime nào

Cùng một dịch vụ có thể chạy dưới dạng function scale-to-zero (nền tảng quản lý concurrency, tính tiền theo request) hoặc container chạy dài hạn (giữ cache/connection pool nóng, tính tiền theo thời gian sống). Chọn sai runtime khiến chi phí hoặc độ trễ tệ hơn hẳn.

#serverless#faas#container#cold-start
ObservabilityTrung bình

Observability cho Serverless Function (không có host để log vào)

Trong FaaS, không có sidecar hay agent thường trú vì platform tự lo scaling; toàn bộ spans/metrics phải được emit in-band trong request và flush trước khi invocation bị freeze, nếu không dữ liệu mất vĩnh viễn. Cold start và init duration phải tính riêng khỏi thời gian xử lý request.

#serverless#faas#cold-start#in-band-telemetry
ArchitectureTrung bình

Cache vs Materialized View cho Read nhanh

Cache được nạp theo yêu cầu (on-demand) và có hạn dùng (expire) — đơn giản, tự phục hồi, nhưng lạnh sau deploy và có rủi ro thundering herd; materialized view/read model được duy trì bởi mỗi lượt ghi — luôn nóng, độ trễ dự đoán được, nhưng phải rebuild khi đổi shape và làm nặng thêm mỗi write.

#cache#materialized-view#read-model#thundering-herd