proto.lib

Warm Pool & Preconnect: Trả Trước Chi Phí Handshake

Client giữ sẵn một pool các connection đã thiết lập và hoàn tất TLS, và có thể mở thêm một connection mới một cách suy đoán khi khả năng có navigation sắp tới cao, để request thật sự khi tới không phải trả round-trip nào cho việc thiết lập — đổi lại một pool quá lớn tốn socket phía server, và một connection suy đoán không dùng tới là chi phí thuần.

TransportTrung bình2026-08-25
Warm Pool & Preconnect: Trả Trước Chi Phí Handshake

Tags

#connection-pool#preconnect#tls#warm-up#idle-timeout#half-open

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

TransportTrung bình

LB idle timeout vs keepalive client: 502 ngẫu nhiên không tái hiện được

Load balancer âm thầm đóng kết nối idle lâu hơn ngưỡng timeout của nó (thường 60s), nhưng connection pool của client vẫn tin socket còn sống nên request tiếp theo mượn socket đó và chết ngay ở lần write đầu; retry thường 'sửa' được lỗi nên che giấu nguyên nhân gốc, giải pháp đúng là đặt idle timeout của client THẤP HƠN LB, TCP keepalive ngắn hơn timeout, và chỉ retry với request idempotent.

#load-balancer#idle-timeout#tcp-keepalive#connection-pool
TransportTrung bình

NAT Timeout và kết nối Half-Open

Một thiết bị NAT/firewall âm thầm xoá state entry của một kết nối sau một khoảng idle nhất định mà không báo cho hai đầu; packet tiếp theo từ client hoặc server bị rơi hoặc bị reset dù cả hai vẫn tin kết nối đang ESTABLISHED, nên kết nối idle lâu qua NAT cần keepalive ngắn hơn timeout của middlebox.

#nat#timeout#half-open#keepalive
TransportNâng cao

TLS Resumption thất bại khi load balancer đổi node

Session ticket được mã hoá bằng khoá mà chỉ server ĐÃ PHÁT ra nó giữ, nên khi có nhiều terminator TLS sau một load balancer, client resume nhầm sang node khác sẽ phải bắt tay đầy đủ thay vì đi đường nhanh; khắc phục bằng khoá ticket dùng chung, xoay vòng định kỳ (hoặc session cache dùng chung) — đánh đổi bảo mật vì một khoá rò rỉ ảnh hưởng mọi server.

#tls#session-resumption#session-ticket#load-balancer