proto.lib

Cache dùng Weak Reference — không giữ object sống mãi

Cache giữ entry qua weak reference để bộ quản lý bộ nhớ có thể thu hồi object khi cần, và bản thân map phải tự dọn các entry đã chết (qua reference queue hoặc quét định kỳ) — nếu không sẽ tích tụ vô số holder trống không bao giờ được giải phóng.

ConcurrencyTrung bình2026-08-25
Cache dùng Weak Reference — không giữ object sống mãi

Tags

#weak-reference#cache#gc#memory-reclamation#reference-queue#eviction

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

ConcurrencyNâng cao

Thiết kế cache LRU đồng thời (sharded, không một khoá lớn)

Một cache LRU dùng một mutex toàn cục sẽ khiến mọi lookup nối hàng nhau; giải pháp thực tế là chia map thành nhiều shard (mỗi shard tự có lock) để lookup chỉ chạm một shard, và thay việc di chuyển node trong danh sách LRU nghiêm ngặt trên mỗi lần hit bằng CLOCK/second-chance bit hoặc access log theo lô để tránh tuần tự hoá.

#cache#lru#sharding#clock-algorithm
ConcurrencyNâng cao

Epoch-Based Reclamation (EBR)

Bộ nhớ của cấu trúc lock-free chỉ được giải phóng sau khi mọi luồng đã vượt qua epoch mà tại đó nút bị gỡ bỏ, đảm bảo không reader nào còn tham chiếu tới nó.

#epoch-based-reclamation#ebr#lock-free#memory-reclamation
ConcurrencyNâng cao

Single-flight - Gộp request trùng lặp

Nhiều client cùng yêu cầu một key chưa có trong cache; single-flight gộp thành một lệnh gọi backend duy nhất rồi chia sẻ kết quả.

#single-flight#memoization#cache#thundering-herd