proto.lib

Lock Contention Profiling: CPU 30% mà throughput không tăng

Khi CPU rảnh nhưng throughput bão hoà, nghẽn thường không nằm ở tính toán mà ở thời gian THREAD CHỜ LOCK; contention profiler đo wait time trên từng mutex thay vì CPU time, xếp hạng lock theo tổng thời gian chờ để chỉ đúng con lock đang là điểm nghẽn.

ConcurrencyTrung bình2026-08-21
Lock Contention Profiling: CPU 30% mà throughput không tăng

Tags

#lock-contention#profiling#mutex#wait-time#throughput#sharding#performance

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

ConcurrencyNâng cao

Rate Limiter Token Bucket dùng chung giữa nhiều thread

Token bucket kiểu naive lock toàn bộ bucket mỗi request nên chính bộ giới hạn trở thành điểm nghẽn; thiết kế mở rộng gói tokens và timestamp vào một word rồi cập nhật bằng compare-and-swap, hoặc chia bucket theo từng core và rebalance định kỳ, đánh đổi độ chính xác lấy throughput.

#rate-limiter#token-bucket#cas#atomic
ConcurrencyTrung bình

Lock Striping - Chia nhỏ khóa theo shard

Thay vì một khóa toàn cục, cấu trúc dữ liệu được chia thành nhiều shard, mỗi shard có khóa riêng để tăng độ song song.

#lock-striping#sharding#concurrenthashmap#mutex
ConcurrencyNâng cao

Thread-per-Core, Shared-Nothing

Mỗi core ghim đúng một thread, thread đó sở hữu riêng một phần dữ liệu và một event loop riêng; công việc được định tuyến tới core sở hữu theo key thay vì lock, nên trong luồng bình thường không có race và không có cache-line ping-pong giữa các core.

#thread-per-core#shared-nothing#sharding#message-passing