proto.lib

Container thrash: runtime thấy sai số CPU so với cgroup quota

Runtime (JVM, Go, .NET, Node) thường đặt số thread pool/GC thread/GOMAXPROCS dựa trên số CPU mà nó THẤY từ host (nproc trả về số core vật lý, có thể vài chục), trong khi cgroup quota giới hạn container chỉ được một phần nhỏ của một CPU. Kết quả: hàng chục thread runnable tranh một quota nhỏ, đốt hết quota sớm trong mỗi period và bị throttle, gây latency spike trông giống lỗi GC hoặc mạng.

ConcurrencyNâng cao2026-08-21
Container thrash: runtime thấy sai số CPU so với cgroup quota

Tags

#cgroup#cpu-quota#goroutine#gomaxprocs#throttling#container#gc-threads

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

Operating SystemsTrung bình

CPU Bandwidth Controller: Burst Quota

cgroup CPU bandwidth controller giới hạn theo quota mỗi period cố định, nên một dịch vụ có average thấp nhưng burst ngắn vẫn bị throttle; cpu.cfs_burst_us cho phép tích luỹ quota chưa dùng của các period trước để chi tiêu ngay khi cần, giảm p99 latency mà không tăng average.

#cgroup#cpu-quota#cfs-bandwidth#burst
ConcurrencyNâng cao

Go Scheduler: mô hình G/M/P và handoff khi blocking syscall

Goroutine (G) được xếp hàng trên một Processor logic (P) và chạy trên OS thread (M); khi một goroutine gọi blocking syscall, M đó bị kẹt theo syscall còn P được giao ngay cho M khác để các goroutine còn lại tiếp tục chạy, và goroutine chiếm CPU quá lâu sẽ bị preempt bất đồng bộ bởi sysmon.

#golang#goroutine#scheduler#gmp
ConcurrencyTrung bình

Pipeline nhiều giai đoạn xử lý song song

Dữ liệu chảy qua nhiều stage nối tiếp qua channel, mỗi stage chạy trên goroutine riêng để tối đa hóa thông lượng.

#pipeline#channel#goroutine#stage