proto.lib

Device Plugin + Topology Manager: gán GPU đúng NUMA node

Device plugin quảng cáo GPU/NIC như một resource có thể schedule được, còn Topology Manager của kubelet liên kết các hint từ CPU manager, device manager và memory manager để đảm bảo GPU, CPU core và NIC cấp cho một pod cùng nằm trên một NUMA node/PCIe complex — vì một phân bổ lệch NUMA làm mọi lượt truyền dữ liệu tốn thêm băng thông qua đường liên kết chéo socket.

Data CenterNâng cao2026-08-25
Device Plugin + Topology Manager: gán GPU đúng NUMA node

Tags

#device-plugin#topology-manager#numa#gpu-scheduling#pcie#kubernetes

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

Data CenterNâng cao

Chạy WebAssembly (Wasm) trên Kubernetes qua containerd shim

Kubernetes chạy workload WebAssembly bằng cách đặt runtimeClassName trỏ tới một RuntimeClass dùng containerd shim gọi runtime Wasm (ví dụ wasmtime/wasmedge) thay vì runc; kết quả khởi động rất nhanh, sandbox nhỏ gọn nhưng bị giới hạn syscall và thư viện so với container Linux thông thường.

#webassembly#wasm#containerd#runtimeclass
Data CenterNâng cao

Swap có kiểm soát trên Node Kubernetes

Bật swap có giới hạn cho các Pod Burstable để kernel page-out vùng anonymous memory lạnh ra đĩa thay vì kubelet phải evict Pod ngay khi vượt memory request, đổi lấy độ trễ khó đoán khi trang bị swap-in trở lại; Pod Guaranteed/nhạy độ trễ được loại trừ khỏi swap để tránh rủi ro này.

#kubernetes#swap#kubelet#memory-management
Data CenterTrung bình

In-Place Pod Resize: đổi CPU/Memory không cần tạo lại Pod

Kubernetes cho phép cập nhật requests/limits của một container đang chạy mà không cần xoá và tạo lại Pod; kubelet nhận resize qua PATCH subresource, áp trực tiếp vào cgroup nếu node đủ tài nguyên, giữ nguyên kết nối mạng và cache đã warm của tiến trình.

#kubernetes#pod-resize#cgroup#kubelet