proto.lib

Làm mát bằng chất lỏng cho rack GPU: cold plate → CDU → facility loop

Khi mật độ công suất một rack GPU tăng từ ~10kW lên 50-130kW, thể tích khí cần thổi để tải nhiệt trở nên phi thực tế; direct-to-chip cold plate dẫn nhiệt từ GPU/CPU vào manifold rồi tới CDU, nơi trao đổi nhiệt sang vòng nước cơ sở của toà nhà.

Data CenterNâng cao2026-08-21
Làm mát bằng chất lỏng cho rack GPU: cold plate → CDU → facility loop

Tags

#liquid-cooling#cold-plate#cdu#gpu#direct-to-chip#immersion#thermal

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

Data CenterNâng cao

Dynamic Resource Allocation (DRA): xin thiết bị theo thuộc tính

Thay vì khai báo một số nguyên đếm thiết bị như mô hình device plugin cũ, DRA cho phép workload tạo ResourceClaim mô tả thuộc tính và ràng buộc cần thiết (đủ VRAM, cùng interconnect); driver của thiết bị quyết định cách cấp phát và scheduler chỉ đặt Pod vào node thoả được claim đó.

#kubernetes#dra#gpu#resource-claim
Data CenterNâng cao

Ring All-Reduce - Đồng bộ gradient khi train phân tán

Các GPU trao đổi từng phần gradient theo vòng qua RDMA gồm 2 pha reduce-scatter và all-gather, để mọi GPU đều nhận được tổng gradient một cách tiết kiệm băng thông.

#allreduce#nccl#gpu#rdma
Data CenterNâng cao

Phân phối image ngang hàng (P2P) trong cluster

Thay vì mọi node kéo image trực tiếp từ registry gốc, node đã có sẵn layer chia sẻ lại cho các node khác qua mạng nội bộ cluster; registry gốc chỉ phục vụ lần kéo đầu tiên, giảm nghẽn khi scale hàng trăm pod cùng lúc nhưng cần xác thực layer lấy từ peer.

#p2p#image-distribution#registry#scale-out