Ring All-Reduce - Đồng bộ gradient khi train phân tán
reduce-scatter rồi all-gather theo vòng qua RDMA
0.6×
1×
1.6×
2.4×
Phím tắt: ←/→ từng bước · Space tự chạy/tạm dừng