Batch Inference vs Online Serving
Tối ưu throughput cả tập dữ liệu, hay tối ưu độ trễ từng request
Phím tắt: ←/→ từng bước · Space tự chạy/tạm dừng
Tối ưu throughput cả tập dữ liệu, hay tối ưu độ trễ từng request
Phím tắt: ←/→ từng bước · Space tự chạy/tạm dừng