proto.lib

Adaptive Concurrency Limit (AIMD)

Giới hạn concurrency tự điều chỉnh theo độ trễ đo được, tăng tuyến tính khi ổn định và giảm nhân khi phát hiện quá tải, giống TCP congestion control.

ArchitectureNâng cao2026-07-14
Adaptive Concurrency Limit (AIMD)

Tags

#concurrency-limit#aimd#backpressure#latency#self-tuning

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

ArchitectureTrung bình

Sync vs Async Coupling: cùng một lệnh gọi, hai số phận

Gọi đồng bộ ràng buộc thời gian sống và độ trễ của caller vào callee — mô hình đơn giản, lỗi biết ngay, nhưng một chuỗi năm lệnh gọi nhân độ trễ và chia sẻ luôn số phận (callee sập thì caller sập theo); đẩy việc vào queue tách rời hai bên, đổi lại phải chấp nhận eventual consistency và cần một đường trạng thái/thông báo riêng.

#synchronous#asynchronous#coupling#queue
ArchitectureTrung bình

Tách Hot Path và Cold Path

Request path chỉ làm đúng những gì phản hồi cho người dùng cần (validate, ghi nhận sự kiện, trả kết quả), còn enrichment, notification, indexing và analytics chạy bất đồng bộ ở cold path — nên p99 chỉ phụ thuộc một lượng việc nhỏ, và một dependency enrichment chậm không thể làm fail lượt ghi.

#hot-path#cold-path#latency#async-processing
ArchitectureTrung bình

Bulk Import qua Staging: validate trước khi commit

Một file 2 triệu dòng được ghi vào object storage, parse và validate vào bảng STAGING (thu thập lỗi theo từng dòng, không abort cả job), trả báo cáo cho người dùng sửa và nộp lại, và chỉ batch đã hợp lệ mới được commit vào bảng live theo từng chunk — toàn bộ job resumable và idempotent theo file hash cộng row key.

#bulk-import#staging-table#validation#idempotency