proto.lib

Drain Backlog Sau Sự Cố (10 Triệu Message Tồn Đọng)

Khi consumer ngừng chạy nhiều giờ, lag tích tụ hàng chục triệu message; thêm consumer chỉ tăng throughput tới khi số consumer bằng số partition, sau đó consumer thừa đứng chờ vì mỗi partition chỉ gán được một consumer trong cùng group.

MessagingTrung bình2026-08-20
Drain Backlog Sau Sự Cố (10 Triệu Message Tồn Đọng)

Tags

#consumer-lag#backlog#partitions#batch-size#seek-to-timestamp#throughput#sla

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

MessagingTrung bình

Tinh chỉnh fetch của Kafka consumer (fetch.min.bytes / fetch.max.wait.ms)

Consumer Kafka gửi một FetchRequest yêu cầu tối thiểu N byte, và broker chờ tối đa T milliseconds trước khi trả về dù chưa đủ N byte; một request có thể gom nhiều partition, mỗi partition bị chặn bởi max.partition.fetch.bytes và tổng request bị chặn bởi fetch.max.bytes.

#kafka#consumer#fetch-tuning#latency
MessagingTrung bình

Phương pháp Benchmark Message Broker cho đúng

Một benchmark broker phải công bố kích thước message, mức acks/durability, số partition và số producer/consumer, page cache đã warm hay chưa, và thời gian chạy có đủ để retention/compaction thật sự xảy ra hay không — vì một test 30 giây với message nhỏ và không durability không đo được gì có ý nghĩa trong thực tế.

#benchmark#methodology#throughput#latency-distribution
MessagingNâng cao

Kẹt Ở Last Stable Offset Với read_committed

Khi producer dùng transaction và consumer đọc isolation.level=read_committed, consumer không thể đọc vượt qua Last Stable Offset (LSO); một transaction chạy dài hoặc bị bỏ rơi sẽ chặn toàn bộ message phía sau nó, khiến lag tăng dù broker hoàn toàn khoẻ mạnh.

#read-committed#last-stable-offset#kafka-transactions#consumer-lag