proto.lib

ColBERT - Late Interaction Retrieval

Thay vì nén tài liệu thành một vector duy nhất, ColBERT giữ embedding cho từng token và so khớp muộn bằng MaxSim để tăng độ chính xác.

AI/ML SystemsNâng cao2026-07-15
ColBERT - Late Interaction Retrieval

Tags

#colbert#late-interaction#multi-vector#reranking#retrieval

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsNâng cao

Two-Tower Retrieval cho Recommender Hàng Triệu Item

User tower và item tower được huấn luyện cùng với in-batch negatives vào chung một không gian embedding, biến bài toán relevance thành nearest-neighbour search; item vector được precompute và index offline, user vector tính lúc request, ANN retrieval vài trăm ứng viên rồi được RE-RANK bởi model cross-feature nặng hơn.

#two-tower#retrieval#recommender-system#ann
AI/ML SystemsNâng cao

Reranker Cascade: phân bổ latency budget theo tầng

Một retriever rẻ trả về vài trăm ứng viên, một model tầm trung cắt xuống vài chục, rồi cross-encoder hoặc LLM judge đắt tiền chỉ chấm điểm nhóm cuối cùng — mỗi tầng phải nằm trong ngân sách latency vì cost mỗi item nhân với số lượng đầu vào, và recall của tầng trước giới hạn chất lượng tối đa của toàn bộ pipeline.

#reranking#cascade#latency-budget#cross-encoder
AI/ML SystemsTrung bình

Retrieval hai giai đoạn với Cross-Encoder Reranker

Bi-encoder ANN tìm ứng viên rẻ và nhanh, sau đó cross-encoder nặng hơn xếp hạng lại để lấy độ chính xác cao trước khi đưa top vài kết quả cho LLM.

#retrieval#reranking#cross-encoder#bi-encoder