proto.lib

Two-Tower Retrieval cho Recommender Hàng Triệu Item

User tower và item tower được huấn luyện cùng với in-batch negatives vào chung một không gian embedding, biến bài toán relevance thành nearest-neighbour search; item vector được precompute và index offline, user vector tính lúc request, ANN retrieval vài trăm ứng viên rồi được RE-RANK bởi model cross-feature nặng hơn.

AI/ML SystemsNâng cao2026-08-24
Two-Tower Retrieval cho Recommender Hàng Triệu Item

Tags

#two-tower#retrieval#recommender-system#ann#reranking#embeddings

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsNâng cao

Reranker Cascade: phân bổ latency budget theo tầng

Một retriever rẻ trả về vài trăm ứng viên, một model tầm trung cắt xuống vài chục, rồi cross-encoder hoặc LLM judge đắt tiền chỉ chấm điểm nhóm cuối cùng — mỗi tầng phải nằm trong ngân sách latency vì cost mỗi item nhân với số lượng đầu vào, và recall của tầng trước giới hạn chất lượng tối đa của toàn bộ pipeline.

#reranking#cascade#latency-budget#cross-encoder
AI/ML SystemsNâng cao

ColBERT - Late Interaction Retrieval

Thay vì nén tài liệu thành một vector duy nhất, ColBERT giữ embedding cho từng token và so khớp muộn bằng MaxSim để tăng độ chính xác.

#colbert#late-interaction#multi-vector#reranking
AI/ML SystemsCơ bản

Chiến lược Chunking cho RAG

So sánh các cách chia nhỏ tài liệu cho hệ thống RAG: chia cố định, chia theo ngữ nghĩa, và chia có overlap để giữ ngữ cảnh.

#rag#chunking#embeddings#retrieval