proto.lib

Retrieval hai giai đoạn với Cross-Encoder Reranker

Bi-encoder ANN tìm ứng viên rẻ và nhanh, sau đó cross-encoder nặng hơn xếp hạng lại để lấy độ chính xác cao trước khi đưa top vài kết quả cho LLM.

AI/ML SystemsTrung bình2026-07-10
Retrieval hai giai đoạn với Cross-Encoder Reranker

Tags

#retrieval#reranking#cross-encoder#bi-encoder#rag

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsNâng cao

Reranker Cascade: phân bổ latency budget theo tầng

Một retriever rẻ trả về vài trăm ứng viên, một model tầm trung cắt xuống vài chục, rồi cross-encoder hoặc LLM judge đắt tiền chỉ chấm điểm nhóm cuối cùng — mỗi tầng phải nằm trong ngân sách latency vì cost mỗi item nhân với số lượng đầu vào, và recall của tầng trước giới hạn chất lượng tối đa của toàn bộ pipeline.

#reranking#cascade#latency-budget#cross-encoder
AI/ML SystemsTrung bình

Ưu tiên độ mới trong truy hồi (Recency Boost Retrieval)

Similarity ngữ nghĩa không biết tài liệu nào còn hiệu lực, nên một câu hỏi về giá hiện tại có thể khớp từ ngữ tốt nhất với trang giá ba năm trước; việc xếp hạng phải kết hợp similarity với tín hiệu độ mới (decay theo tuổi, hoặc lọc cứng theo ngày hiệu lực).

#retrieval#rag#ranking#freshness
AI/ML SystemsNâng cao

Query Decomposition cho Multi-hop RAG

Với câu hỏi mà không chunk nào trả lời trực tiếp được (ví dụ cần bắc cầu qua hai thực thể), hệ thống chia câu hỏi gốc thành các câu hỏi con, truy hồi và trả lời từng hop, rồi dùng câu trả lời trung gian làm input cho hop kế tiếp trước khi tổng hợp câu trả lời cuối.

#rag#multi-hop#query-decomposition#retrieval