proto.lib

RAG - Retrieval-Augmented Generation

RAG embed câu hỏi, truy xuất các đoạn văn liên quan từ vector store, nhét vào prompt làm ngữ cảnh, rồi LLM sinh câu trả lời có căn cứ kèm trích dẫn.

AI/ML SystemsTrung bình2026-07-10
RAG - Retrieval-Augmented Generation

Tags

#rag#retrieval#vector-store#llm#grounding

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsTrung bình

Ưu tiên độ mới trong truy hồi (Recency Boost Retrieval)

Similarity ngữ nghĩa không biết tài liệu nào còn hiệu lực, nên một câu hỏi về giá hiện tại có thể khớp từ ngữ tốt nhất với trang giá ba năm trước; việc xếp hạng phải kết hợp similarity với tín hiệu độ mới (decay theo tuổi, hoặc lọc cứng theo ngày hiệu lực).

#retrieval#rag#ranking#freshness
AI/ML SystemsNâng cao

Query Decomposition cho Multi-hop RAG

Với câu hỏi mà không chunk nào trả lời trực tiếp được (ví dụ cần bắc cầu qua hai thực thể), hệ thống chia câu hỏi gốc thành các câu hỏi con, truy hồi và trả lời từng hop, rồi dùng câu trả lời trung gian làm input cho hop kế tiếp trước khi tổng hợp câu trả lời cuối.

#rag#multi-hop#query-decomposition#retrieval
AI/ML SystemsTrung bình

Suy giảm Retrieval khi Context quá dài

Cửa sổ ngữ cảnh lớn hơn không đồng nghĩa mô hình 'nhớ' tốt hơn: khi nhồi hàng trăm chunk, độ chú ý (attention) tới thông tin nằm ở GIỮA ngữ cảnh suy giảm, các đoạn gây nhiễu (distractor) cạnh tranh với đoạn đúng, còn chi phí và độ trễ tăng tuyến tính theo số token.

#long-context#retrieval#attention#context-window