proto.lib

Fine-tune hay RAG: Chọn đúng công cụ sửa lỗi

Retrieval bổ sung SỰ KIỆN thay đổi thường xuyên và cần trích dẫn được, còn fine-tuning định hình HÀNH VI (format, văn phong, quy ước ngầm của một domain, việc từ chối đúng thứ cần từ chối) và không theo kịp dữ liệu thay đổi; mặc định trung thực là prompt + retrieval trước, fine-tune khi lỗi mang tính văn phong/cấu trúc, và kết hợp cả hai cho tác vụ hẹp nhưng khối lượng lớn.

AI/ML SystemsTrung bình2026-08-25
Fine-tune hay RAG: Chọn đúng công cụ sửa lỗi

Tags

#rag#fine-tuning#llm#architecture-decision#evaluation

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsTrung bình

RAG - Retrieval-Augmented Generation

RAG embed câu hỏi, truy xuất các đoạn văn liên quan từ vector store, nhét vào prompt làm ngữ cảnh, rồi LLM sinh câu trả lời có căn cứ kèm trích dẫn.

#rag#retrieval#vector-store#llm
AI/ML SystemsTrung bình

Batch API cho Suy Luận Offline Khối Lượng Lớn

Batch API xử lý khối lượng lớn request không cần realtime: client nộp một file chứa nhiều yêu cầu, provider xử lý bất đồng bộ trong cửa sổ thời gian cam kết, client poll trạng thái rồi tải kết quả về; đổi lại chi phí thấp hơn nhiều, job phải được thiết kế idempotent và có cách xử lý phần thất bại riêng lẻ.

#batch-api#offline-inference#async-processing#cost-optimization
AI/ML SystemsTrung bình

Ưu tiên độ mới trong truy hồi (Recency Boost Retrieval)

Similarity ngữ nghĩa không biết tài liệu nào còn hiệu lực, nên một câu hỏi về giá hiện tại có thể khớp từ ngữ tốt nhất với trang giá ba năm trước; việc xếp hạng phải kết hợp similarity với tín hiệu độ mới (decay theo tuổi, hoặc lọc cứng theo ngày hiệu lực).

#retrieval#rag#ranking#freshness