proto.lib

Fine-tune Embedding bằng Contrastive Learning

Huấn luyện lại mô hình embedding bằng các cặp positive/negative để kéo gần vector liên quan và đẩy xa vector không liên quan.

AI/ML SystemsNâng cao2026-07-14
Fine-tune Embedding bằng Contrastive Learning

Tags

#embeddings#contrastive-learning#fine-tuning#triplet-loss#retrieval

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsNâng cao

Two-Tower Retrieval cho Recommender Hàng Triệu Item

User tower và item tower được huấn luyện cùng với in-batch negatives vào chung một không gian embedding, biến bài toán relevance thành nearest-neighbour search; item vector được precompute và index offline, user vector tính lúc request, ANN retrieval vài trăm ứng viên rồi được RE-RANK bởi model cross-feature nặng hơn.

#two-tower#retrieval#recommender-system#ann
AI/ML SystemsTrung bình

CLIP - Embedding chung cho ảnh và văn bản

CLIP huấn luyện contrastive để ảnh và caption mô tả đúng nằm gần nhau trong cùng không gian embedding, cho phép tìm ảnh bằng văn bản và ngược lại.

#clip#multimodal#embeddings#contrastive-learning
AI/ML SystemsCơ bản

Chiến lược Chunking cho RAG

So sánh các cách chia nhỏ tài liệu cho hệ thống RAG: chia cố định, chia theo ngữ nghĩa, và chia có overlap để giữ ngữ cảnh.

#rag#chunking#embeddings#retrieval