proto.lib

Position Bias và Counterfactual Ranking

Click không phải là preference thuần: slot đầu được click nhiều chỉ vì nó ở trên, nên train trực tiếp trên click thô sẽ dạy model tái tạo lại đúng ranking hôm trước; giải pháp là mô hình hoá examination probability theo từng vị trí rồi weight mỗi observation bằng nghịch đảo propensity, hoặc randomize nhẹ vị trí để đo bias.

AI/ML SystemsNâng cao2026-08-25
Position Bias và Counterfactual Ranking

Tags

#position-bias#counterfactual-learning#inverse-propensity-scoring#click-model#ranking#offline-evaluation

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsTrung bình

Ưu tiên độ mới trong truy hồi (Recency Boost Retrieval)

Similarity ngữ nghĩa không biết tài liệu nào còn hiệu lực, nên một câu hỏi về giá hiện tại có thể khớp từ ngữ tốt nhất với trang giá ba năm trước; việc xếp hạng phải kết hợp similarity với tín hiệu độ mới (decay theo tuổi, hoặc lọc cứng theo ngày hiệu lực).

#retrieval#rag#ranking#freshness
AI/ML SystemsTrung bình

So sánh cặp và xếp hạng Elo cho model (Pairwise Preference)

Khi không có ground truth, rater được cho xem hai câu trả lời ẩn danh cho cùng một prompt và chọn câu tốt hơn; các kết quả so sánh cặp này được quy về một rating kiểu Elo kèm khoảng tin cậy, đáng tin hơn nhiều so với việc chấm điểm tuyệt đối 1-10 cho từng câu riêng lẻ.

#evaluation#elo-rating#pairwise-comparison#llm-judge
AI/ML SystemsNâng cao

Contextual Bandit cho Ranking: Explore rồi Update

Một recommender chỉ dùng lịch sử click sẽ mãi lặp lại niềm tin cũ và không bao giờ phát hiện item tốt bị đánh giá thấp; contextual bandit dành một phần traffic để explore các item còn nhiều uncertainty (epsilon-greedy hoặc Thompson sampling dựa trên độ bất định của ước lượng), quan sát reward thực tế rồi cập nhật model ngay, biến ranking thành online learning loop thay vì batch training qua đêm.

#contextual-bandit#exploration-exploitation#thompson-sampling#epsilon-greedy