proto.lib

QLoRA - Fine-tune 4-bit với LoRA

QLoRA lượng tử hóa base model về 4-bit và đóng băng, chỉ huấn luyện một adapter LoRA nhỏ ở độ chính xác cao hơn.

AI/ML SystemsTrung bình2026-07-15
QLoRA - Fine-tune 4-bit với LoRA

Tags

#qlora#lora#quantization#fine-tuning#4-bit

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsNâng cao

Catastrophic Forgetting khi Fine-tune Liên Tục

Fine-tune trên một tác vụ hẹp dịch chuyển trọng số và làm suy giảm năng lực chung của model; để giảm quên, người ta trộn lại dữ liệu gốc (replay), dùng learning rate thấp với ít epoch, hoặc đóng băng base model và đặt năng lực mới vào adapter, đồng thời luôn chạy lại bộ eval tổng quát chứ không chỉ tác vụ vừa tune.

#catastrophic-forgetting#continual-learning#fine-tuning#replay-buffer
AI/ML SystemsTrung bình

Serving nhiều LoRA Adapter

LoRA đóng băng trọng số gốc và chỉ train các ma trận low-rank nhỏ; khi serving có thể hoán đổi hoặc ghép nhiều adapter trên cùng một base model.

#lora#peft#fine-tuning#adapter
AI/ML SystemsTrung bình

Fine-tune hay RAG: Chọn đúng công cụ sửa lỗi

Retrieval bổ sung SỰ KIỆN thay đổi thường xuyên và cần trích dẫn được, còn fine-tuning định hình HÀNH VI (format, văn phong, quy ước ngầm của một domain, việc từ chối đúng thứ cần từ chối) và không theo kịp dữ liệu thay đổi; mặc định trung thực là prompt + retrieval trước, fine-tune khi lỗi mang tính văn phong/cấu trúc, và kết hợp cả hai cho tác vụ hẹp nhưng khối lượng lớn.

#rag#fine-tuning#llm#architecture-decision