proto.lib

Tìm Hyperparameter: Grid, Random và Bayesian Optimization

Grid search lãng phí phần lớn ngân sách thử nghiệm vào những chiều tham số không quan trọng; random search phủ chiều quan trọng tốt hơn với cùng ngân sách; Bayesian optimization xây surrogate model của hàm mục tiêu để chọn điểm thử tiếp theo có expected improvement cao nhất, kết hợp với early-stopping các trial tồi (successive halving/ASHA) để tiết kiệm compute.

AI/ML SystemsNâng cao2026-08-20
Tìm Hyperparameter: Grid, Random và Bayesian Optimization

Tags

#hyperparameter-tuning#grid-search#random-search#bayesian-optimization#successive-halving#asha#validation-set#model-selection

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsCơ bản

Overfitting và Early Stopping (dừng sớm khi quá khớp)

Trong quá trình train, loss trên tập training luôn giảm dần nhưng loss trên tập validation chỉ giảm tới một điểm rồi quay đầu tăng lên — đó là lúc mô hình bắt đầu học thuộc lòng nhiễu của dữ liệu training thay vì học quy luật chung; early stopping giữ lại checkpoint có validation loss thấp nhất trong một cửa sổ patience, còn weight decay, dropout và thêm dữ liệu đẩy lùi điểm quay đầu này.

#overfitting#underfitting#early-stopping#regularization
AI/ML SystemsNâng cao

Parse JSON Chưa Đóng Khi Stream Tool Arguments

Khi model trả tool arguments theo stream, JSON thường chưa đóng ngoặc tại mỗi chunk; client cần một parser gia tăng dựng dần object để hiện UI sớm, nhưng chỉ thực thi tool khi JSON đã hoàn chỉnh và hợp lệ theo schema.

#streaming#tool-use#json-parsing#function-calling
AI/ML SystemsTrung bình

Đưa Ảnh/Trang PDF Vào Model Đa Phương Thức

Khi đưa ảnh hoặc trang PDF vào model đa phương thức, cần resize hoặc tách trang để giảm chi phí token vốn tính theo kích thước ảnh, kết hợp text layer sẵn có nếu tài liệu có, và kiểm chứng số liệu trích ra bằng cách chỉ lại đúng vùng nguồn trên ảnh gốc.

#multimodal#vision#document-ai#pdf