proto.lib

Chain-of-Thought Prompting

Yêu cầu mô hình trình bày từng bước suy luận trước khi đưa ra câu trả lời cuối cùng, giúp tăng độ chính xác cho bài toán phức tạp.

AI/ML SystemsCơ bản2026-07-14
Chain-of-Thought Prompting

Tags

#llm#prompting#reasoning#chain-of-thought#few-shot

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsTrung bình

ReAct Agent - Vòng lặp Reason-Act-Observe

Agent xen kẽ giữa suy luận, gọi công cụ và quan sát kết quả, lặp lại cho đến khi đủ thông tin để trả lời.

#agent#react#tool-use#reasoning
AI/ML SystemsTrung bình

Batch API cho Suy Luận Offline Khối Lượng Lớn

Batch API xử lý khối lượng lớn request không cần realtime: client nộp một file chứa nhiều yêu cầu, provider xử lý bất đồng bộ trong cửa sổ thời gian cam kết, client poll trạng thái rồi tải kết quả về; đổi lại chi phí thấp hơn nhiều, job phải được thiết kế idempotent và có cách xử lý phần thất bại riêng lẻ.

#batch-api#offline-inference#async-processing#cost-optimization
AI/ML SystemsNâng cao

Query Decomposition cho Multi-hop RAG

Với câu hỏi mà không chunk nào trả lời trực tiếp được (ví dụ cần bắc cầu qua hai thực thể), hệ thống chia câu hỏi gốc thành các câu hỏi con, truy hồi và trả lời từng hop, rồi dùng câu trả lời trung gian làm input cho hop kế tiếp trước khi tổng hợp câu trả lời cuối.

#rag#multi-hop#query-decomposition#retrieval