proto.lib

Parse JSON Chưa Đóng Khi Stream Tool Arguments

Khi model trả tool arguments theo stream, JSON thường chưa đóng ngoặc tại mỗi chunk; client cần một parser gia tăng dựng dần object để hiện UI sớm, nhưng chỉ thực thi tool khi JSON đã hoàn chỉnh và hợp lệ theo schema.

AI/ML SystemsNâng cao2026-08-28
Parse JSON Chưa Đóng Khi Stream Tool Arguments

Tags

#streaming#tool-use#json-parsing#function-calling#sse#agent

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsTrung bình

Thiết kế Tool Schema cho Agent

Bộ tool của agent nên ít nhưng rõ vai trò: mỗi tool có mô tả đủ để model chọn đúng, tham số bắt buộc/tuỳ chọn tách bạch, và error message phải dạy model tự sửa lần gọi kế tiếp thay vì chỉ báo lỗi suông.

#agent#tool-use#function-calling#schema-design
AI/ML SystemsCơ bản

LLM Tool / Function Calling

Mô hình phát ra một lời gọi hàm có cấu trúc với tên và tham số, ứng dụng thực thi hàm thật rồi đưa kết quả trở lại ngữ cảnh để mô hình tiếp tục trả lời.

#function-calling#tool-use#agent#structured-output
AI/ML SystemsTrung bình

Agent Sửa Code Bằng Patch Search/Replace

Thay vì ghi lại toàn bộ file, agent sửa code bằng đoạn patch tìm-và-thay: đoạn tìm phải khớp duy nhất và nhạy cảm khoảng trắng/indent, thất bại ngay khi không khớp, và agent đọc lại file sau khi sửa để tránh thao tác trên nội dung đã cũ.

#agent#code-editing#diff#patch