proto.lib

Nén ngữ cảnh phiên làm việc dài

Khi transcript của một phiên agent gần chạm giới hạn cửa sổ ngữ cảnh, các turn CŨ được tóm tắt lại thành trạng thái gọn (quyết định, file đã sửa, câu hỏi còn mở) trong khi các turn gần đây vẫn giữ nguyên văn, để phiên tiếp tục thay vì lỗi tràn context.

AI/ML SystemsTrung bình2026-08-26
Nén ngữ cảnh phiên làm việc dài

Tags

#context-compaction#long-running-agent#summarization#session-state#context-drift

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsNâng cao

GraphRAG - Truy xuất qua Knowledge Graph

GraphRAG trích xuất thực thể và quan hệ từ tài liệu thành đồ thị tri thức, rồi dùng cấu trúc cộng đồng của đồ thị để trả lời các câu hỏi tổng hợp toàn kho dữ liệu.

#graphrag#knowledge-graph#rag#entity-extraction
AI/ML SystemsTrung bình

Quản lý Context Window

Khi lịch sử hội thoại vượt quá giới hạn ngữ cảnh, hệ thống phải cắt bớt hoặc tóm tắt để vừa với context window của LLM.

#llm#context-window#truncation#summarization
AI/ML SystemsNâng cao

Parse JSON Chưa Đóng Khi Stream Tool Arguments

Khi model trả tool arguments theo stream, JSON thường chưa đóng ngoặc tại mỗi chunk; client cần một parser gia tăng dựng dần object để hiện UI sớm, nhưng chỉ thực thi tool khi JSON đã hoàn chỉnh và hợp lệ theo schema.

#streaming#tool-use#json-parsing#function-calling