proto.lib

Indirect Prompt Injection qua Tool Output

Một agent gọi tool để đọc trang web, tài liệu hoặc kết quả tool khác; nếu nội dung đó chứa chỉ thị giả mạo, model không phân biệt được đâu là dữ liệu đâu là lệnh và có thể làm theo, dùng chính quyền hạn tool hợp pháp của mình để rò rỉ dữ liệu hoặc thực hiện hành động ngoài ý muốn.

SecurityTrung bình2026-08-26
Indirect Prompt Injection qua Tool Output

Tags

#prompt-injection#llm-agent#tool-use#data-exfiltration#untrusted-content#agent-security

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

SecurityNâng cao

Đánh giá tin cậy trước khi cắm MCP Server bên thứ ba

Trước khi để agent gọi một MCP server hoặc plugin bên thứ ba, cần xác định nó thấy dữ liệu gì, gọi tool nào, code chạy ở đâu; sau đó pin version, chạy trong sandbox, allowlist tool cụ thể, và giám sát khi tool description đổi bất thường (tool poisoning).

#mcp#supply-chain#tool-poisoning#sandbox
SecurityCơ bản

Lockfile là hàng rào cung ứng: integrity, npm ci và audit PR

package-lock.json không chỉ ghi số phiên bản mà còn ghi resolved URL và integrity hash sha512 của từng tarball; npm ci từ chối cài khi lệch lock, còn reviewer cần soi resolved URL lạ và chặn script cài đặt tuỳ tiện để đóng các đường tiêm mã qua chuỗi cung ứng npm.

#npm#lockfile#supply-chain#integrity-hash
SecurityTrung bình

Keyless Deploy: CI xin OIDC token thay vì giữ khoá dài hạn

Runner CI không còn lưu access key tĩnh; nó xin một OIDC token định danh job, cloud STS xác minh chữ ký và đối chiếu điều kiện subject (repo/branch/environment) với trust policy trước khi phát credential ngắn hạn — sai điều kiện subject là lỗ hổng cho repo khác mạo danh.

#oidc#ci-cd#sts#keyless