proto.lib

LLM Red-Teaming & Jailbreak Testing

Đội red-team chủ động thử các kỹ thuật jailbreak để phát hiện lỗ hổng an toàn của mô hình trước khi kẻ xấu khai thác.

AI/ML SystemsNâng cao2026-07-15
LLM Red-Teaming & Jailbreak Testing

Tags

#red-teaming#jailbreak#llm-safety#adversarial#security

Tài liệu tham khảo

Mở rộng

Animation gốc là một file HTML tự chứa, có thể nhúng lại ở bất kỳ trang nào khác. Mở file gốc

Liên quan

AI/ML SystemsTrung bình

Lọc quyền truy cập trong RAG (ACL-aware Retrieval Filtering)

Index của hệ thống RAG chứa toàn bộ tài liệu, nhưng truy hồi phải bị giới hạn theo đúng quyền đọc của người dùng hiện tại — bằng pre-filter theo nhãn quyền lưu kèm chunk (nhanh nhưng dễ lệch nếu quyền đổi) hoặc post-filter sau khi truy hồi (đúng nhưng có thể trả trang trống).

#rag#access-control#authorization#security
AI/ML SystemsTrung bình

MCP: Discovery và Gọi Tool qua Protocol Chuẩn

Model Context Protocol để client kết nối tới một tool server, DISCOVER danh sách tools (kèm input schema), resources và prompts, rồi gọi tool với tham số đã validate — cùng một server chạy được với bất kỳ client tuân thủ protocol nào, không cần glue code riêng cho từng tool.

#mcp#tool-server#protocol#agent
AI/ML SystemsTrung bình

PII Redaction in LLM Prompts & Outputs

Hệ thống phát hiện và che giấu thông tin định danh cá nhân (PII) trước khi gửi vào LLM, rồi khôi phục lại khi trả kết quả về người dùng.

#pii-redaction#data-privacy#llm-safety#compliance