Lethal Trifecta
Định nghĩa
Lethal Trifecta là cấu hình rủi ro cao khi cùng một agent có ba thứ: dữ liệu riêng tư, nội dung không tin cậy, và kênh gửi dữ liệu hoặc hành động ra ngoài.
Cách hiểu bằng lời của tôi
Một agent chỉ đọc private data thì rủi ro khác với agent vừa đọc private data, vừa đọc email/web không tin cậy, vừa có thể gửi request/message ra ngoài. Khi đủ ba điều kiện, prompt injection có đường biến thành exfiltration hoặc action thật.
Cách giảm blast radius
- Bỏ outbound channel nếu task chỉ cần đọc.
- Scope private data theo Least Privilege.
- Tách agent đọc untrusted content khỏi agent có quyền ghi/gửi.
- Thêm human review cho action hậu quả cao.