ReviewAI
Xếp hạngDanh mụcKhám pháTạp chíSo sánhMiễn phíTừ điển

Spotlighting (Phòng thủ nổi bật)

Làm nổi bật là một phương pháp đối phó tiêm nhanh, chỉ rõ dữ liệu bên ngoài sẽ được chuyển tới LLM bằng cách sử dụng các dấu phân cách và chuyển đổi đặc biệt để tránh nhầm lẫn với các hướng dẫn.

Spotlighting được cho là một phương pháp ngăn chặn việc tiêm nhắc bằng cách chỉ rõ rằng dữ liệu được nhập từ bên ngoài (kết quả tìm kiếm trên web, kết quả tìm kiếm RAG, v.v.) là một ``khu vực không đáng tin cậy'' bằng cách viết hoa, phân cách, mã hóa, v.v. để LLM không hiểu sai đó là một hướng dẫn. Được đề xuất bởi Microsoft, v.v., phương pháp phân cách và phương pháp chuyển đổi được áp dụng rộng rãi. Tuy nhiên, trong hoạt động thực tế kể từ năm 2026, chỉ riêng điều này sẽ không mang lại tỷ lệ bảo vệ 100% và khả năng phòng thủ nhiều lớp kết hợp với lọc đầu vào và xác minh đầu ra sẽ trở thành tiêu chuẩn trong lĩnh vực này. Về mặt chi phí, chi phí tiền xử lý bổ sung là nhỏ nhưng vì cần nhiều giờ để duy trì logic chuyển đổi và kết hợp nó vào quy trình RAG nội bộ nên lựa chọn của bạn sẽ phụ thuộc vào việc liệu bạn có thể kết hợp nó vào nền tảng agent của riêng mình thay vì thuê ngoài hay không.

Thuật ngữ liên quan