ReviewAI
Xếp hạngDanh mụcKhám pháTạp chíSo sánhMiễn phíTừ điển

Tạo bóng cho công cụ

Tool Shadowing là phương thức tấn công khi nhiều công cụ AI được kết nối cùng lúc, phần mô tả của công cụ độc hại sẽ ghi đè và hướng dẫn hoạt động của công cụ hợp pháp, khiến agent thực hiện việc xử lý ngoài ý muốn.

Công cụ che giấu được cho là đề cập đến một phương thức tấn công trong môi trường trong đó AI agent tải nhiều công cụ bên ngoài (chẳng hạn như máy chủ MCP) cùng lúc, bằng cách bí mật viết lại cách gọi hoặc diễn giải các công cụ hợp pháp khác thông qua mô tả hoặc định nghĩa tham số của một công cụ độc hại hoặc bị ô nhiễm, khiến agent hành xử theo cách ngoài ý muốn. Là một kiểu tiêm nhắc, nó có đặc điểm bằng cách khai thác khả năng của LLM để diễn giải trên danh sách các công cụ. Trong hoạt động thực tế, rủi ro có nhiều khả năng trở nên khó nhận thấy hơn khi nhiều nhóm trong và ngoài công ty thêm máy chủ MCP. Và kể từ năm 2026, các biện pháp đối phó như xem lại mô tả công cụ trước khi kết nối, chạy trong hộp cát và xác minh chữ ký nguồn của công cụ được cho là đã được áp dụng rộng rãi. Chi phí triển khai tập trung vào việc xây dựng một hệ thống kiểm toán và khi số lượng công cụ được kết nối tăng lên, gánh nặng đánh giá trực quan cũng tăng lên, do đó, việc sử dụng nó kết hợp với quét tự động được cho là một lựa chọn thực tế trong lĩnh vực này.

Thuật ngữ liên quan