Ngộ độc công cụ là một phương thức tấn công gây ra hành vi ngoài ý muốn bằng cách nhúng các hướng dẫn độc hại mà người dùng không nhìn thấy được trong văn bản giải thích hoặc kết quả phản hồi của một công cụ bên ngoài được AI agent gọi.
Ngộ độc công cụ là một phương thức tấn công phổ biến nhúng các hướng dẫn độc hại mà người dùng không thể nhìn thấy trong mô tả, siêu dữ liệu hoặc kết quả thực thi của một công cụ bên ngoài kết nối với AI agent bằng MCP (Giao thức bối cảnh mô hình), v.v., khiến agent rò rỉ thông tin hoặc thực hiện các hoạt động trái phép. Kể từ năm 2026, các cấu hình trong đó các AI agent kinh doanh hoạt động bằng cách kết hợp nhiều máy chủ MCP và phần bổ trợ sẽ trở nên phổ biến và nếu các công cụ của bên thứ ba được giới thiệu mà không kiểm tra nguồn, rủi ro này có thể sẽ trở nên rõ ràng trong hoạt động thực tế. Trong lĩnh vực này, các biện pháp như xem xét trước các mô tả công cụ, giảm thiểu đặc quyền thực thi và xác minh trong môi trường hộp cát đang trở nên cần thiết và những biện pháp này được bổ sung vào thời gian phát triển vì chi phí không đáng kể. Nói chung, các công cụ được phân phối miễn phí hoặc giá thấp có xu hướng có hệ thống xác minh yếu hơn và yếu tố quyết định trong việc lựa chọn công cụ là không bỏ qua việc kiểm tra bảo mật trước khi triển khai.