Sâu AI là một loại phương pháp tấn công bảo mật mới có khả năng tự sao chép và tự phát tán các lời nhắc giữa các AI agent được tạo ra, gây ra hành vi đánh cắp thông tin bí mật và gửi thư rác.
Sâu AI là một khái niệm mà các nhà nghiên cứu đã chứng minh vào năm 2024 và là một phương pháp tấn công đưa "lời nhắc tự sao chép" vào AI agent được tạo hoặc hệ thống trả lời tự động email dựa trên RAG và lây lan sự lây nhiễm sang mục tiêu tiếp theo mà không cần sự can thiệp của người dùng. Người ta nói rằng việc tiêm chuỗi prompt giữa các AI agent như ChatGPT và Gemini kết hợp LLM có thể bị khai thác để đánh cắp dữ liệu nhạy cảm, gửi thư rác và phân phối phần mềm độc hại. Trong hoạt động thực tế kể từ năm 2026, một cạm bẫy trong lĩnh vực này là rủi ro sẽ tăng lên khi các quy trình công việc liên kết nhiều AI agent, chẳng hạn như bot điều tra nội bộ và AI hỗ trợ khách hàng, tăng lên. Các biện pháp đối phó yêu cầu làm sạch đầu vào/đầu ra và phân tách ranh giới tin cậy đối với nội dung bắt nguồn từ lời nhắc, đồng thời việc triển khai các công cụ bảo vệ chuyên dụng cũng đi kèm với chi phí cấp phép tăng lên. Khi chọn nhà cung cấp, điều quan trọng là phải xem xét phạm vi hợp tác agent và giá cả thị trường của công ty bạn, đồng thời chọn nhà cung cấp có hệ thống kiểm toán dự đoán các kịch bản tấn công thực tế.