Mẫu đối nghịch là dữ liệu đầu vào có vẻ bình thường đối với con người, nhưng đã bị xáo trộn đôi chút để cố tình phân loại sai hoặc đánh giá sai mô hình AI.
Mẫu đối nghịch là thuật ngữ chung để chỉ các phương pháp tấn công cố tình khiến các mô hình học máy đưa ra dự đoán không chính xác bằng cách thêm tiếng ồn nhỏ đến mức con người không thể cảm nhận được, chẳng hạn như vào hình ảnh, văn bản hoặc âm thanh. Điểm khởi đầu là một trường hợp năm 2014, trong đó hình ảnh gấu trúc bị phủ một lớp nhiễu nhỏ khiến nó bị nhầm với vượn và kể từ năm 2026, ứng dụng của nó vào AI tạo sinh đã trở nên nghiêm trọng hơn.
Có ba cạm bẫy chính trong lĩnh vực này. (1) Các cuộc tấn công vật lý vào cảm biến lái xe tự động (xác định nhầm biển báo bằng nhãn dán đặc biệt), (2) Vượt qua bộ lọc nội dung LLM bằng cách nhúng các ký tự vô hình, (3) Các cuộc tấn công trang điểm thù địch vào hệ thống nhận dạng khuôn mặt. Biện pháp đối phó chủ đạo là đào tạo đối kháng, nhưng cần lưu ý rằng chi phí đào tạo cao gấp 1,5 đến 3 lần so với bình thường. Trong hoạt động thực tế, tiêu chuẩn vào năm 2026 sẽ là kết hợp quét lỗ hổng và kiểm tra độ tin cậy của mô hình, đồng thời giá trung bình cho các công cụ doanh nghiệp sẽ vào khoảng 50.000 đến 300.000 yên Nhật mỗi tháng.