Ngộ độc mô hình là một phương thức tấn công cố tình làm sai lệch kết quả đầu ra và khả năng phán đoán của mô hình bằng cách trộn dữ liệu độc hại vào dữ liệu huấn luyện của mô hình AI.
Ngộ độc mô hình là một hình thức tấn công chuỗi cung ứng bao gồm việc chèn dữ liệu độc hại vào giai đoạn huấn luyện của mô hình học máy để khiến nó trả về kết quả đầu ra không chính xác cho một số đầu vào nhất định. Các kỹ thuật điển hình bao gồm các cuộc tấn công cửa sau và phân loại sai dựa trên trình kích hoạt, đồng thời việc mô hình có vẻ bình thường nhưng chỉ gặp trục trặc trong một số điều kiện nhất định khiến mô hình khó bị phát hiện. Trong các hoạt động thực tế vào năm 2026, nguy cơ sử dụng bộ dữ liệu nguồn mở và dữ liệu tinh chỉnh thuê ngoài mà không được xác minh là mối lo ngại đặc biệt và tình trạng ô nhiễm cơ sở tri thức của các hệ thống RAG đang gia tăng. Ba điểm rất cần thiết trong lĩnh vực này: xác minh nguồn gốc của dữ liệu đầu vào, quản lý hàm băm và kiểm soát truy cập. Chi phí trung bình cho các biện pháp đối phó là khoảng 50.000 đến 200.000 yên Nhật mỗi tháng để cài đặt một công cụ xác minh dữ liệu và không có gì lạ khi các cuộc kiểm tra bảo mật chuyên ngành tiêu tốn hàng trăm nghìn đến vài triệu yên Nhật. ban biên tập đặc biệt khuyến nghị các điều khoản hợp đồng kỹ lưỡng khi thuê ngoài tinh chỉnh (làm rõ nguồn dữ liệu và cấm giả mạo) và kiểm tra hành vi mô hình định kỳ.