Tấn công trích xuất dữ liệu huấn luyện là một phương pháp tấn công sử dụng các lời nhắc thông minh để buộc LLM tái tạo các đoạn dữ liệu huấn luyện và trích xuất thông tin cá nhân và bí mật có trong đó.
Các cuộc tấn công trích xuất dữ liệu đào tạo được định nghĩa là tiêu chuẩn ngành trong đó chúng khai thác hiện tượng ghi nhớ của các mô hình ngôn ngữ quy mô lớn bằng cách liên tục đưa ra lời nhắc cho mô hình để tái tạo và khôi phục nguyên văn các câu, mã và thông tin cá nhân có trong dữ liệu đào tạo. Trong các hoạt động thực tế vào năm 2026, rủi ro sẽ cao hơn đối với các LLM độc quyền kết hợp các tài liệu nội bộ thông qua RAG và tinh chỉnh, đồng thời sẽ cần phải có sự kết hợp của các biện pháp bảo vệ nhiều lớp như lọc đầu ra, quyền riêng tư khác biệt và kiểm tra nhật ký truy cập tại hiện trường. Chi phí của các biện pháp đối phó không đồng đều và mặc dù việc bổ sung các rào chắn vào mô hình hiện tại có thể được thực hiện với chi phí thấp, việc kết hợp tìm hiểu về quyền riêng tư khác biệt vào thiết kế ngay từ đầu sẽ làm tăng chi phí đào tạo lại, do đó, thông lệ trong thực tế là chọn mức độ bảo vệ tùy thuộc vào độ nhạy cảm của dữ liệu được xử lý.