Trộm cắp trọng lượng mô hình là hành động trong đó trọng số (tham số) của mô hình AI đã được huấn luyện được lấy ra bên ngoài thông qua gian lận nội bộ hoặc tấn công trích xuất thông qua API và được sử dụng để bắt chước hoặc lạm dụng.
Trộm cắp trọng lượng mô hình đề cập đến hành động rò rỉ trọng số (tham số) của mô hình AI do một công ty đào tạo với chi phí tính toán rất lớn ra bên ngoài thông qua việc người trong cuộc lấy trái phép, tấn công trích xuất mô hình qua API hoặc cài đặt đám mây không chính xác. Các trọng số đã học là tài sản trí tuệ của chính mô hình và nếu bị rò rỉ, nó có thể dẫn đến việc các đối thủ cạnh tranh xây dựng các mô hình bắt chước hoặc tạo ra các phiên bản lợi dụng mà không có biện pháp bảo mật. Trong hoạt động thực tế tính đến năm 2026, mô hình càng lớn thì chi phí học tập sẽ lên tới hàng tỷ yên Nhật nên tác động của rò rỉ sẽ lớn hơn. Trong thực tế, giảm thiểu đặc quyền truy cập, lưu trữ tệp trọng lượng được mã hóa, giới hạn tốc độ để phát hiện trích xuất mô hình từ mẫu phản hồi API và giám sát truy vấn được áp dụng rộng rãi như các biện pháp đối phó. Về chi phí, nhiều công ty đưa ra quyết định đầu tư bằng cách so sánh chi phí cài đặt và vận hành nền tảng quản lý đặc quyền, nhật ký kiểm tra và hệ thống phát hiện bất thường với mức độ thiệt hại trong trường hợp vi phạm và khi chọn nhà cung cấp đám mây, họ có xu hướng tập trung vào khả năng tính toán bí mật của mình và liệu họ có kiểm tra bên thứ ba hay không.