Tiền thưởng lỗi AI là một hệ thống trả thưởng cho các nhà nghiên cứu bên ngoài phát hiện ra các lỗ hổng, kết quả có hại và cách phá vỡ các biện pháp an toàn ẩn trong các mô hình AI và hệ thống AI.
Tiền thưởng lỗi AI là phần mở rộng của hệ thống tiền thưởng lỗ hổng phần mềm truyền thống cho lĩnh vực AI và là một hệ thống tiêu chuẩn ngành trong đó các nhà nghiên cứu bảo mật bên ngoài được khen thưởng dựa trên mức độ nghiêm trọng của các vấn đề như chèn nhanh, bẻ khóa, tạo nội dung có hại, rò rỉ dữ liệu học tập và trục trặc mô hình. Một định dạng trong đó các công ty AI lớn và nền tảng bảo mật AI vận hành các chương trình chuyên dụng được áp dụng rộng rãi. Trong hoạt động thực tế vào năm 2026, không giống như các lỗi ứng dụng web thông thường, bản thân định nghĩa về "lỗ hổng" có xu hướng mơ hồ và cạm bẫy trong trường là cần có thời gian để xác định xem đầu ra của mô hình có như dự định hay không. Người ta cũng chỉ ra rằng giá trị thị trường của phần thưởng dao động rất lớn tùy thuộc vào khả năng tái tạo của các khám phá và phạm vi tác động, khiến chi phí khó đọc được. Trên thực tế, điều quan trọng là các công ty phải áp dụng hệ thống để nêu rõ trước phạm vi và tiêu chí đánh giá, làm rõ hệ thống quản lý lỗ hổng/nhóm đỏ hiện có và phân chia vai trò trước khi lựa chọn công ty.