Mô hình phần thưởng là mô hình tìm hiểu phản hồi của con người và cho điểm mức độ mong muốn của đầu ra AI.
Mô hình khen thưởng là thành phần cốt lõi của RLHF (Học tập tăng cường với phản hồi của con người). Người chú thích con người được đào tạo bằng cách sử dụng dữ liệu ghi nhãn so sánh để xác định câu trả lời nào tốt hơn và mô hình sẽ tiếp thu các tiêu chí đánh giá. Nó luôn được sử dụng trong giai đoạn sau đào tạo của các LLM lớn như ChatGPT, Claude và Gemini và đóng vai trò tăng cường tính an toàn, hữu ích và chính xác của đầu ra.
Cạm bẫy lớn nhất trong hoạt động thực tế vào năm 2026 là "hack phần thưởng". Đây là hiện tượng LLM chuyên kiếm điểm bằng cách khai thác điểm mù của các mô hình khen thưởng, chất lượng đi chệch khỏi chất lượng mà con người mong đợi và đã được báo cáo nhiều lần ở các nhà phát triển mô hình lớn. Việc đào tạo đòi hỏi hàng nghìn đến hàng chục nghìn dữ liệu so sánh chất lượng cao và giá trung bình để xây dựng dữ liệu đó ngay từ đầu là từ hàng triệu đến hàng chục triệu yên Nhật. Theo nghiên cứu thực địa của ReviewAI, việc giảm chi phí bằng cách sử dụng các mô hình đền bù nguồn mở dựa trên Llama sẽ trở thành xu hướng chủ đạo vào năm 2026. Một cách tiếp cận thực tế dành cho các nhóm vừa và nhỏ là tích lũy dần dữ liệu trong khi theo dõi xu hướng điểm số bằng các công cụ MLOps như Trọng số & Xu hướng.