ReviewAI
Xếp hạngDanh mụcKhám pháTạp chíSo sánhMiễn phíTừ điển

Khai thác tiêu cực cứng

Khai thác tiêu cực cứng là một phương pháp huấn luyện một mô hình nhúng bằng cách cố tình chọn các ví dụ tiêu cực sai một cách khó hiểu nhưng lại là câu trả lời đúng để cải thiện độ chính xác của tìm kiếm.

Khai thác tiêu cực cứng là một phương pháp trong đó khi đào tạo một mô hình nhúng hoặc trình sắp xếp lại bằng cách sử dụng phương pháp học tương phản, các ví dụ bề ngoài giống với truy vấn nhưng không chính xác sẽ được chọn có chủ ý và đưa vào dữ liệu đào tạo dưới dạng ví dụ phủ định. Chỉ sử dụng các ví dụ phủ định ngẫu nhiên, không liên quan, mô hình chỉ có thể phân biệt giữa các tài liệu “rõ ràng là khác nhau”, điều này có xu hướng gây ra vấn đề trong đó các tài liệu có ý nghĩa tương tự nhưng không chính xác được đưa lên đầu. Một phương pháp được sử dụng rộng rãi là trích xuất các ứng cử viên có điểm cao nhưng không chính xác từ BM25 hoặc các mô hình nhúng hiện có và trộn chúng với các ví dụ tiêu cực. Cạm bẫy trong lĩnh vực này là nếu bạn chọn sai, các tài liệu gần với câu trả lời đúng sẽ được coi là ví dụ phủ định, điều này thực sự sẽ làm giảm độ chính xác. Kể từ năm 2026, việc tinh chỉnh bằng cách sử dụng dữ liệu độc quyền sẽ phát sinh chi phí cho cơ sở hạ tầng ghi nhãn và học tập, do đó, trước tiên bạn nên xem xét sự kết hợp giữa mô hình hiện có + trình xếp hạng lại và xem xét sau khi thấy rõ rằng độ chính xác đã đạt đến mức ổn định.

Thuật ngữ liên quan