Sự quên lãng nghiêm trọng là một hiện tượng trong đó khi mô hình AI thực hiện việc học bổ sung với các nhiệm vụ hoặc dữ liệu mới, độ chính xác của kiến thức và kỹ năng đã thu được trước đó sẽ giảm nhanh chóng.
Sự quên lãng nghiêm trọng là một hiện tượng trong đó khi mạng lưới thần kinh thực hiện việc học bổ sung (tinh chỉnh) bằng cách sử dụng các tác vụ hoặc dữ liệu mới, thì độ chính xác của các tác vụ hiện tại sẽ giảm đáng kể và là một vấn đề đã được biết đến từ lâu trong lĩnh vực học sâu. Nguyên nhân được cho là do các trọng số đã được tối ưu hóa cho tác vụ trước đó bị ghi đè bởi bản cập nhật gradient và các phương pháp như LoRA chỉ cập nhật một số tham số, `` phát lại '' đào tạo lại bằng cách trộn dữ liệu trong quá khứ và chính quy hóa ngăn chặn những thay đổi về trọng số quan trọng được áp dụng rộng rãi như các biện pháp giảm thiểu. Trong hoạt động thực tế tính đến năm 2026, đã có báo cáo về các trường hợp trong lĩnh vực mà chất lượng câu trả lời cho các nhiệm vụ hiện tại ngày càng kém đi do kiến thức nội bộ được bổ sung thông qua học tập bổ sung và vào thời điểm điều này được nhận thấy, chi phí học lại đã tăng vọt và quyết định chọn cấu hình trong đó kiến thức bên ngoài được tham chiếu mỗi lần thông qua RAG đang trở nên phổ biến hơn so với học tập bổ sung.