Chỉnh sửa kiến thức mô hình là một công nghệ chỉ viết lại kiến thức thực tế cụ thể theo cách chính xác mà không cần học lại toàn bộ trọng lượng của mô hình ngôn ngữ quy mô lớn.
Chỉnh sửa kiến thức mô hình, được tiêu biểu hóa bằng các phương pháp như ROME và MEMIT, đã được nghiên cứu rộng rãi như một công nghệ sửa chữa kiến thức cũ hoặc thông tin không chính xác mà không cần tinh chỉnh đầy đủ bằng cách viết lại cục bộ các trọng số cụ thể (chủ yếu trong lớp FFN) của mô hình ngôn ngữ quy mô lớn. Ưu điểm của phương pháp này là có thể sử dụng với chi phí thấp hơn so với việc đào tạo lại toàn bộ mô hình trong trường hợp bạn muốn phản ánh các sự kiện được cập nhật hàng ngày, chẳng hạn như thay đổi tên công ty hoặc thông số kỹ thuật. Mặt khác, trong hoạt động thực tế kể từ năm 2026, những thách thức đã được chỉ ra như “sự sụp đổ của tính nhất quán kiến thức”, trong đó kiến thức được chỉnh sửa mâu thuẫn với kiến thức liên quan xung quanh và tác dụng phụ là làm giảm hiệu suất của toàn bộ mô hình khi thực hiện một lượng lớn chỉnh sửa. Về mặt lựa chọn tại chỗ, nên chỉnh sửa mô hình để sửa một số lượng nhỏ các sự kiện quan trọng và RAG được sử dụng để tham khảo kiến thức bên ngoài cho lượng lớn kiến thức được cập nhật thường xuyên. Vì việc giới thiệu và xác minh các công cụ chỉnh sửa đòi hỏi nhiều thời gian công sức, nên nên xem xét so sánh với RAG hiện có và tinh chỉnh, bao gồm cả việc cân nhắc về chi phí.