ReviewAI
Xếp hạngDanh mụcKhám pháTạp chíSo sánhMiễn phíTừ điển

Lặp lại hướng dẫn

Hướng dẫn đăng lại là một kỹ thuật prompt trong đó các hướng dẫn hoặc ràng buộc quan trọng được đưa ra ở đầu lời nhắc được viết lại ở giữa hoặc cuối văn bản để ngăn mô hình mất dấu hướng dẫn.

Hướng dẫn đăng lại được biết đến như một phương pháp đặt lặp đi lặp lại các hướng dẫn và ràng buộc quan trọng tại nhiều vị trí trong một dấu nhắc (bắt đầu, ngắt, kết thúc) như một biện pháp đối phó với hiện tượng ``Lost in the Middle'' trong đó các hướng dẫn chỉ được hiển thị ở đầu dấu nhắc có nhiều khả năng bị mô hình bỏ qua hơn. Nó được cho là đặc biệt hiệu quả trong các cấu hình có số lượng lớn tài liệu tham khảo được chèn vào RAG và trong các hoạt động của agent sử dụng lời nhắc hệ thống dài. Trong hoạt động thực tế kể từ năm 2026, người ta đã chỉ ra rằng mặc dù tỷ lệ tuân thủ hướng dẫn tăng lên khi số lần đăng lại tăng lên nhưng có sự đánh đổi ở chỗ số lượng mã thông báo tăng tuyến tính, làm giảm chi phí API và độ trễ phản hồi. Trong thực tế, thông lệ tiêu chuẩn là chỉ liệt kê lại các ràng buộc không được loại bỏ ở cuối và di chuyển các hướng dẫn không thay đổi thường xuyên sang tiền tố cố định để nhanh chóng lưu vào bộ nhớ đệm. Nói chung, hiệu quả về mặt chi phí được coi là có thể chấp nhận được nếu hướng dẫn được lặp lại ở một hoặc hai vị trí trong khoảng vài nghìn mã thông báo, nhưng thiết kế lặp lại toàn bộ văn bản có thể dẫn đến chi phí vượt mức.

Thuật ngữ liên quan