RAG thích ứng là phương pháp RAG thay đổi linh hoạt nhu cầu tìm kiếm và chiến lược tìm kiếm tùy thuộc vào độ khó và loại câu hỏi.
RAG thích ứng là phần mở rộng của RAG, thay đổi linh hoạt chiến lược tìm kiếm tùy thuộc vào độ phức tạp của truy vấn, chẳng hạn như phân loại trước các truy vấn đầu vào, bỏ qua tìm kiếm và trả lời trực tiếp các câu hỏi đơn giản cũng như thực hiện nhiều bước tìm kiếm và tìm kiếm lại các câu hỏi phức tạp. So với RAG truyền thống, mỗi lần đi qua cùng một đường dẫn tìm kiếm, nó có ưu điểm là giảm cả độ trễ và chi phí API bằng cách giảm các cuộc gọi tìm kiếm không cần thiết. Mặt khác, người ta đã chỉ ra rằng trong hoạt động thực tế vào năm 2026, độ chính xác của chính bộ phân loại truy vấn có thể sẽ trở thành điểm nghẽn đối với chất lượng tổng thể và nếu phân loại không chính xác, sẽ có nguy cơ bỏ sót những câu hỏi lẽ ra phải được tìm kiếm, gây ra ảo giác. Tại thời điểm giới thiệu, có sự cân bằng giữa chi phí và độ chính xác tùy thuộc vào việc triển khai logic phân loại bằng mô hình phân loại nhẹ hay để LLM tự đưa ra quyết định, vì vậy điều quan trọng là phải đưa ra lựa chọn dựa trên khối lượng truy vấn và độ trễ cho phép tại hiện trường. Nói chung, việc di chuyển từ RAG một bước thường dẫn đến chi phí bổ sung nhỏ, nhưng cần lưu ý rằng các cấu hình liên quan đến tìm kiếm nhiều bước nhảy có xu hướng tăng thời gian phản hồi.