Phân tách truy vấn là một phương pháp RAG chia một câu hỏi hoặc truy vấn tìm kiếm phức tạp thành nhiều truy vấn con, tìm kiếm và xử lý từng truy vấn riêng biệt, sau đó tích hợp các kết quả.
Phân tách truy vấn là một phương pháp trong đó một truy vấn ngôn ngữ tự nhiên phức tạp được chia thành nhiều truy vấn con đơn giản, mỗi truy vấn con được tìm kiếm và trả lời riêng lẻ bằng cách sử dụng đường dẫn RAG, sau đó được tích hợp. Nó được cho là được áp dụng rộng rãi như một kỹ thuật để cải thiện độ chính xác của phản hồi cho các câu hỏi nhiều bước nhảy. Trong hoạt động thực tế kể từ năm 2026, số lượng cuộc gọi LLM và tìm kiếm vectơ sẽ tăng theo số lượng truy vấn phụ, do đó độ trễ và chi phí API sẽ dễ dàng tăng lên nhiều lần so với một RAG đơn giản, điều này có thể sẽ là một cạm bẫy trong lĩnh vực này. Nói chung, nếu mức độ chi tiết của phân tách được thực hiện quá tốt, các cải tiến về độ chính xác sẽ đạt đến mức ổn định và chi phí sẽ tăng lên, do đó, cấu hình bao gồm lớp định tuyến xác định liệu phân tách có cần thiết hay không tùy thuộc vào độ phức tạp của câu hỏi có thể sẽ được chọn trong trường. Tại thời điểm giới thiệu, điều quan trọng cần lưu ý là sự cân bằng giữa độ chính xác và chi phí thay đổi tùy thuộc vào việc mô hình phân rã và mô hình tích hợp có giống nhau hay không hoặc các vai trò có được phân chia hay không.