Tìm kiếm nhiều bước là một kỹ thuật RAG duyệt qua nhiều tài liệu và sử dụng các kết quả tìm kiếm trước đó cho các truy vấn tiếp theo để trả lời các câu hỏi phức tạp.
Tìm kiếm nhiều bước là một kỹ thuật kết hợp nhiều bước tìm kiếm lại với nhau để trả lời các câu hỏi phức tạp không thể trả lời bằng một tài liệu duy nhất. Ví dụ, trả lời câu hỏi “Ai là người sáng lập trường đại học mà CEO Công ty A tốt nghiệp?” yêu cầu ba bước: đầu tiên xác định CEO, sau đó nghiên cứu trường đại học mà anh ấy đã tốt nghiệp và cuối cùng là tìm kiếm người sáng lập.
Trong hoạt động thực tế vào năm 2026, cạm bẫy lớn nhất sẽ là "lan truyền lỗi", trong đó lỗi tích lũy khi số lượng bước nhảy tăng lên. Nếu độ chính xác tìm kiếm của mỗi bước nhảy là 70% thì tỷ lệ trả lời đúng sẽ giảm xuống còn khoảng 34% sau 3 bước nhảy. Biện pháp đối phó tiêu chuẩn trong trường này là sự kết hợp giữa việc chèn bước xác thực cho từng truy vấn trung gian và xếp hạng lại.
Về chi phí, lệnh gọi LLM cho mỗi truy vấn thường gấp 2 đến 5 lần so với RAG, do đó xét về giá trị thị trường, mức tiêu thụ token cũng sẽ tăng với tốc độ tương tự. Thiết kế định tuyến ``xác định liệu một tìm kiếm đơn giản có thể cung cấp câu trả lời trước và sau đó chỉ chuyển sang nhiều bước khi cần thiết'' có hiệu quả để tối ưu hóa chi phí hay không. Việc tận dụng các dịch vụ được quản lý như Amazon Bedrock Agents và OpenAI Assistants API có thể giảm đáng kể chi phí triển khai.