Tìm kiếm trong cửa sổ câu là một phương pháp RAG chia tài liệu thành các phần nhỏ của một câu, thực hiện tìm kiếm được nhúng, cải thiện độ chính xác của việc so khớp điểm tương đồng với câu hỏi, sau đó chuyển ngữ cảnh trước và sau cho LLM.
Một phương pháp giải quyết sự cân bằng giữa độ chính xác của tìm kiếm và lượng ngữ cảnh trong RAG. Bằng cách chia tài liệu thành các phần nhỏ của một câu và thực hiện tìm kiếm nhúng, nó sẽ tăng độ chính xác của việc so khớp tương tự với câu hỏi, đồng thời tự động ghép một số câu (cửa sổ) trước và sau câu có liên quan khi thực sự chuyển nó tới LLM để tránh mất ý nghĩa. Nó được cung cấp như một tính năng tiêu chuẩn trong các khung RAG như LlamaIndex và được cho là được áp dụng rộng rãi. Trong hoạt động thực tế kể từ năm 2026, việc thiết kế chiều rộng cửa sổ sẽ là một vấn đề tại hiện trường; nếu nó quá hẹp, nó sẽ dẫn đến câu trả lời sai do thiếu ngữ cảnh và nếu nó quá rộng, nó sẽ làm tăng chi phí và gây ra tiếng ồn do mức tiêu thụ mã thông báo tăng lên. Theo nguyên tắc chung, bạn nên bắt đầu bằng 1 đến 3 câu trước và sau, đồng thời điều chỉnh tùy theo miền và độ dài đoạn. Do chi phí triển khai và vận hành cao hơn so với phân chia đoạn có độ dài cố định nên việc thử sử dụng độ dài cố định trước tiên được coi là thực tế và chỉ xem xét giới thiệu nó sau khi cảm thấy thiếu độ chính xác.