RAPTOR là một phương pháp RAG phân cụm đệ quy và tóm tắt các khối tài liệu để xây dựng cây phân cấp và cho phép tìm kiếm từ nhiều mức độ trừu tượng.
RAPTOR (Xử lý trừu tượng đệ quy để truy xuất có tổ chức theo cây) là một phương pháp tạo chỉ mục có cấu trúc cây bằng cách lặp lại đệ quy quá trình phân cụm các khối, tóm tắt chúng và tóm tắt chúng ở lớp cao hơn, trong khi RAG thông thường chia tài liệu thành các khối thống nhất và nhúng chúng. Khi tìm kiếm, có thể nhắm mục tiêu không chỉ các phần chi tiết ở phía dưới mà cả các nút tóm tắt cấp cao hơn, giúp nó phù hợp với các câu hỏi yêu cầu tích hợp thông tin từ nhiều vị trí (QA nhiều bước). Trong hoạt động thực tế kể từ năm 2026, số lượng lệnh gọi LLM để tạo bản tóm tắt trong quá trình xây dựng cây sẽ tăng tỷ lệ thuận với số lượng tài liệu, do đó chi phí xây dựng chỉ mục và tần suất cập nhật có thể sẽ trở thành điểm nghẽn. Ở những nơi tài liệu được cập nhật thường xuyên, nếu cơ chế tái thiết khác biệt không được kết hợp, các nút tóm tắt cũ sẽ vẫn còn, dẫn đến giảm độ chính xác. Về giá trị thị trường, mặc dù chi phí tính toán cho việc tạo chỉ mục cao hơn nhiều lần so với RAG phân đoạn thông thường, nhưng mức độ cải thiện về độ chính xác của tìm kiếm phụ thuộc rất nhiều vào cấu trúc tài liệu và bản chất của truy vấn, do đó, trước tiên, việc xác minh tác động lên một bộ tài liệu giới hạn trước khi quyết định có đưa nó vào sản xuất là điều thực tế hay không.