ReviewAI
Xếp hạngDanh mụcKhám pháTạp chíSo sánhMiễn phíTừ điển

Chuỗi ghi chú

Chuỗi ghi chú là một phương pháp ngăn chặn ảo giác do các tài liệu không liên quan gây ra bằng cách yêu cầu mô hình tạo ghi chú tóm tắt cho từng tài liệu được tìm kiếm trong RAG rồi phản hồi.

Chuỗi ghi chú là một phương pháp nâng cao RAG được đề xuất vào năm 2023 và có đặc điểm là sử dụng mô hình viết ghi chú đọc hiểu để đánh giá mức độ liên quan và độ tin cậy của từng tài liệu trước khi tạo câu trả lời cuối cùng, thay vì chuyển các tài liệu được truy xuất như đến trình tạo câu trả lời. Bằng cách bao gồm việc tạo ghi chú, ngay cả khi các tài liệu không liên quan hoặc tiếng ồn được đưa vào kết quả tìm kiếm, mô hình sẽ dễ dàng xác định rằng tài liệu không được tham chiếu hơn và được cho là có hiệu quả trong việc ngăn chặn ảo giác. Tuy nhiên, trong hoạt động thực tế kể từ năm 2026, các bước suy luận và mức tiêu thụ mã thông báo sẽ tăng theo số lượng ghi chú được tạo ra, do đó, nhược điểm chính trong lĩnh vực này là tốc độ phản hồi và chi phí API sẽ cao hơn RAG thông thường. Về điều kiện thị trường, có nhiều trường hợp số lượng mã thông báo được tạo tăng lên vài phần trăm cho ghi chú và ý tưởng chung trong lĩnh vực này là đưa ra các lựa chọn dựa trên sự cân bằng giữa chi phí và độ chính xác, chẳng hạn như không áp dụng nó cho tất cả các truy vấn trong các sản phẩm định hướng chi phí mà chỉ áp dụng nó cho các truy vấn có điểm tìm kiếm thấp và nguy cơ thông tin sai lệch cao.

Thuật ngữ liên quan