ColBERT (Tìm kiếm tương tác muộn) là kiến trúc tìm kiếm có độ chính xác cao giúp vector hóa các truy vấn và tài liệu theo đơn vị mã thông báo và khớp chúng bằng cách sử dụng các thao tác MaxSim trong quá trình suy luận.
ColBERT (Tương tác muộn theo bối cảnh trên BERT) là mô hình tìm kiếm dựa trên BERT do Đại học Stanford đề xuất vào năm 2020 và tính năng lớn nhất của nó là ``tương tác muộn'', mã hóa từng truy vấn và tài liệu theo đơn vị mã thông báo và tính điểm tương tự tối đa (MaxSim) trong quá trình suy luận. Nó có sức mạnh biểu đạt cao hơn so với tìm kiếm vectơ đơn thông thường (chẳng hạn như DPR) và nhanh hơn đáng kể so với các bộ mã hóa chéo, do đó, nó vẫn đang thu hút sự chú ý như một phương tiện cải thiện độ chính xác của đường ống RAG vào năm 2026.
Một cạm bẫy trong hoạt động thực tế là chi phí lưu trữ. Bởi vì vectơ được giữ trong các đơn vị mã thông báo nên nó yêu cầu dung lượng gấp 10 đến 30 lần so với phương pháp vectơ đơn. Theo tôi, nếu số trường hợp dưới 1 triệu thì việc giới thiệu Python qua thư viện RAGatouille là thực tế. Đối với quy mô lớn hơn, cần có cơ sở hạ tầng chuyên dụng. Tiêu chí lựa chọn tiêu chuẩn là thử theo thứ tự ``Không đủ độ chính xác trong DPR → ColBERT → Bộ mã hóa chéo'', điều này đặc biệt hiệu quả đối với các câu hỏi và câu trả lời cũng như các tác vụ tìm kiếm tài liệu nội bộ.