Qdrant

Qdrant là một công cụ tìm kiếm vector mã nguồn mở được viết bằng Rust. Nó được đặc trưng bởi một thiết kế có thể xử lý các tìm kiếm phức tạp kết hợp các tìm kiếm tương tự vectơ chiều cao và lọc siêu dữ liệu với độ trễ thấp, ngay cả trên hàng trăm triệu kết quả. Nó được định vị là cơ sở hạ tầng cho các kỹ sư và nhóm học máy chịu trách nhiệm về phần phụ trợ của các ứng dụng AI, chẳng hạn như nền tảng RAG (tăng cường và tạo tìm kiếm), tìm kiếm ngữ nghĩa, công cụ đề xuất, tìm kiếm hình ảnh và giọng nói, v.v. Nó cung cấp cả phiên bản tự lưu trữ và phiên bản đám mây được quản lý, giúp dễ dàng áp dụng trong các lĩnh vực tài chính, y tế và công cộng, những nơi không thể xuất dữ liệu.

Các tính năng chính

Nén bộ nhớ bằng cách lượng tử hóa: Nén vectơ từ 4 đến 32 lần, giảm đáng kể yêu cầu bộ nhớ cho 10 triệu chỉ mục. Trong một số trường hợp, chi phí cơ sở hạ tầng có thể giảm hàng trăm nghìn yên Nhật mỗi tháng.

Lọc tải trọng + tìm kiếm kết hợp: Độ tương tự của vectơ xử lý và các điều kiện siêu dữ liệu (ngày, danh mục, ID người dùng, v.v.) trong một truy vấn. Không cần phải viết bộ lọc sau ở phía ứng dụng và số giờ công cần thiết để triển khai logic tìm kiếm có thể giảm xuống dưới một nửa.

Phân chia và sao chép phân tán: Phân vùng theo chiều ngang các chỉ mục lớn và cho phép chuyển đổi dự phòng trong trường hợp nút bị lỗi. Thật dễ dàng để tạo ra các thiết kế SLA cho hoạt động sản xuất nội bộ.

gRPC / REST API + SDK chính thức: Đã có sẵn ứng dụng khách cho Python, JavaScript, Go và Rust và cũng có sẵn khả năng tích hợp với LangChain / LlamaIndex.

Biên bản xác minh của ban biên tập

Sau khi so sánh giá công bố và các yêu cầu về chức năng, Qdrant nổi bật vì tính năng tự lưu trữ là miễn phí và đám mây có giới hạn cụm 1GB miễn phí, cho phép giảm chi phí PoC xuống gần như bằng không. Đối thủ Pinecone được quản lý và trả tiền theo mức sử dụng, Weaviate mạnh về tìm kiếm kết hợp nhưng có khối lượng hoạt động cao và Chroma dành cho người dùng quy mô nhỏ và yếu ở quy mô sản xuất. Qdrant khác biệt ở ba điểm: ``Tốc độ được hỗ trợ bởi Rust'' ``giảm ​​bộ nhớ thông qua lượng tử hóa'' và ``tùy chọn tự lưu trữ.'' Khi xây dựng nền tảng RAG với quy mô 1 triệu vectơ nội bộ, người ta ước tính rằng chi phí cơ sở hạ tầng có thể giảm vài chục nghìn yên Nhật mỗi tháng so với kế hoạch được quản lý của Pinecone và thời gian triển khai cho các kỹ sư tìm kiếm cũng có thể giảm đáng kể.

Người dùng dự định

Nó phù hợp cho các kỹ sư AI/ML muốn đưa cơ sở hạ tầng RAG và tìm kiếm kiến thức nội bộ vào sản xuất cũng như cho các công ty có yêu cầu tại chỗ ngăn họ xuất dữ liệu. Mặt khác, đối với những người không phải là kỹ sư, không quen với khái niệm tìm kiếm vectơ hoặc đối với các nhóm muốn hoàn thành quy trình mà không cần mã, chi phí học tập cao và các tùy chọn SaaS được quản lý sẽ phù hợp hơn.

Một công cụ tìm kiếm vector mã nguồn mở hiệu suất cao được xây dựng trong Rust. Tìm kiếm tốc độ cao, độ chính xác cao đối với dữ liệu vectơ chiều cao, kết hợp các điều kiện lọc và hỗ trợ cả lưu trữ tự lưu trữ và lưu trữ đám mây. mã nguồn mở hoàn toàn miễn phí, được thiết kế theo thể loại cạnh tranh Pinecone/Milvus/Weaviate với “Tốc độ của Rust + nhẹ”. Một lựa chọn tiêu chuẩn cho các nhóm "tự lưu trữ + định hướng tốc độ" trên nền tảng RAG vừa và nhỏ.