LlamaIndex là một khung dữ liệu nguồn mở để kết nối dữ liệu bên ngoài với LLM nhằm xây dựng các ứng dụng RAG (tạo tiện ích mở rộng tìm kiếm).
LlamaIndex là một framework mã nguồn mở dành cho Python và TypeScript cho phép bạn xử lý một loạt quy trình (xây dựng chỉ mục, công cụ truy vấn và cộng tác agent) bao gồm phân đoạn và nhúng dữ liệu duy nhất, lưu trữ dữ liệu đó trong kho lưu trữ vectơ cũng như tìm kiếm và chuyển các tài liệu liên quan khi tạo câu trả lời LLM (xây dựng chỉ mục, công cụ truy vấn và phối hợp agent). Cùng với LangChain, nó được coi là lựa chọn tiêu chuẩn cho việc xây dựng RAG và được áp dụng rộng rãi trong các ứng dụng RAG của công ty như tìm kiếm tài liệu nội bộ và AI hỗ trợ khách hàng. Trong hoạt động thực tế kể từ năm 2026, độ chính xác của tìm kiếm có thể giảm nếu độ chi tiết của việc phân chia khối hoặc thiết kế siêu dữ liệu không chính xác, do đó, thông lệ trong lĩnh vực này là xây dựng trước tiên bằng các cài đặt đơn giản, sau đó đánh giá và điều chỉnh. Ngoài ra, có các khoản phí riêng khi sử dụng cơ sở dữ liệu vectơ và API nhúng, vì vậy khi xử lý dữ liệu quy mô lớn, cũng cần phải xem xét việc lập kế hoạch chi phí. Người ta biết rộng rãi rằng cấu hình LlamaIndex tiêu chuẩn được khuyến nghị cho các PoC quy mô nhỏ và nếu cần kiểm soát quy trình làm việc phức tạp thì nên cân nhắc kết hợp nó với các khung khác như LangGraph.