Dify

Dify là một nền tảng phát triển ứng dụng LLM mã nguồn mở cho phép bạn xây dựng các ứng dụng AI tổng quát mà không cần lập trình. Bạn có thể tập hợp các chatbot nội bộ, phản hồi Câu hỏi thường gặp tự động, phân tích tài liệu, AI agent, RAG (tìm kiếm kiến ​​thức nội bộ), v.v. bằng cách sử dụng màn hình quy trình làm việc kéo và thả. Bạn có thể chuyển đổi giữa các LLM chính như OpenAI, Anthropic, Llama 2, Azure OpenAI, Hugging Face, Replica, v.v. với nhiều nhà cung cấp. Dành cho những người phụ trách hệ thống thông tin hoặc cải tiến kinh doanh muốn tạo AI nội bộ cho từng bộ phận cụ thể mà không cần sự tham gia của các kỹ sư.

Các tính năng chính

1. Trình tạo quy trình làm việc trực quan: Hoàn thành ứng dụng AI bằng cách kết nối các lời nhắc, nhánh, lệnh gọi API, LLM và tìm kiếm kiến thức bằng các nút. Một nguyên mẫu của một chatbot nội bộ mà trước đây phải mất từ ​​hai đến ba tuần nhân công kỹ thuật thì giờ đây có thể được lắp ráp trong nửa ngày đến một ngày.

2. Chức năng RAG (Cơ sở tri thức): Nhập PDF, Word, Notion và các trang web và xây dựng bot Hỏi đáp với tìm kiếm vectơ. Nó được thiết kế để tạo ra câu trả lời trong khi vẫn duy trì độ chính xác của tìm kiếm ngay cả đối với sách hướng dẫn nội bộ 100 trang và được liên kết trực tiếp với việc tự động hóa các câu trả lời chính cho các câu hỏi.

3. Chức năng AI agent: Có thể xác định một agent có thể thực hiện các nhiệm vụ một cách tự động bằng cách kết hợp nhiều công cụ (tìm kiếm trên web, tính toán, thực thi API). Chức năng GPT Hành vi loại gọi có thể được cấu hình bằng GUI, giảm thời gian cài đặt xuống khoảng 1/5 so với phiên bản triển khai mã.

4. Nhúng ứng dụng/xuất bản API: Các ứng dụng đã tạo có thể được nhúng ngay lập tức vào iframe trên trang web, được xuất bản dưới dạng URL độc lập và cấp điểm cuối API REST. Việc tích hợp vào các cổng nội bộ và Slack có thể được hoàn thành mà không cần phát triển thêm.

Biên bản xác minh của ban biên tập

Do so sánh và xem xét các gói định giá công khai, chúng tôi nhận thấy rằng gói Sandbox là miễn phí và cho phép bạn sử dụng tối đa 200 tín dụng tin nhắn và 10 ứng dụng, đủ cho mục đích PoC (bằng chứng về khái niệm). Phiên bản Cộng đồng (tự lưu trữ) hoàn toàn miễn phí và không giới hạn, đồng thời cũng hỗ trợ các yêu cầu của các công ty muốn lưu giữ dữ liệu trên máy chủ của riêng họ. So với các đối thủ LangChain và Flowise, Dify khác biệt ở chỗ có thể tích hợp RAG với các API bên ngoài mà không cần viết bất kỳ mã nào. Nếu chúng tôi thay thế nó bằng các hoạt động Câu hỏi thường gặp nội bộ, nếu chúng tôi có thể tự động trả lời 60% trong số 500 câu hỏi hàng tháng, chúng tôi ước tính rằng thời gian phản hồi có thể giảm từ 40 giờ mỗi tháng xuống còn 16 giờ mỗi tháng, điều này sẽ giảm chi phí ban đầu so với ChatGPT Enterprise ($30/người dùng/tháng).

Người dùng dự định

Lý tưởng cho các hệ thống thông tin và bộ phận cải tiến kinh doanh muốn tạo ứng dụng AI nội bộ ngay cả đối với những người không phải là kỹ sư và các công ty khởi nghiệp muốn chạy nhanh PoC cho AI được tạo. Mặt khác, vì giao diện người dùng chủ yếu bằng tiếng Anh nên các tổ chức vận hành nó chỉ với những nhân viên hiện trường không muốn nói tiếng Anh hoặc các hoạt động sản xuất quy mô lớn yêu cầu SLA doanh nghiệp ngay từ đầu, nên cân nhắc cẩn thận việc đưa hệ thống hỗ trợ vào.

Nền tảng nguồn mở để xây dựng ứng dụng AI không cần mã. Trong khi chuyển đổi giữa các LLM chính như OpenAI/Anthropic/Hugging Face, bạn có thể tạo RAG, chatbot nội bộ và tự động phản hồi Câu hỏi thường gặp bằng cách kéo và thả. Tự lưu trữ hoàn toàn miễn phí, phiên bản đám mây bắt đầu từ $59/tháng. Một tác phẩm kinh điển sẽ thu hút cả những nhà phát triển đã mệt mỏi với việc viết LangChain từ đầu và những nhà lãnh đạo lĩnh vực muốn xây dựng AI kinh doanh mà không cần bộ phận CNTT.