Jan

Trò chuyện AI mã nguồn mở hoạt động hoàn toàn ngoại tuyến, dành cho các công ty muốn sử dụng LLM cho doanh nghiệp mà không để lộ thông tin bí mật

Jan là một ứng dụng trò chuyện AI trên máy tính để bàn cho phép bạn chạy các LLM nguồn mở như Llama và Mistral trên PC của bạn. Tất cả dữ liệu hội thoại không được gửi lên đám mây và được lưu trữ cục bộ nên có thể được sử dụng thực tế trong các môi trường pháp lý, y tế, tài chính và hành chính nơi bạn muốn tóm tắt các tài liệu bí mật, tạo Câu hỏi thường gặp nội bộ, cung cấp hỗ trợ mã, v.v. mà không thể gửi ra bên ngoài. Mặc dù giao diện người dùng tương tự như ChatGPT, nhưng điểm quan trọng là người dùng có thể kiểm soát việc lựa chọn, chuyển đổi và mở rộng mô hình.

Các tính năng chính

Thực thi LLM cục bộ: Tải xuống các mô hình chính trên Hugging Face như Llama 3, Mistral và Gemma từ GUI → Bắt đầu trò chuyện ngay lập tức. Không cần CLI hoặc Docker và ngay cả những người không phải là kỹ sư cũng có thể nhận được phản hồi đầu tiên trong vòng 10 phút.

Máy chủ API tương thích OpenAI tích hợp: Bạn có thể thiết lập cục bộ điểm cuối tương thích localhost:1337 và thay thế nó bằng lệnh gọi tương tự như API ChatGPT từ các công cụ nội bộ. Cấu hình cho phép bạn thay thế phí OpenAI (từ hàng chục nghìn yên Nhật mỗi tháng) bằng một GPU cục bộ.

Plugin/Tiện ích mở rộng: Hỗ trợ mở rộng chức năng như tải tệp, tìm kiếm trên web và thêm mô hình gốc. Đa nền tảng: Mac (Apple Silicon), Windows và Linux.

Bộ nhớ cục bộ hoàn toàn: Lịch sử hội thoại, kiểu máy và cài đặt đều được lưu trữ trên thiết bị người dùng. Bạn có thể loại bỏ rủi ro mang theo thông tin khi rời văn phòng và rủi ro tích lũy nhật ký thông qua các API bên ngoài.

Biên bản xác minh của ban biên tập

So sánh các yêu cầu chức năng chính thức và cơ cấu giá (miễn phí, không tính thêm phí) với đối thủ, điểm khác biệt của Jan nằm ở sự kết hợp giữa ``GUI thực thi cục bộ hoàn toàn với API tương thích OpenAI tích hợp.'' Mặc dù LM Studio ở vị trí tương tự, Jan có lợi thế là nguồn mở (AGPL), mang lại mức độ linh hoạt tùy chỉnh cao và dễ dàng phân phối nội bộ và xử lý kiểm tra hơn. ROI dự kiến ​​là nếu một nhóm 20 phương án thay thế Nhóm ChatGPT (khoảng 30 USD mỗi người/tháng) bằng GPU cục bộ Jan +, ước tính chi phí API/đăng ký có thể giảm từ 700.000 đến 900.000 yên Nhật mỗi năm. Kết hợp với thực tế là nguy cơ rò rỉ thông tin có thể gần bằng 0, lợi tức đầu tư có nhiều khả năng tăng lên trong các ngành được quản lý.

Người dùng dự định

Nó phù hợp cho các bộ phận pháp lý, y tế, tài chính và hành chính xử lý thông tin bí mật, hệ thống thông tin muốn biến LLM địa phương thành tiêu chuẩn nội bộ và các nhóm phát triển nhằm giảm chi phí thông qua API. Mặt khác, nó không phù hợp cho suy luận nâng cao sử dụng mô hình lớp GPT-5 mới nhất, hoạt động tập trung vào thiết bị di động hoặc môi trường mà PC được trang bị GPU không thể chuẩn bị được.

Jan đồng nghĩa với "ChatGPT cầm tay" chạy LLM cục bộ trên thiết bị đầu cuối kinh doanh. Kể từ tháng 8 năm 2026, bạn có thể sử dụng GGUF miễn phí và ngoại tuyến dựa trên Jan 0.8.4, Jan-Nano và Llama, đồng thời khi cần, bạn có thể kết nối với đám mây như GPT-5.6 Sol bằng khóa API. MCP và CLI cũng đang phát triển nhưng chất lượng phản hồi và quản lý vận hành của chúng kém hơn SaaS cấp 5 của Claude Sonnet. Thích hợp cho các nhóm không thể tiết lộ dữ liệu bí mật