ReviewAI
Xếp hạngDanh mụcKhám pháTạp chíSo sánhMiễn phíTừ điển

Mô hình trọng lượng mở (Open Weight)

Mô hình trọng lượng mở là mô hình AI có trọng số mô hình đã đào tạo (tệp tham số) được công khai và bất kỳ ai cũng có thể tải xuống và chạy nó trên máy chủ của riêng họ.

Mô hình trọng lượng mở là một LLM cung cấp công khai các tệp trọng lượng (thông số) đã được đào tạo. Mặc dù nó thường bị nhầm lẫn với "LLM nguồn mở", nhưng có nhiều trường hợp chỉ có trọng số được công khai mặc dù mã và dữ liệu đào tạo là riêng tư nên được gọi chính xác hơn là trọng số mở. Các ví dụ điển hình bao gồm Llama 3.3 của Meta, Mistral, Qwen 2.5 của Alibaba và Gemma của Google. Stable Diffusion cũng là một trọng lượng mở đại diện trong lĩnh vực tạo hình ảnh.

Xét về giá thị trường vào năm 2026, Llama 3.3 70B có độ chính xác ở cấp GPT-4o đồng thời cho phép tự lưu trữ trên máy chủ A100 8x (200.000 đến 300.000 yên Nhật mỗi tháng). So với tính năng thanh toán theo nhu cầu sử dụng API, việc đảo ngược chi phí là điểm quyết định quan trọng trong lĩnh vực này khi sử dụng hơn 1 triệu mã thông báo mỗi tháng.

Có ba cạm bẫy trong hoạt động thực tế. ① Suy giảm lượng tử hóa: Độ chính xác thực tế có thể thấp hơn giá trị chuẩn ở chế độ nén 8bit/4bit. ②Ràng buộc VRAM: 70B Độ chính xác hoàn toàn cần hơn 140GB nên không thể chạy trên GPU thông thường. ③Hạn chế cấp phép: Dòng Llama yêu cầu giấy phép riêng để sử dụng thương mại cho các dịch vụ có DAU hàng tháng trên 700 triệu. Theo đánh giá của ReviewAI, tính năng tự lưu trữ chỉ được khuyến nghị cho các ứng dụng có độ chính xác ``cao hơn 0,7 lần so với API đóng và chi phí thấp hơn một nửa.''

Thuật ngữ liên quan