Hợp nhất mô hình

Hợp nhất mô hình là công nghệ tích hợp toán học các tham số (trọng số) của nhiều mô hình AI được đào tạo và kết hợp các khả năng khác nhau vào một mô hình duy nhất mà không phải chịu chi phí đào tạo bổ sung.

Hợp nhất mô hình là phương pháp kết hợp trọng số của nhiều mô hình bằng các thuật toán như SLERP, TIES-Merging, DARE và Model Soup và nhanh chóng trở nên phổ biến trong cộng đồng nguồn mở từ năm 2024 đến năm 2026. Điểm mạnh lớn nhất của nó là có thể được thử nghiệm với chi phí GPU gần như bằng 0 so với tinh chỉnh truyền thống và tính đến năm 2026, số lượng mô hình hợp nhất được xuất bản trên Hugging Face đã lên tới hơn 10.000.

Một cạm bẫy phổ biến trong sản xuất là các kiến ​​trúc khác nhau (ví dụ: Llama và Mistral) không thể được tích hợp nguyên trạng. Nếu các mô hình không xuất phát từ cùng một dòng thì toàn bộ mô hình sẽ thất bại. Ngoài ra, việc điều chỉnh tỷ lệ hợp nhất (giá trị α) có xu hướng trực quan và ngay cả khi nó cải thiện về điểm chuẩn, có nhiều trường hợp trong lĩnh vực này nó bị thoái hóa trong các tác vụ thực tế.

Đối với chi phí trung bình, quá trình hợp nhất có thể được hoàn thành miễn phí với giá vài trăm yên Nhật trên một phiên bản GPU, nhưng nếu bạn bao gồm đánh giá chất lượng thì sẽ là ``1/5 chi phí tinh chỉnh''. Trong khảo sát ReviewAI, số giờ công cần thiết để chuẩn bị các bộ đánh giá được coi là một chi phí tiềm ẩn thường bị bỏ qua.

Khi chọn on-site, hãy kiểm tra ba điểm: (1) mô hình cơ sở có cùng kiến ​​​​trúc hay không, (2) liệu bộ đánh giá tương ứng với mục đích sau khi sáp nhập đã được chuẩn bị trước hay chưa và (3) liệu giấy phép có cho phép sáp nhập và phân phối lại hay không (đặc biệt khi sử dụng thương mại, hãy cẩn thận).