LoRA là một phương pháp tinh chỉnh nhằm đạt được khả năng thích ứng với một miền cụ thể với chi phí tính toán dưới 1% của tất cả các tham số bằng cách chèn thêm các cặp ma trận cấp thấp trong khi vẫn giữ cố định trọng số của mô hình quy mô lớn.
LoRA (Thích ứng thứ hạng thấp) là phương pháp PEFT (Điều chỉnh hiệu quả tham số) được Microsoft đề xuất vào năm 2021. Cố định trọng số của mô hình ban đầu và chèn ma trận thứ hạng thấp A và B vào mỗi lớp Transformer. Chỉ ma trận bổ sung này được huấn luyện, giúp giảm đáng kể bộ nhớ GPU và thời gian huấn luyện.
Nó được sử dụng rộng rãi từ việc điều chỉnh kiểu ký tự của Stable Diffusion sang điều chỉnh lệnh LLM cho các lớp 7 đến 70B và tính đến năm 2026, nó đã trở thành phương pháp tiêu chuẩn trên thực tế để tùy chỉnh từng doanh nghiệp.
Về cách lựa chọn trong lĩnh vực này, cấp 4 đến 16 là tiêu chuẩn và cấp 8 là cân bằng cho mục đích chung. Giá trung bình cho dữ liệu huấn luyện là 100 đến 500 token cho LoRA hình ảnh và 5.000 đến 50.000 token cho LoRA văn bản. Thời gian ước tính là 3 đến 6 tiếng đối với model 7B khi chuyển sang A100 80GB.
Có ba cạm bẫy trong hoạt động thực tế. ① Khi nhiều LoRA được hợp nhất đồng thời, chất lượng có xu hướng giảm do nhiễu của thang đo trọng lượng. ② Khi áp dụng hậu hoc cho các mô hình lượng tử hóa như GGUF, độ chính xác sẽ giảm đáng kể. ③ Nếu xếp hạng được đặt quá thấp, sẽ xảy ra hiện tượng trang bị quá mức, trong đó mô hình chỉ phản hồi các lời nhắc cụ thể. Nhiều công cụ tạo hình ảnh và video được ReviewAI giới thiệu cung cấp API tùy chỉnh LoRA và số lượng ví dụ triển khai trong bối cảnh tạo thương hiệu tích hợp đang tăng lên nhanh chóng.