QAT là một phương pháp học nhận biết lượng tử hóa, giả định lượng tử hóa bit thấp trong quá trình suy luận, điều chỉnh các tham số trong khi mô phỏng các lỗi từ giai đoạn học và giảm trọng lượng đồng thời ngăn chặn sự suy giảm độ chính xác.
QAT (Đào tạo nhận biết lượng tử hóa) là một phương pháp điều chỉnh các tham số trong khi mô phỏng lỗi từ giai đoạn học tập, dựa trên tiền đề rằng trọng số và kích hoạt được lượng tử hóa thành các bit thấp như 8 bit hoặc 4 bit trong khi suy luận. Nó được chia sẻ rộng rãi như một tiêu chuẩn ngành giúp ngăn chặn sự suy giảm độ chính xác dễ dàng hơn so với PTQ (Lượng tử hóa sau đào tạo), vốn lượng tử hóa tất cả cùng một lúc sau khi học. Mặt khác, cần có thêm dữ liệu đào tạo lại và tài nguyên GPU, vì vậy kể từ năm 2026, phương pháp lựa chọn chung trong trường này trước tiên là xác minh xem PTQ có đáp ứng các yêu cầu về độ chính xác hay không, sau đó chỉ tiến hành QAT khi độ chính xác vẫn không đủ đối với các mô hình nhỏ cho cạnh hoặc khi bạn muốn giảm số lượng bit lượng tử hóa. Trong hoạt động thực tế, người ta đã chỉ ra rằng có những cạm bẫy là phải mất nhiều giờ công hơn dự kiến để xây dựng và xác minh quy trình học lại, đồng thời việc hỗ trợ định dạng lượng tử hóa khác nhau tùy thuộc vào phần cứng, khiến không thể sử dụng nó như hiện tại. Quan điểm của thị trường là chi phí tìm hiểu và xác minh thường cao hơn nhiều lần so với trường hợp riêng của PTQ và nên thực hiện xác minh so sánh độ chính xác ở quy mô nhỏ trước khi đưa ra quyết định đầu tư.