Lan truyền ngược lỗi là một thuật toán tiến hành học bằng cách tính toán độ dốc của trọng số của mỗi lớp trong khi truy tìm lỗi đầu ra của mạng thần kinh theo hướng ngược lại.
Lan truyền ngược lỗi là một thuật toán học truyền lỗi được xác định ở lớp đầu ra của mạng thần kinh ngược về phía đầu vào dựa trên quy tắc chuỗi và tính toán hiệu quả độ dốc cho trọng số của từng lớp và đã được áp dụng rộng rãi như một nền tảng tối ưu hóa tiêu chuẩn cho học sâu từ những năm 1980. Công thức tính toán này hiếm khi được viết bằng tay trong trường và hàm tự động chuyển đổi của PyTorch hoặc TensorFlow sẽ đảm nhận việc triển khai dưới dạng phân biệt tự động. Tuy nhiên, ngay cả đến năm 2026, vấn đề vẫn là gradient có xu hướng biến mất hoặc bùng nổ khi lớp ngày càng sâu hơn và các trở ngại như việc học không tiến triển hoặc mất đi trở thành NaN có thể xảy ra trong hoạt động thực tế. Ngoài ra, do chi phí GPU rất lớn khi đào tạo một mô hình quy mô lớn từ đầu bằng cách sử dụng lan truyền ngược, nên nhiều trang web sử dụng tính năng tinh chỉnh hiệu quả về tham số như LoRA để thu hẹp phạm vi lan truyền ngược và giảm chi phí.