Mất tăng đột biến là hiện tượng giá trị mất mát (mất mát) đột ngột tăng vọt trong quá trình học trước LLM, khiến việc học trở nên không ổn định và phân kỳ.
Tăng đột biến mất mát là hiện tượng trong đó giá trị (mất mát) của hàm mất mát đột ngột tăng vọt do sự bất thường về số lượng hoặc thay đổi đột ngột về độ dốc trong quá trình huấn luyện trước mạng lưới thần kinh. Nói chung, nguyên nhân chính là khi tốc độ học quá cao, các mẫu bất thường trong tập dữ liệu và tích lũy các lỗi làm tròn trong độ chính xác số (độ chính xác hỗn hợp bf16/fp8). Các giải pháp tiêu chuẩn công nghiệp bao gồm "khôi phục", bao gồm việc tua lại từ điểm kiểm tra về trạng thái trước đó, tạm thời giảm tốc độ học và tăng cường cắt giảm độ dốc. Trong hoạt động thực tế tính đến năm 2026, sẽ ngày càng có nhiều trường hợp trong đó việc đào tạo các mô hình quy mô lớn sẽ được gia công cho các nhà cung cấp chuyên biệt và chi phí đào tạo từ hàng chục triệu đến hàng trăm triệu yên Nhật có thể trở thành chi phí bổ sung hàng triệu yên Nhật cho một lần tháo gỡ. Về cách lựa chọn, người ta thường cho rằng việc giảm tổng chi phí sẽ dễ dàng hơn bằng cách chọn một nền tảng học tập được quản lý với chức năng giám sát và quay lui tự động hơn là có cơ sở hạ tầng học tập của riêng bạn. Khi tinh chỉnh LLM nội bộ, điều quan trọng là phải chuẩn bị trước một hệ thống theo dõi đường cong tổn thất.