Mã thông báo đầu ra tối đa (Mã thông báo tối đa) là tham số chỉ định giới hạn trên cho số lượng mã thông báo mà LLM có thể tạo trong một phản hồi.
Tham số này phổ biến đối với nhiều API LLM, chẳng hạn như max_tokens của OpenAI, Max Tokens của Anthropic Claude và maxOutputTokens của Gemini, đồng thời chỉ định giới hạn trên cho số lượng mã thông báo mà mô hình có thể tạo trong một phản hồi. Nó được đặt trên một trục riêng biệt với cửa sổ ngữ cảnh ở phía đầu vào, vì vậy hãy lưu ý rằng khi đạt đến giới hạn trên, văn bản sẽ bị cắt và đầu ra sẽ kết thúc. Trong hoạt động thực tế vào năm 2026, hai loại cạm bẫy thường được chỉ ra: đặt giá trị quá thấp, câu trả lời dài sẽ bị cắt giữa chừng và đặt giá trị quá cao, dẫn đến dư thừa đầu ra và tăng chi phí. Đối với các API trả tiền khi sử dụng, số lượng mã thông báo đầu ra được liên kết trực tiếp với chi phí, do đó, người ta nói rằng thiết kế giới hạn dựa trên mục đích (vài trăm để tóm tắt, vài nghìn để tạo mã và tạo báo cáo) được áp dụng rộng rãi trong lĩnh vực này. Trong hoạt động thực tế, điều quan trọng là phải ước tính trước số lượng đầu ra dự kiến cho mỗi ứng dụng và đạt được sự cân bằng giữa việc cho phép một số lợi nhuận và tránh các giới hạn trên không cần thiết.