Giá trên một triệu mã thông báo là chỉ số đánh giá biểu thị phí sử dụng API LLM xét theo số lượng trên một triệu mã thông báo được xử lý.
Đơn giá trên một triệu token là đơn vị tính phí phổ biến được các nhà cung cấp LLM lớn như OpenAI, Anthropic và Google sử dụng và người ta nói rằng các đơn giá khác nhau thường được đặt cho đầu vào (prompt) và đầu ra (tạo). Xét về giá thị trường tính đến năm 2026, giữa mẫu cao cấp và mẫu hạng nhẹ có sự chênh lệch giá vài chục lần và chi phí sẽ khác nhau rất nhiều tùy thuộc vào việc lựa chọn mẫu ngay cả đối với cùng một nhiệm vụ. Những cạm bẫy thường xảy ra trong hoạt động thực tế là trường hợp mô hình giá rẻ được chọn chỉ dựa trên đơn giá và tổng chi phí tăng do số lượng mã thông báo đầu ra tăng hoặc số lần thử lại lớn hoặc trường hợp tính toán đơn giá tăng nhiều hơn dự kiến vì ngữ cảnh được gửi mọi lúc mà không sử dụng chức năng bộ nhớ đệm. Khi thực hiện lựa chọn tại chỗ, điều quan trọng là phải chọn mô hình tối thiểu đáp ứng yêu cầu về độ chính xác của nhiệm vụ, cùng với thiết kế giúp giảm số lượng mã thông báo bằng cách không chỉ sử dụng bảng giá đơn vị mà còn sử dụng RAG và nén nhanh chóng.