Lý do kết thúc là mục phản hồi cho biết nguyên nhân khiến API LLM ngừng tạo văn bản.
Lý do kết thúc là một trường có trong phản hồi của các API LLM chính như OpenAI và Anthropic, cho biết lý do tại sao quá trình tạo bị dừng. Các giá trị điển hình bao gồm điểm dừng (chấm dứt tự nhiên), độ dài (đã đạt đến max_tokens), content_filter (phát hiện bộ lọc an toàn), tool_calls (yêu cầu lệnh gọi hàm), v.v. Là một tiêu chuẩn ngành, định dạng OpenAI finish_reason và Anthropic stop_reason được sử dụng gần như thay thế cho nhau. Một cạm bẫy trong hoạt động thực tế là một lỗi trong đó việc hủy bỏ theo thời gian bị đánh giá không chính xác là dừng, dẫn đến JSON hoặc mã bị bỏ ở giữa và chuyển sang quá trình xử lý tiếp theo. Điều này vẫn sẽ xảy ra thường xuyên trong các trang web cơ sở hạ tầng của agent và RAG ngay cả vào năm 2026. Về mặt chi phí, phần cuối của thời lượng phát sinh phí lên đến giới hạn max_tokens, có xu hướng dẫn đến việc tiêu thụ mã thông báo lãng phí. Thiết kế tiêu chuẩn trong trường này là luôn ghi kết thúc_reason vào nhật ký khi xác thực phản hồi và đưa ra phản hồi tự động thử lại hoặc cảnh báo khi sử dụng length/content_filter.