Giải mã CoT là một phương pháp giải mã trích xuất các suy luận theo chuỗi xảy ra một cách tự nhiên bằng cách so sánh nhiều ứng cử viên đầu ra mà không sử dụng các gợi ý khuyến khích tư duy.
Giải mã CoT là một phương pháp được đề xuất trong nghiên cứu của Google DeepMind vào năm 2024 và được cho là một phương pháp làm nổi bật chuỗi suy nghĩ vốn có trong mô hình bằng cách so sánh k đường dẫn ứng cử viên hàng đầu mà mô hình có thể tạo ở mã thông báo đầu tiên trong quá trình giải mã mà không cần sử dụng các lời nhắc kích thích tư duy như "suy nghĩ từng bước". Mặc dù dễ dàng duy trì khả năng tái tạo đầu ra vì nó không phụ thuộc vào từ ngữ prompt, nhưng cần phải tạo và đánh giá song song các đường dẫn ứng cử viên top-k, điều này làm tăng chi phí suy luận và thời gian xử lý lên nhiều lần so với việc tạo một đường dẫn thông thường, đây là một hạn chế lớn trong hoạt động thực tế. Kể từ năm 2026, nhiều trang web sẽ quyết định có áp dụng nó hay không bằng cách so sánh chi phí bổ sung này với tác động tương đương của prompt engineering chóng (CoT vài lần chụp, v.v.). Mặc dù nó được chọn cho các ứng dụng phân tích và xử lý hàng loạt trong đó yêu cầu về độ trễ là nhẹ và độ chính xác là ưu tiên hàng đầu, nhưng nó có xu hướng bị tránh sử dụng đối với các ứng dụng trò chuyện yêu cầu phản hồi theo thời gian thực vì nó không xứng đáng với giá trị thị trường.