Hội thoại nhiều lượt là dạng hội thoại khác với hội thoại hỏi đáp một lần và tiếp tục nhiều lần trong khi vẫn giữ lại các tương tác trong quá khứ làm bối cảnh.
Đối thoại nhiều lượt, không giống như câu hỏi và trả lời một lần, đề cập đến hình thức đối thoại tiếp tục nhiều lần trong khi vẫn giữ lại các tương tác trong quá khứ làm bối cảnh. Bằng cách duy trì lịch sử hội thoại trong cửa sổ ngữ cảnh, LLM cho phép các cuộc hội thoại tự nhiên bao gồm các đại từ và chủ ngữ bị lược bỏ. Tuy nhiên, trong hoạt động thực tế kể từ năm 2026, số lượng cửa sổ ngữ cảnh được sử dụng sẽ tăng lên khi số lượt tăng lên và người ta nói rằng "sự pha loãng ngữ cảnh" sẽ xảy ra, trong đó độ chính xác tham chiếu giảm khi các cách nói cũ hơn. Về cách chọn một trong trường, thiết kế lời nhắc một lượt là đủ cho các câu trả lời Câu hỏi thường gặp đơn giản, nhưng đối với các ứng dụng cần bảo toàn ngữ cảnh, chẳng hạn như agent kinh doanh và hỗ trợ khách hàng, cần phải chọn một mô hình/API hỗ trợ nhiều lượt. Về mặt chi phí, việc triển khai gửi lịch sử không thay đổi mỗi lần sẽ tăng phí tương ứng với số lượng mã thông báo, do đó, việc nén lịch sử bằng cách tóm tắt và các biện pháp giống như RAG để chỉ trích xuất các nhận xét có liên quan thường được sử dụng kết hợp. Nói chung, chi phí API có thể sẽ tăng do thiết kế đòi hỏi các cuộc hội thoại kéo dài và sự cân bằng giữa quản lý chi phí và chất lượng phản hồi có thể sẽ trở thành một vấn đề vận hành.