Mẫu trò chuyện là một cơ chế định dạng các tương tác giữa người dùng và AI theo vai trò, chẳng hạn như hệ thống/người dùng/trợ lý, để mô hình có thể nhận thông tin đầu vào ở định dạng giống như đã được đào tạo.
Mẫu trò chuyện đề cập đến một chức năng tái tạo định dạng hộp thoại (dấu phân cách hệ thống/người dùng/trợ lý và ký hiệu vai trò) được sử dụng trong quá trình tìm hiểu trước và tinh chỉnh LLM, đồng thời chuyển đổi đầu vào sang mô hình thành định dạng thống nhất. Ví dụ điển hình là chức năng chat_template của mã thông báo của Hugging Face và định dạng được các API như OpenAI/Claude tự động áp dụng nội bộ. Vì thông số kỹ thuật của mẫu khác nhau tùy thuộc vào kiểu máy nên chất lượng đầu ra có thể khác nhau rất nhiều ngay cả với cùng một lời nhắc. Trong hoạt động thực tế kể từ năm 2026, mọi người đều biết rằng sự suy giảm hiệu suất và sự cố đầu ra do mẫu không khớp có thể xảy ra ở các địa điểm nơi các mô hình nguồn mở được lưu trữ riêng và việc kiểm tra thông số kỹ thuật của mẫu là điều bắt buộc khi chuyển đổi hoặc cập nhật mô hình. Khi sử dụng mô hình đóng thông qua API, không cần phải biết về các mẫu nên chi phí vận hành thấp và việc chọn API được quản lý đang trở thành thông lệ đối với các nhóm muốn tránh rắc rối trong việc quản lý mẫu.