Đầu ra có cấu trúc là công nghệ cho phép LLM trả về các phản hồi ở định dạng cố định như JSON hoặc XML.
Đầu ra có cấu trúc là công nghệ buộc các phản hồi LLM thành các định dạng mà máy có thể đọc được như JSON, XML và CSV. Bằng cách xuất ra dưới dạng lược đồ cố định thay vì văn bản tự do, việc phân tích cú pháp và xử lý tự động của các hệ thống tiếp theo được đảm bảo.
Chế độ JSON, Gọi hàm và Sử dụng công cụ của Anthropic Claude của OpenAI được hỗ trợ ở cấp độ API và kể từ năm 2026, "mô hình tương thích gốc đầu ra có cấu trúc" sẽ là tiêu chuẩn cho hoạt động thực tế. Mặt khác, với dòng Gemini 1.5 và LLM nguồn mở, vẫn có trường hợp hệ thống bị hỏng ngay cả sau khi đưa ra hướng dẫn, do đó, quy tắc vàng trong trường là luôn cung cấp lớp xác thực.
Trong hoạt động thực tế của ReviewAI, công nghệ này được tận dụng triệt để trong quy trình thu thập thông tin công cụ tự động. Điều đáng tiếc là nếu lược đồ quá phức tạp, đầu ra sẽ bị hỏng giữa chừng, vì vậy tốt nhất bạn không nên lồng quá 2 đến 3 cấp độ. Về chi phí, có nhiều trường hợp lời nhắc hệ thống trở nên lớn hơn do thực thi JSON và mức tiêu thụ mã thông báo tăng từ 1,2 đến 1,5 lần.
Tiêu chí để lựa chọn là liệu quá trình xử lý tiếp theo có tự động hay không. Văn bản thuần túy là đủ để con người đọc. Đầu ra có cấu trúc là lựa chọn duy nhất nếu bạn muốn truyền nó vào API hoặc DB.