Lệnh gọi công cụ song song là một cơ chế trong đó AI agent thực hiện đồng thời nhiều lệnh gọi công cụ độc lập để thu được kết quả nhanh hơn so với thực thi tuần tự.
Các lệnh gọi công cụ song song đề cập đến một phương thức trong đó LLM tạo ra nhiều lệnh gọi hàm (gọi công cụ) cùng lúc trong một suy luận duy nhất, ứng dụng thực hiện chúng song song và sau đó trả về kết quả chung cho mô hình. Nó được hỗ trợ tiêu chuẩn bởi API gọi chức năng của OpenAI và API sử dụng công cụ của Anthropic, đồng thời được cho là có thể giảm độ trễ và mức tiêu thụ mã thông báo so với các lệnh gọi tuần tự bằng cách thực hiện tất cả các quy trình độc lập lẫn nhau như thu thập thời tiết và thu thập tỷ giá hối đoái cùng một lúc. Trong hoạt động thực tế kể từ năm 2026, các cạm bẫy đã được chỉ ra, chẳng hạn như nếu các công cụ có phần phụ thuộc bị song song do nhầm lẫn, chúng sẽ được thực thi mà không cần chờ kết quả của một, gây ra sự không nhất quán và trong trường hợp xảy ra lỗi, chỉ một phần của các công cụ sẽ bị lỗi, khiến trạng thái ở trạng thái không hoàn chỉnh. Ngoài ra, khi số lượng thực thi đồng thời tăng lên, giới hạn tốc độ API và chi phí có xu hướng tăng, do đó, trong lĩnh vực này, các thiết kế được áp dụng rộng rãi trong đó các tác dụng phụ được xác định cho từng công cụ và chỉ các hệ thống truy vấn chỉ đọc mới được song song hóa, trong khi hệ thống ghi được giữ ở chế độ thực thi nối tiếp. Khi chọn một nền tảng agent, một trong những tiêu chí lựa chọn là liệu nó có tích hợp sẵn tính năng xử lý lỗi và kiểm soát thời gian chờ trong quá trình thực thi song song hay không.