AgentOps đề cập đến cơ sở hạ tầng vận hành và các phương pháp thực hành quản lý nhất quán việc thiết kế, triển khai, giám sát và cải tiến các AI agent.
AgentOps đề cập đến một nhóm cơ sở hạ tầng và phương pháp vận hành quản lý nhất quán việc thiết kế, triển khai, giám sát và cải tiến các AI agent bằng LLM. Đây là một khái niệm là phần mở rộng của DevOps và MLOps, đồng thời được cho là bao gồm việc thu thập nhật ký hành vi của tổng đài viên, giám sát độ chính xác của phản hồi, quản lý chi phí, thiết kế dự phòng trong trường hợp xảy ra lỗi, v.v. Kể từ năm 2026, số lượng cấu hình đa agent trong đó nhiều agent làm việc cùng nhau sẽ tăng lên và tầm quan trọng của việc theo dõi các chức năng theo dõi lịch sử cuộc gọi và kết quả thực thi công cụ giữa các tổng đài viên sẽ tăng lên bên cạnh việc quản lý các lời nhắc đơn lẻ. Đối với những cạm bẫy trong lĩnh vực này, người ta đã chỉ ra rằng các quyết định tự chủ của agent có xu hướng trở thành hộp đen và các hệ thống được đưa vào sản xuất mà không có cơ chế phát hiện các cuộc gọi công cụ bất ngờ hoặc chi phí tăng đột ngột. Nói chung, việc bổ sung các chức năng agent vào các công cụ quan sát hiện có đang trở nên phổ biến hơn và các phương pháp tiếp cận từ cả SaaS chuyên dụng và APM đa năng đều cùng tồn tại. Khi thực hiện lựa chọn, điều quan trọng đối với các hoạt động thực tế là phải xem xét mức độ chi tiết của nhật ký, quản lý quyền và khả năng tích hợp dễ dàng với cơ sở hạ tầng hiện có.