Leo thang đặc quyền của agent là một lỗ hổng hoặc rủi ro cho phép AI agent mở rộng trái phép các đặc quyền truy cập và thực thi của nó đối với các hệ thống, API và tệp ngoài phạm vi các đặc quyền được chỉ định ban đầu.
Leo thang đặc quyền của agent được cho là đề cập đến các lỗ hổng và rủi ro trong đó các AI agent tự động gọi các công cụ và API có thể thực hiện các hoạt động trên tệp, liên lạc bên ngoài và truy cập vào các hệ thống khác ngoài phạm vi quyền hạn mà nhà phát triển đảm nhận. Người ta nói rằng khái niệm về các cuộc tấn công leo thang đặc quyền trong phần mềm truyền thống đã được thảo luận rộng rãi khi nó mở rộng sang các AI agent thông qua chuỗi lệnh gọi công cụ và tiêm prompt. Trong các hoạt động thực tế kể từ năm 2026, các biện pháp tiêu chuẩn trong lĩnh vực này sẽ là nguyên tắc đặc quyền tối thiểu, giúp giảm thiểu các đặc quyền công cụ được cấp cho các tổng đài viên, thực thi trong môi trường hộp cát và thiết kế con người trong vòng lặp với quy trình phê duyệt ở giữa. Như một điều đáng tiếc, người ta đã chỉ ra rằng trong cấu hình nhiều agent trong đó nhiều agent và agent phụ làm việc cùng nhau, việc leo thang đặc quyền ngoài ý muốn có thể xảy ra do kết hợp các đặc quyền riêng lẻ ngay cả khi các đặc quyền riêng lẻ phù hợp. Chi phí vận hành liên quan đến việc triển khai nhật ký giám sát và đặc quyền kiểm tra có xu hướng bị bỏ qua và thực tế là các đặc quyền thiết kế có xu hướng bị trì hoãn để bổ sung chức năng cũng là một vấn đề phổ biến trong lĩnh vực này.