Mô hình hóa mối đe dọa AI là phương pháp xác định một cách có hệ thống các tuyến tấn công và rủi ro có thể tồn tại trong hệ thống AI trước khi phát triển và ưu tiên các biện pháp đối phó.
Mô hình hóa mối đe dọa AI là một phương pháp xác định một cách có hệ thống những kẻ tấn công có thể xảy ra, các tuyến tấn công và kịch bản thiệt hại cho các hệ thống kết hợp AI agent và LLM trong giai đoạn phát triển ban đầu, đồng thời ưu tiên các biện pháp đối phó. Ngoài mô hình hóa mối đe dọa phần mềm truyền thống (các khung như STRIDE), nó còn độc đáo ở chỗ nó nhắm đến các rủi ro cụ thể đối với AI, chẳng hạn như tiêm nhắc, ô nhiễm dữ liệu học tập, leo thang đặc quyền trong lệnh gọi công cụ và lỗi vận hành do ảo giác gây ra. Trong các hoạt động thực tế tính đến năm 2026, số trường hợp trong đó các AI agent tự động gọi các công cụ và API bên ngoài sẽ tăng lên nhanh chóng và trọng tâm trong lĩnh vực này sẽ không chỉ là xác thực đầu vào một lần mà còn xác định ''những đặc quyền nào nên được cấp cho các AI agent'' ở giai đoạn thiết kế. Một cạm bẫy phổ biến là ưu tiên tốc độ phát triển và tạm gác lại mô hình mối đe dọa, chỉ để phát hiện ra các đặc quyền quá mức sau khi quá trình sản xuất đi vào hoạt động. Về chi phí, một phiên bản đơn giản hóa không yêu cầu nhân viên an ninh toàn thời gian và được nhóm phát triển thực hiện theo hình thức hội thảo trong thời gian nửa đến một ngày được coi là mức giá thực tế dành cho các doanh nghiệp vừa và nhỏ. Đối với các doanh nghiệp, cơ sở hạ tầng quản trị và các công cụ kiểm tra kết nối MCP được sử dụng kết hợp và các hoạt động ngày càng được xem xét liên tục.