AI tấn công là phương pháp sử dụng AI được tạo để tự động hóa và tăng cường các cuộc tấn công mạng như tạo email lừa đảo, tạo mã phần mềm độc hại và lừa đảo bằng cách sử dụng các hành vi giả mạo sâu.
AI tấn công là thuật ngữ chung chỉ các kỹ thuật kết hợp AI tổng hợp và mô hình ngôn ngữ quy mô lớn vào từng giai đoạn của một cuộc tấn công mạng nhằm tăng tốc quá trình trinh sát, xâm nhập và phổ biến. Nó được chia sẻ rộng rãi như một tiêu chuẩn ngành rằng AI tổng hợp có thể tạo ra hàng loạt tin nhắn lừa đảo, các biến thể phần mềm độc hại cũng như âm thanh và video giả mạo sâu mà chỉ kẻ tấn công lành nghề mới có thể viết được. Cạm bẫy của hoạt động thực tế tính đến năm 2026 là phía phòng thủ sẽ không thể theo kịp tốc độ AI đang được những kẻ tấn công sử dụng và các biến thể mới sẽ dễ dàng bị bỏ qua khi chỉ sử dụng các sản phẩm bảo mật dựa trên chữ ký hiện có. Khi lựa chọn các biện pháp đối phó tại hiện trường, biện pháp phòng thủ nhiều lớp kết hợp các biện pháp đối phó chống giả mạo (xác minh tính xác thực của âm thanh và video) và phát hiện sự bất thường trong văn bản email được áp dụng rộng rãi, bên cạnh việc giới thiệu các công cụ phát hiện độc lập. Vì chi phí triển khai là khoản đầu tư bổ sung cho hệ thống bảo mật hiện có nên việc đưa ra quyết định đầu tư theo từng giai đoạn dựa trên khả năng chấp nhận rủi ro của công ty và tầm quan trọng của tài sản cần được bảo vệ là thực tế.