Lừa đảo do AI tạo sinh là một phương thức tấn công khai thác AI được tạo ra để tự động tạo ra văn bản, âm thanh và video trông giống hệt như thật, đồng thời đánh lừa tiền và thông tin thông qua việc mạo danh.
Lừa đảo do AI tạo sinh là thuật ngữ chung chỉ các cuộc tấn công mạng sử dụng AI được tạo ra để tự động tạo văn bản, âm thanh và video nhằm mạo danh người hoặc công ty thực để đánh cắp tiền hoặc thông tin bí mật. Không giống như các email lừa đảo truyền thống, thường có lỗi ngữ pháp đáng chú ý và cách diễn đạt không tự nhiên, AI tổng quát có thể tạo ra các câu và giọng nói có âm thanh tự nhiên (bản sao giọng nói) nghe giống hệt chính người đó, giúp người nhận dễ dàng tin vào chúng. Trong các hoạt động thực tế tính đến năm 2026, người ta cho rằng ``Deep Fake BEC (Thỏa hiệp email doanh nghiệp)'', sử dụng quản lý mạo danh âm thanh và video, đang gia tăng và cần có hệ thống kiểm tra kỹ tại hiện trường để đảm bảo rằng các yêu cầu chuyển giao cho đối tác kinh doanh không chỉ đáng tin cậy qua các cuộc gọi điện thoại hoặc video. Ngoài chi phí triển khai các công cụ phát hiện giả mạo, còn có gánh nặng vận hành ngày càng tăng như đào tạo nội bộ về cách xác định giả mạo và triển khai triệt để xác thực đa yếu tố, được coi là lĩnh vực ưu tiên cao hơn trong ngân sách bảo mật.