Deepfakes là nội dung giả mạo sử dụng deep learning để tổng hợp và thay thế khuôn mặt, giọng nói và chuyển động của người thật bằng các hình ảnh và âm thanh khác với độ chính xác cao.
Deepfakes là các công nghệ sử dụng GAN (Mạng đối thủ sáng tạo) và các mô hình phổ biến để thay thế khuôn mặt, giọng nói và chuyển động cơ thể hiện có bằng khuôn mặt, giọng nói và chuyển động cơ thể của một người khác. Số lượng các vụ lạm dụng đã tăng lên nhanh chóng kể từ khoảng năm 2016 và đến năm 2026, quá trình dân chủ hóa đã tiến triển đến mức bất kỳ ai cũng có thể tạo ra một vụ lạm dụng trong vòng vài phút bằng cách sử dụng các công cụ nguồn mở.
Cạm bẫy lớn nhất trong hoạt động thực tế là việc lạm dụng "lừa đảo mạo danh". Một phiên bản nâng cao của gian lận BEC, sao chép khuôn mặt và giọng nói của người quản lý công ty để chuyển tiền trực tiếp cho đối tác kinh doanh, đang gia tăng và thiệt hại do video giả tạo từ cảnh họp hội đồng quản trị hợp pháp cũng đã được báo cáo ở cả Nhật Bản và nước ngoài. Tại Nhật Bản, Đạo luật ngăn ngừa cạnh tranh không lành mạnh sửa đổi năm 2025 đã quy định rõ ràng việc can thiệp vào hoạt động kinh doanh bằng cách sử dụng hàng giả sâu.
Chi phí phát hiện trung bình dao động từ các API miễn phí do Microsoft và Google cung cấp cho đến các dịch vụ chuyên biệt dành cho các công ty có giá hơn 100.000 yên Nhật mỗi tháng. Các công cụ miễn phí có thể đảm bảo độ chính xác 80-90% khi đăng lên mạng xã hội, nhưng có những trường hợp ngay cả các dịch vụ chuyên dụng cũng không thể phát hiện ra các tài liệu đã được các chuyên gia tinh chỉnh. Khi đưa ra lựa chọn tại chỗ, biện pháp đối phó tối thiểu là kết hợp việc kiểm tra nội dung video trước khi phát hành vào quy trình làm việc, giả sử có "trò chơi mèo vờn chuột giữa chất lượng tạo và độ chính xác của phát hiện".