Ứng dụng AI giả mạo là những ứng dụng độc hại và trang web giả mạo giả danh các công cụ AI phổ biến và chuyển hướng người dùng đến các trang web chứa phần mềm độc hại hoặc lừa đảo.
Ứng dụng AI giả mạo là thuật ngữ chung để chỉ các ứng dụng độc hại và trang web giả mạo bắt chước tên, biểu tượng và hình thức của các công cụ AI thế hệ nổi tiếng như ChatGPT và Midjourney, đồng thời được phân phối qua các cửa hàng ứng dụng, quảng cáo tìm kiếm và quảng cáo SNS chính thức. Theo phân loại tiêu chuẩn ngành, có ba loại: loại cài đặt phần mềm độc hại đánh cắp thông tin (infostealer), loại lấy cắp thông tin thẻ tín dụng bằng màn hình thanh toán đăng ký giả và loại lừa đảo dẫn đến màn hình đăng nhập trông giống hệt màn hình thật. Cạm bẫy trong hoạt động thực tế tính đến năm 2026 là đã có báo cáo về các trường hợp ứng dụng vượt qua quá trình sàng lọc chính thức của cửa hàng ứng dụng và tính xác thực không thể được xác định chỉ bằng số lượng bài đánh giá hoặc số lượt tải xuống. Những điều cơ bản về cách chọn một công cụ trong lĩnh vực này là nhấp vào liên kết từ trang web chính thức của nhà phát triển và tải xuống, kích hoạt xác thực hai yếu tố và cảnh giác với các công cụ AI tuyên bố là miễn phí nhưng có chi phí ban đầu và phí hàng tháng cực kỳ thấp so với giá thị trường. Ngày càng có nhiều niềm tin rằng các công ty cần tiếp tục coi việc đào tạo nhân viên và áp dụng EDR là chi phí bảo mật và chi phí này tương đối thấp so với chi phí ứng phó sau khi xảy ra thiệt hại.