LLM độc hại (loại WormGPT) là một mô hình ngôn ngữ quy mô lớn nhằm loại bỏ các biện pháp bảo vệ an toàn và chuyên thực hiện các mục đích tội phạm như lừa đảo và tạo phần mềm độc hại.
Các LLM độc hại như WormGPT và FraudGPT được cho là được tạo ra bằng cách loại bỏ các rào cản khỏi các mô hình ngôn ngữ quy mô lớn hợp pháp hoặc bằng cách đào tạo lại các mô hình nguồn mở cho mục đích độc hại. Có thông tin cho rằng nó đã được sử dụng để tự động tạo văn bản email lừa đảo, hỗ trợ tạo mã phần mềm độc hại và tạo ra các kịch bản lừa đảo deepfake. Cạm bẫy trong hoạt động thực tế tính đến năm 2026 là khi các nhà cung cấp hợp pháp tăng cường mạng lưới phát hiện của họ, những công cụ này sẽ được phân phối trên web đen dưới dạng đăng ký thuê bao hàng tháng, với mức giá được báo cáo là từ hàng chục đến hàng trăm đô la. Ngoài việc triển khai các công cụ đối phó riêng lẻ, các công ty còn phải thiết kế các chi phí bao gồm bảo vệ nhiều lớp như bảo mật email và EDR, cũng như đào tạo nhân viên. Điều quan trọng là chọn nhà cung cấp không chỉ dựa trên số liệu về độ chính xác phát hiện mà còn dựa trên việc liệu nhà cung cấp đó có hệ thống cập nhật liên tục hay không.