Một hiện tượng AI nói những lời nói dối tương tự. Thông tin không có trong dữ liệu huấn luyện được tạo ra bằng cách đoán.
Ảo giác là hiện tượng AI tự tin tạo ra thông tin không đúng sự thật. Bởi vì LLM là một cơ chế dự đoán theo xác suất ``từ có khả năng xuất hiện tiếp theo'' nên thông tin còn thiếu trong dữ liệu huấn luyện hoặc thông tin cũ có thể được điền vào bằng cách đoán. Có ba biện pháp đối phó: (1) đảm bảo kiểm tra URL nguồn, (2) lấy thông tin chính về các con số quan trọng (phí, ngày, số liệu thống kê) và (3) yêu cầu RAG đọc tài liệu nội bộ và phản hồi. Để giải quyết vấn đề này, những người biên tập các bài viết của ReviewAI luôn kiểm tra thông tin chính. Trong lĩnh vực này, việc kết nối trực tiếp đầu ra AI với các hệ thống kinh doanh cốt lõi là chống chỉ định và các hoạt động luôn liên quan đến sự đánh giá của con người sẽ là tiêu chuẩn vào năm 2026.