Một hiện tượng trong đó AI tạo sinh kết quả phân biệt đối xử và sai lệch phản ánh sự thiên vị trong dữ liệu học tập.
Sự thiên vị AI là một hiện tượng trong đó AI tạo sinh kết quả phân biệt đối xử và sai lệch phản ánh những thành kiến xã hội (giới tính/chủng tộc/tuổi/khu vực, v.v.) có trong dữ liệu học tập. Ví dụ: Đánh giá của phụ nữ thấp hơn trong các quyết định tuyển dụng, nhận dạng khuôn mặt kém chính xác hơn đối với người da màu, v.v. Vào năm 2026, các biện pháp sẽ được thực hiện bằng các công cụ phát hiện sai lệch (IBM AI Fairness 360, v.v.) và các bộ lọc đầu ra (Constitutional AI / RLHF), nhưng sẽ không thể loại bỏ hoàn toàn vấn đề. Để sử dụng cho doanh nghiệp, con người phải luôn đưa ra quyết định cuối cùng và đầu ra AI không nên được áp dụng như hiện tại. Ngày càng có nhiều tổ chức thực hiện kiểm toán của bên thứ ba đối với các ứng dụng có rủi ro cao như tuyển dụng, tín dụng và giáo dục.