AI có thể giải thích (XAI) là thuật ngữ chung chỉ các công nghệ và phương pháp đưa ra cơ sở cho các phán đoán và dự đoán do AI đưa ra dưới dạng mà con người có thể hiểu được. Không thể thiếu để đảm bảo độ tin cậy và tuân thủ các quy định trong các lĩnh vực có rủi ro cao như tài chính, y tế và pháp lý.
AI có thể giải thích được (XAI: Trí tuệ nhân tạo eXplainable) là thuật ngữ chung chỉ các nguyên tắc thiết kế và công nghệ đưa ra cơ sở cho các đánh giá, dự đoán và đề xuất do hệ thống AI đưa ra dưới dạng mà con người có thể hiểu và xác minh. Các phương pháp điển hình bao gồm giá trị SHAP, LIME và bản đồ chú ý, đồng thời được chia rộng rãi thành các loại giải thích cũ để giải thích ``tại sao quyết định này được đưa ra'' sau thực tế là các mô hình học sâu có xu hướng trở thành hộp đen và các loại nội tại sử dụng chính cấu trúc mô hình dễ diễn giải.
Trong thực tế vận hành kể từ năm 2026, Đạo luật AI của EU (có hiệu lực vào năm 2024) yêu cầu trách nhiệm giải trình đối với các hệ thống AI có rủi ro cao, dẫn đến chi phí triển khai trong lĩnh vực tài chính, y tế và nhân sự tăng nhanh. Một cạm bẫy trong lĩnh vực này là SHAP/LIME là một giá trị gần đúng cục bộ và các trường hợp ``lời giải thích và logic phán đoán thực tế không khớp nhau'' đã được báo cáo lần lượt và nguy cơ đánh giá sai do dựa vào đầu ra của XAI đã trở thành một vấn đề. Nói chung, tốn từ 1 triệu đến 5 triệu yên Nhật để trang bị thêm XAI cho hệ thống hiện có và từ 3 triệu đến hơn 10 triệu yên Nhật mỗi năm để giới thiệu nền tảng XAI cho doanh nghiệp. Theo khảo sát của ReviewAI, tính đến năm 2026, khả năng giải thích của LLM khó thực hiện hơn so với các mô hình dữ liệu có cấu trúc và số lượng trang web sử dụng đầu ra chuỗi sắp xếp (CoT) thay thế cho XAI ngày càng tăng. Chìa khóa của việc lựa chọn trước tiên là xác định xem mục đích là tuân thủ các quy định hay cải thiện chất lượng nội bộ, sau đó tách riêng các phương pháp.