Trường hợp an toàn là một tài liệu thể hiện, thông qua các căn cứ, bằng chứng và cấu trúc lập luận, rằng hệ thống AI có thể được vận hành an toàn.
Trường hợp an toàn là một ứng dụng của khung tranh luận về an toàn được xây dựng trong các lĩnh vực có độ tin cậy cao như hàng không và năng lượng hạt nhân để quản lý AI và là tài liệu sử dụng cấu trúc ba lớp gồm các tuyên bố, căn cứ và bằng chứng để giải thích rằng rủi ro hệ thống được ngăn chặn ở mức có thể chấp nhận được. Khái niệm này cũng được đề cập trong AISI của Vương quốc Anh và các hướng dẫn liên quan đến luật AI của EU và được đặc trưng bằng cách không chỉ đánh giá hiệu suất của một mô hình duy nhất mà còn thể hiện các biện pháp ngăn chặn việc sử dụng sai, hệ thống giám sát và quy trình khắc phục trong quá trình vận hành. Trong hoạt động thực tế tính đến năm 2026, chi phí thuê ngoài trung bình có thể lên tới hàng triệu yên Nhật, vì việc sáng tạo đòi hỏi kiến thức chuyên môn và nhân công. Về chi phí, sẽ thực tế hơn nếu tạo ra AI cho các AI agent và hệ thống AI có rủi ro cao, chẳng hạn như y tế, tài chính và lái xe tự động, thay vì tạo một AI cho tất cả các AI trong lĩnh vực này.