Hệ thống AI có rủi ro cao (Hệ thống AI có rủi ro cao) đề cập đến hệ thống AI được sử dụng cho các ứng dụng có thể có tác động đáng kể đến sự an toàn và quyền của con người, chẳng hạn như chẩn đoán y tế, lựa chọn tuyển dụng và chấm điểm tín dụng.
Các khung pháp lý như Đạo luật AI của EU được cho là đã áp dụng rộng rãi khái niệm phân loại các ứng dụng như chăm sóc sức khỏe, việc làm, sàng lọc tín dụng, công lý và cơ sở hạ tầng quan trọng, trong đó các sai sót có thể ảnh hưởng trực tiếp đến quyền và sự an toàn của con người, là "AI có nguy cơ cao" trên cơ sở rủi ro và yêu cầu đánh giá sự tuân thủ, lưu giữ hồ sơ và giám sát con người chặt chẽ hơn so với việc sử dụng AI tạo sinh thông thường. Người ta đã chỉ ra rằng trong hoạt động thực tế kể từ năm 2026, chatbot và công cụ sàng lọc tuyển dụng được giới thiệu với mục đích nâng cao hiệu quả hoạt động có thể thuộc danh mục rủi ro cao tùy thuộc vào quyền tài phán và mục đích của quốc gia mục tiêu, dẫn đến các biện pháp tuân thủ bổ sung ngoài dự kiến. Khi lựa chọn các công cụ trong lĩnh vực này, người ta cho rằng sự khác biệt thực tế là kiểm tra xem nhà cung cấp có hệ thống đánh giá sự phù hợp và kiểm tra nhật ký như các chức năng tiêu chuẩn hay không và ước tính chi phí tuân thủ các quy định theo giá trị thị trường trước khi triển khai.