Lan can là cơ chế kiểm soát an toàn nhằm hạn chế hệ thống AI tạo sinh đầu ra có hại, không phù hợp hoặc ngoài ý muốn.
Guardrail là thuật ngữ chung để chỉ một cơ chế xác minh, lọc và sửa lỗi đầu ra của các AI agent LLM và AI. Tiêu chuẩn ngành là cấu hình hai lớp ở phía đầu vào (bảo vệ chống tiêm nhắc) và phía đầu ra (phát hiện nội dung có hại/che giấu thông tin cá nhân) và ba phương pháp triển khai chính là dựa trên quy tắc (biểu thức thông thường/danh sách từ NG), mô hình phân loại (API kiểm duyệt OpenAI, v.v.) và LLM-với tư cách là người đánh giá (cấu hình nhiều giai đoạn trong đó một mô hình riêng biệt đưa ra quyết định).
Thất bại phổ biến nhất trong lĩnh vực này tính đến năm 2026 là "lọc quá mức". Cài đặt bảo thủ sẽ chặn ngay cả nội dung hợp pháp và gây hại cho UX. Trong hoạt động thực tế, mục tiêu là giữ tỷ lệ dương tính giả dưới 5% và nếu bỏ qua chi phí điều chỉnh thì tải hoạt động sẽ tăng lên sau khi triển khai.
Xét về giá thị trường, các loại SaaS (Guardrails AI, NVIDIA NeMo Guardrails, v.v.) có giá khởi điểm hàng chục nghìn yên Nhật mỗi tháng và các bản dựng tùy chỉnh dành cho doanh nghiệp thường có chi phí ban đầu từ 1 triệu đến 3 triệu yên Nhật. Việc tổ chức lựa chọn của bạn sẽ dễ dàng hơn bằng cách chia nó thành ba giai đoạn tùy theo mục đích. Cần có mô hình phân loại cho các chatbot công cộng, mô hình phân loại dựa trên quy tắc là đủ cho các công cụ nội bộ và cấu hình LLM-với tư cách là thẩm phán nhiều lớp được khuyến nghị cho các lĩnh vực có rủi ro cao như lĩnh vực y tế, tài chính và pháp lý. Khi lựa chọn hỗ trợ khách hàng AI và các công cụ dựa trên AI agent được liệt kê trên ReviewAI, việc triển khai lan can và tính linh hoạt của cài đặt có phải là tiêu chí đánh giá quan trọng hay không.