ReviewAI
Xếp hạngDanh mụcKhám pháTạp chíSo sánhMiễn phíTừ điển

Công tắc tắt (cơ chế dừng khẩn cấp)

Công tắc tắt là thuật ngữ chung để chỉ một thiết bị an toàn dùng để dừng thiết bị hoặc phần mềm trong trường hợp khẩn cấp. Trong lĩnh vực AI, nó đề cập đến cơ chế dừng khẩn cấp cho phép con người buộc dừng xử lý ngay lập tức khi AI agent có hành vi ngoài ý muốn.

Thuật ngữ "kill switch" ban đầu được dùng để chỉ bất kỳ hệ thống nào tắt hệ thống ngay lập tức trong trường hợp có sự cố bất thường, bất kể lĩnh vực nào, chẳng hạn như thiết bị chống trộm trong ô tô, chức năng cắt liên lạc khi kết nối VPN bị ngắt kết nối và các nút dừng khẩn cấp trên máy móc công nghiệp. Trong bối cảnh AI, nó đề cập đến một cơ chế an toàn sử dụng khả năng phán đoán của con người để ngay lập tức ngừng hoạt động thực thi AI agent hoặc quy trình làm việc tự động ngoài tầm kiểm soát và là một khái niệm được áp dụng rộng rãi trong lĩnh vực an toàn AI. Về mặt kỹ thuật, nó được cho là thường bao gồm ba lớp: cài đặt thời gian chờ cho mỗi lệnh gọi API, giới hạn phạm vi quyền và cổng phê duyệt. Trong các hoạt động thực tế kể từ năm 2026, đã có báo cáo về các trường hợp nỗ lực triển khai kill switch như một biện pháp giải quyết sau khi cấp quyền ghi cho các API hoặc hệ thống tệp bên ngoài cho các AI agent không kịp thời, dẫn đến chi phí vượt mức. Nói chung, chi phí phát triển của việc kết hợp kill switch vào quy trình làm việc hiện tại thường bị bỏ qua, nhưng chi phí ứng phó với sự cố sau khi nó xảy ra cao hơn nhiều, do đó, nên kết hợp nó ngay từ giai đoạn thiết kế. Các tùy chọn thực tế để lựa chọn tại chỗ không chỉ bao gồm công tắc BẬT/TẮT đơn giản mà còn có công tắc dừng tự động được liên kết với bộ kích hoạt phát hiện bất thường và hệ thống con người trong vòng lặp cần có sự chấp thuận của con người.

Thuật ngữ liên quan