ReviewAI
Xếp hạngDanh mụcKhám pháTạp chíSo sánhMiễn phíTừ điển

Tiêm đa phương thức (qua hình ảnh)

Tiêm đa phương thức (thông qua hình ảnh) là phương thức tấn công sử dụng các ký tự hoặc mẫu ẩn trong hình ảnh để đưa các hướng dẫn gian lận vào AI, gây ra hành vi ngoài ý muốn.

Tiêm đa phương thức là thuật ngữ chung để chỉ các phương thức tấn công nhúng các hướng dẫn gian lận vào mô hình AI thông qua không chỉ văn bản mà còn cả đầu vào không phải văn bản như hình ảnh, âm thanh và video. Các kỹ thuật sử dụng hình ảnh đã biết bao gồm chồng văn bản mỏng lên nền trắng, chèn hướng dẫn vào siêu dữ liệu và mã hóa hướng dẫn theo mẫu nhiễu hình ảnh. Trong nhiều trường hợp, không thể phát hiện các rào chắn chỉ giả định văn bản và rủi ro được cho là cao hơn trong các AI agent đa phương thức và quy trình làm việc tự động phân tích hình ảnh và tạo ra phản hồi. Trong hoạt động thực tế kể từ năm 2026, các công ty có quy trình kinh doanh liên quan đến đầu vào hình ảnh, chẳng hạn như chụp ảnh màn hình và OCR tài liệu, sẽ cần phải cẩn thận hơn và khi các biện pháp đối phó, khử trùng trước hình ảnh, hạn chế hành động ở phía đầu ra và phân tách quyền dựa trên độ tin cậy của nguồn đầu vào sẽ được áp dụng rộng rãi. Chi phí triển khai có xu hướng đánh đổi giữa độ chính xác của phát hiện và tỷ lệ dương tính giả và thông lệ trong lĩnh vực này là áp dụng các biện pháp đối phó bằng cách trước tiên tập trung vào các tuyến đầu vào hình ảnh có rủi ro cao (URL bên ngoài và nội dung tải lên của người dùng).

Thuật ngữ liên quan