Tạo bản bẻ khóa tự động (GCG) là một phương thức tấn công sử dụng thông tin độ dốc để tự động tìm kiếm các lời nhắc phá vỡ các hạn chế an toàn của LLM.
Tạo bản bẻ khóa tự động (GCG: Greedy Tọa độ gradient) là một phương thức tấn công sử dụng thông tin độ dốc cho lớp đầu ra của LLM để tự động tìm kiếm hậu tố (hậu tố đối nghịch) bỏ qua việc điều chỉnh bảo mật. Điểm khởi đầu là một nghiên cứu được công bố vào năm 2023 và mối đe dọa là các chuỗi tấn công được tạo bằng mô hình trọng lượng mở có thể truy cập các cấu trúc bên trong có thể được chuyển (chuyển) sang các mô hình API thương mại với xác suất nhất định là có cấu trúc khác. Trong hoạt động thực tế kể từ năm 2026, các biện pháp đối phó phòng thủ như RLHF và bộ lọc đầu vào đã được tăng cường và chi phí tính toán để tìm kiếm các chuỗi tấn công có thể bị xuyên thủng được cho là cao hơn trước. Cách tiêu chuẩn để chọn các biện pháp an toàn AI trong hiện trường là sử dụng biện pháp phòng thủ nhiều lớp kết hợp lọc đầu vào, giám sát đầu ra và các bài tập của đội đỏ, thay vì dựa vào một biện pháp phòng thủ duy nhất và người ta cho rằng thông lệ là bao gồm các bài kiểm tra khả năng chống lại các cuộc tấn công GCG như một phần của các hạng mục kiểm tra bảo mật.