ReviewAI
Xếp hạngDanh mụcKhám pháTạp chíSo sánhMiễn phíTừ điển

Vector chỉ đạo

Vectơ chỉ đạo là công nghệ thêm vectơ theo một hướng cụ thể vào quá trình kích hoạt nội bộ của LLM để kiểm soát âm thanh đầu ra, độ an toàn, xu hướng chủ đề, v.v. mà không cần học thêm.

Vectơ chỉ đạo là phương pháp điều chỉnh các đặc tính đầu ra của mô hình bằng cách trích xuất các vectơ chỉ hướng tương ứng với các khái niệm cụ thể (lịch sự, xu hướng từ chối, chủ đề cụ thể, v.v.) từ mẫu kích hoạt ở lớp giữa của LLM và cộng hoặc trừ các vectơ đó trong quá trình suy luận. Không giống như tinh chỉnh, nó không cập nhật trọng số và không giống như prompt, nó không phụ thuộc vào định dạng đầu ra, vì vậy nó đang thu hút sự chú ý trong cộng đồng nghiên cứu như một phương pháp kiểm soát nhẹ. Trong các hoạt động thực tế tính đến năm 2026, đã có báo cáo về các trường hợp vectơ được trích xuất có tác dụng phụ không mong muốn đối với hiệu suất của các nhiệm vụ khác và trong thực tế, phương pháp này được áp dụng rộng rãi để tiến hành đánh giá hồi quy trên nhiều nhiệm vụ trước khi áp dụng một vectơ duy nhất. Ngoài ra, nhiều API LLM thương mại không chính thức cung cấp chức năng chèn vectơ lái, vì vậy chúng chủ yếu được sử dụng trong các mô hình trọng lượng mở (chẳng hạn như hệ thống Llama) có thể truy cập trọng lượng một cách độc lập. Về mặt chi phí, nó được cho là có chi phí thấp hơn so với tinh chỉnh vì nó không yêu cầu học thêm, nhưng việc trích xuất và đánh giá vectơ đòi hỏi một lượng nỗ lực thử nghiệm đáng kể, vì vậy khi chọn nó, việc sử dụng kỹ thuật kịp thời và tinh chỉnh đang được xem xét dựa trên việc liệu ``điều chỉnh hành vi nhẹ có đủ'' và ``nó có phải là một ứng dụng quan trọng về an toàn không?''

Thuật ngữ liên quan