Độ tương tự cosine là chỉ số tương tự thể hiện mức độ gần gũi về mặt ngữ nghĩa của văn bản và hình ảnh dưới dạng giá trị từ 0 đến 1 bằng cách sử dụng giá trị cosine của góc được tạo bởi hai vectơ. Được sử dụng rộng rãi để chấm điểm công cụ tìm kiếm và đề xuất tài liệu RAG.
Độ tương tự cosine là một phương pháp tính toán độ tương tự sử dụng góc giữa hai vectơ trong không gian vectơ nhiều chiều làm chỉ số. Các giá trị nằm trong khoảng từ -1 đến 1, với các giá trị gần 1 nghĩa là tương tự, 0 nghĩa là không liên quan và -1 nghĩa là ngược lại. Trong thực tế, việc nhúng chuẩn hóa L2 được sử dụng trong hầu hết các trường hợp, vì vậy 0,7 hoặc cao hơn thường được sử dụng làm hướng dẫn về "sự tương đồng" trong các hoạt động thực tế.
Thiết kế tiêu chuẩn của hệ thống RAG là tính toán độ tương tự cosine giữa ``vectơ câu hỏi của người dùng'' và ``vectơ đoạn tài liệu'' và chuyển k kết quả hàng đầu sang ngữ cảnh LLM. Theo khảo sát của ReviewAI, giá thị trường hiện tại vào năm 2026 là khoảng 20.000 đến 50.000 yên Nhật mỗi tháng (bao gồm cả chi phí nhúng) cho RAG với 1 triệu truy vấn mỗi tháng.
Có ba cạm bẫy trong lĩnh vực này. ① Vấn đề “Điểm cao dù nghĩa trái ngược”: Trường hợp “sản phẩm này tốt” và “sản phẩm này kém” có giá trị tương tự nhau. ②Sự phụ thuộc ngôn ngữ của mô hình nhúng: Nếu tiếng Nhật được xử lý bằng mô hình dành riêng cho tiếng Anh thì điểm số sẽ trở nên vô nghĩa. ③ Xu hướng câu ngắn: So sánh các truy vấn ngắn và các đoạn dài có xu hướng điểm thấp hơn.
Là một phương pháp lựa chọn trong lĩnh vực này, "tìm kiếm kết hợp" với BM25 đang trở thành tiêu chuẩn ngành vào năm 2026 thay vì chỉ tương tự cosine. Ngày càng có nhiều trường hợp trong đó tỷ lệ thu hồi được cải thiện bằng cách sử dụng BM25 cho các thuật ngữ kỹ thuật cũng như danh từ riêng và độ tương tự cosin cho các truy vấn ngữ nghĩa, đồng thời một mẫu kết hợp xếp hạng lại bằng cách sử dụng Bộ mã hóa chéo làm một bộ cũng đang trở nên phổ biến.