Phân đoạn ngữ nghĩa là một phương pháp tiền xử lý giúp cải thiện độ chính xác của tìm kiếm RAG bằng cách chia tài liệu thành các phần có ý nghĩa thay vì độ dài cố định.
Phân đoạn ngữ nghĩa là một công nghệ tiền xử lý giúp phân chia tài liệu thành các đơn vị phù hợp để tìm kiếm và nhúng vào RAG (Tăng cường truy xuất và tạo). Không giống như phân đoạn có độ dài cố định, phân chia tài liệu một cách máy móc dựa trên số lượng ký tự hoặc dấu ngắt dòng, phân đoạn ngữ nghĩa phân chia tài liệu dựa trên việc phân nhóm ngữ nghĩa của các câu hoặc dấu ngắt trong chủ đề. Một phương pháp được sử dụng rộng rãi là sử dụng mô hình nhúng để tính toán độ giống nhau của các câu liền kề và sử dụng điểm mà tính liên tục ngữ nghĩa bị phá vỡ làm ranh giới. Bản thân định nghĩa này rất dễ hiểu, nhưng trong hoạt động thực tế kể từ năm 2026, sẽ có thêm chi phí tính toán nhúng để xác định ranh giới và khối lượng tài liệu càng lớn thì càng mất nhiều thời gian để xây dựng chỉ mục và phí sử dụng API có thể sẽ trở thành một vấn đề. Ngoài ra, kích thước khối và độ chi tiết tối ưu khác nhau tùy thuộc vào ngành và định dạng tài liệu, đồng thời các cài đặt tương tự có thể không hoạt động đối với các tài liệu có cấu trúc như hợp đồng và tài liệu phi cấu trúc như nhật ký hội thoại. Đối với phương pháp lựa chọn trong trường, trước tiên, việc kiểm tra độ chính xác của tìm kiếm cơ sở bằng cách sử dụng phân đoạn có độ dài cố định được coi là thực tế, sau đó chuyển sang phân đoạn ngữ nghĩa theo từng giai đoạn nếu nhận thấy thiếu ngữ cảnh trong câu trả lời. Việc xác định hiệu quả chi phí, bao gồm cả chi phí cảm nhận được, sẽ là yếu tố quyết định trong quyết định triển khai hệ thống.