Lớp ngữ nghĩa là lớp trung gian tách cấu trúc của dữ liệu thô khỏi các định nghĩa ý nghĩa của các thuật ngữ và chỉ báo kinh doanh để các công cụ LLM và BI có thể tham chiếu đến nó bằng một cách hiểu chung.
Lớp ngữ nghĩa đề cập đến lớp kiến trúc tách cấu trúc bảng/cột vật lý của kho dữ liệu hoặc API khỏi định nghĩa các số liệu kinh doanh như "doanh số" và "người dùng đang hoạt động". Trong thế giới công cụ BI, các nền tảng định nghĩa số liệu như dbt và Cube là những ví dụ điển hình và trong những năm gần đây, chúng cũng thu hút sự chú ý như một “cầu nối ngữ nghĩa” khi RAG và AI agent truy vấn cơ sở dữ liệu bằng ngôn ngữ tự nhiên. Trong hoạt động thực tế kể từ năm 2026, người ta đã chỉ ra rộng rãi rằng có một cạm bẫy khi cố gắng chỉ tiếp thu các diễn giải từ các lời nhắc ở phía LLM mà không tập trung hóa các định nghĩa chỉ báo, dẫn đến sự khác biệt trong kết quả tổng hợp cho từng agent ngay cả đối với cùng một tên chỉ báo. Chi phí triển khai và vận hành rất khác nhau tùy thuộc vào việc liệu lớp số liệu BI hiện có có thể được sử dụng như hiện tại hay không và gánh nặng thiết kế và bảo trì có xu hướng nặng nề khi xây dựng lớp định nghĩa từ đầu. Về cách đưa ra lựa chọn tại hiện trường, việc thực hiện cách tiếp cận từng bước được coi là thực tế, trước tiên hãy xem xét liệu có thể sử dụng các công cụ định nghĩa số liệu cho mục đích chung hiện có hay không, sau đó chỉ xem xét việc triển khai duy nhất nếu có nhiều chỉ số dành riêng cho công ty.