LPU (Bộ xử lý ngôn ngữ) là bộ xử lý chuyên dụng được phát triển bởi Groq, chuyên suy luận các mô hình ngôn ngữ quy mô lớn và là công nghệ giúp hiện thực hóa việc tạo mã thông báo nhanh hơn và có độ trễ thấp hơn GPU.
LPU (Bộ xử lý ngôn ngữ) là ASIC (Mạch tích hợp dành riêng cho ứng dụng) được phát triển bởi Groq, chuyên xử lý suy luận cho các mô hình ngôn ngữ quy mô lớn. Không giống như GPU dành cho các phép tính có mục đích chung, nó là chất bán dẫn đạt được phản hồi tốc độ cao, độ trễ thấp với kiến trúc được tối ưu hóa để xử lý tuần tự tạo ra từng mã thông báo một. Nó được đặc trưng bởi một thiết kế nhấn mạnh vào độ trễ trên mỗi yêu cầu thay vì xử lý hàng loạt và được cho là tương thích với các ứng dụng đối thoại bằng giọng nói và loại agent yêu cầu hiệu suất thời gian thực. Trong hoạt động thực tế kể từ năm 2026, đám mây LPU sẽ chủ yếu được sử dụng trên cơ sở trả tiền khi sử dụng thông qua API của Groq và những trở ngại cho việc triển khai tại chỗ sẽ vẫn còn cao. Cạm bẫy trong lĩnh vực này là các mô hình tương thích bị giới hạn trong dòng sản phẩm của Groq, do đó bạn không thể tự do thay thế bất kỳ mô hình tùy chỉnh nào và lợi thế về độ trễ sẽ yếu đi khi bạn xếp hàng chờ trong giờ cao điểm. Về chi phí, giá thị trường cho mỗi mã thông báo dễ biến động hơn so với đám mây GPU và người ta nói rằng quyết định cơ bản trong lĩnh vực này là xác định xem ứng dụng có thể tận dụng tốc độ cao của nó hay không trước khi quyết định có áp dụng nó hay không.