Ray là một khung xử lý phân tán mã nguồn mở do UC Berkeley phát triển, cho phép học tập phân tán và suy luận song song trong học máy được thu nhỏ trực tiếp từ một máy đơn lẻ thành một cụm.
Ray là một mã nguồn mở của UC Berkeley, là một khung điện toán phân tán có khả năng chia tỷ lệ mã Python từ một máy đơn lẻ sang cụm GPU gần như trực tiếp. Nó được sử dụng rộng rãi trong bối cảnh học tăng cường, tìm kiếm siêu tham số và học/suy luận phân tán LLM và được cho là được sử dụng làm nền tảng xử lý phân tán cho vLLM và Hugging Face. Là một tiêu chuẩn ngành, nó bao gồm ba thành phần: Ray Train (học tập), Ray Serve (cung cấp suy luận) và Ray Tune (tìm kiếm). Trong các hoạt động thực tế kể từ năm 2026, những cạm bẫy điển hình trong trường bao gồm không đủ bộ nhớ do lỗi cấu hình trong giao tiếp giữa các nút và số lần thử lại tác vụ vô số vòng lặp. Ngoài ra, chi phí phiên bản GPU chiếm ưu thế trong hoạt động của cụm GPU nhiều nút và mặc dù bản thân Ray miễn phí nhưng việc quản lý chi phí rất khó khăn và cài đặt tự động điều chỉnh tỷ lệ không chính xác có thể dễ dàng dẫn đến mức phí vượt xa giá trị thị trường. Vì lý do này, thông lệ tiêu chuẩn trong lĩnh vực này trước tiên là đánh giá nhu cầu mở rộng quy mô bằng cách sử dụng một nút duy nhất trước khi triển khai nó.