Tối ưu hóa Chinchilla là một khái niệm tối ưu hóa sự cân bằng phân phối giữa số lượng tham số và số lượng mã thông báo học tập để tối đa hóa độ chính xác của mô hình trong một lượng tính toán giới hạn.
Tính tối ưu Chinchilla là một khái niệm dựa trên bài báo Chinchilla do DeepMind xuất bản vào năm 2022 và là nguyên tắc nếu ngân sách dành cho số lượng phép tính (FLOP) có thể sử dụng cho việc học là cố định thì việc tăng độ chính xác sẽ dễ dàng hơn bằng cách tăng đủ dữ liệu học tập (số lượng mã thông báo) thay vì tăng số lượng tham số mô hình một cách không cần thiết. Bài viết nêu rõ rằng tỷ lệ khoảng 20 mã thông báo trên 1 tham số là mong muốn về mặt hiệu quả tính toán và được coi rộng rãi như một hướng dẫn để thiết kế lượng học tập trong quá trình phát triển mô hình quy mô lớn tiếp theo. Tuy nhiên, tỷ lệ này chỉ dựa trên chi phí học tập và trong hoạt động thực tế, số lượng suy luận vượt xa số lượng học tập, vì vậy, kể từ năm 2026, người ta cho rằng thiết kế chủ đạo trong lĩnh vực này là đào tạo với ít tham số hơn và số lượng mã thông báo lớn hơn so với cùng một tỷ lệ và để giảm chi phí suy luận. Khi chọn một mô hình hoặc API, điều thực tế là không chỉ kiểm tra chỉ số hiệu quả học tập mà còn cả giá thị trường, chẳng hạn như đơn giá mã thông báo để suy luận.