Khả năng mới nổi là hiện tượng các khả năng mới chưa từng thấy trong các mô hình quy mô nhỏ đột nhiên xuất hiện khi mô hình ngôn ngữ quy mô lớn vượt quá một số lượng tham số hoặc lượng dữ liệu ngưỡng.
Các khả năng mới nổi đề cập đến hiện tượng các khả năng mới xuất hiện phi tuyến tính ở một ngưỡng nhất định khi mô hình ngôn ngữ mở rộng. Nó được xây dựng bởi Wei et al. (2022) và các ví dụ điển hình bao gồm lý luận số học, logic đa cấp và tạo mã. Ngay cả khi tỷ lệ trả lời đúng ở mức gần như ngẫu nhiên đối với các mô hình nhỏ, nó có đặc điểm là “bước nhảy không liên tục”, trong đó tỷ lệ này đột ngột nhảy lên trên 80% khi số lượng tham số vượt quá 100B.
Tại nơi làm việc vào năm 2026, sẽ ngày càng có nhiều trường hợp các thiết kế dựa trên sự “xuất hiện” này sẽ thất bại. Có ba cạm bẫy điển hình. ① Ngưỡng phụ thuộc vào chỉ số đánh giá: Như Schaeffer et al đã chỉ ra. (2023), “sự xuất hiện” có thể biến mất khi chỉ số thay đổi và khả năng tái tạo trong hoạt động thực tế không được đảm bảo. ② Rủi ro tăng chi phí: Nếu áp dụng mô hình siêu lớn để phát huy khả năng nổi bật thì chi phí API có thể cao gấp 10 đến 100 lần so với mô hình quy mô nhỏ. ③ Không tương thích giữa các phiên bản: Do khả năng thay đổi đột ngột khi cập nhật mẫu máy nên cần phải có biện pháp kiểm soát phiên bản cố định trong môi trường sản xuất.
Trong nhiều trường hợp công ty được ban biên tập điều tra vào năm 2026, các sản phẩm dựa vào khả năng mới nổi có xu hướng tăng chi phí hỗ trợ do "hành vi không mong muốn". Về giá cả thị trường, nếu bạn chọn mô hình Frontier, bạn sẽ thấy chi phí hàng tháng tăng từ 50.000 đến 200.000 yên Nhật so với mô hình quy mô nhỏ. Phương pháp lựa chọn tiêu chuẩn trong trường này là "mở rộng quy mô dần dần", trong đó một mô hình nhỏ được đánh giá điểm chuẩn trước tiên và các nhiệm vụ được xác nhận là thiếu hiệu suất sẽ được chuyển sang mô hình lớn hơn.