Phi-4

Phi-4 là mô hình ngôn ngữ nhỏ, hiệu suất cao với 14 tỷ tham số do Microsoft phát triển. Mặc dù nó có hiệu suất lý luận toán học và logic tương đương với các mô hình lớn trong lớp GPT-5, nhưng nó hoạt động với chi phí thấp và độ trễ thấp do kích thước nhỏ 14B, đồng thời tương thích với cả API đám mây thông qua Azure AI Foundry và tự lưu trữ với Open Weight. Nó độc đáo ở chỗ nó có thể được tích hợp vào nhiều hoạt động, bao gồm cơ sở hạ tầng AI nội bộ dành cho các doanh nghiệp nhấn mạnh đến việc tối ưu hóa chi phí và chủ quyền dữ liệu, phát triển ứng dụng cho các thiết bị biên và ứng dụng nghiên cứu.

Các tính năng chính

Toán học có độ chính xác cao và lý luận logic: Được đào tạo bằng dữ liệu tổng hợp chất lượng cao, nó vượt trội hơn các mô hình gấp nhiều lần kích thước của nó trên các điểm chuẩn như MATH và GPQA. Bằng cách xác minh logic kế toán nội bộ và xác định các quy tắc phức tạp, có thể rút ngắn 15 phút làm việc thủ công xuống còn vài chục giây.

Hỗ trợ tạo/tái cấu trúc mã: Hiển thị độ chính xác cao trong các tác vụ mã hóa như HumanEval và có thể được sử dụng để tạo mẫu từ thông số kỹ thuật API và giải thích mã hiện có.

Hỗ trợ đa phương thức (Phi-4-multimodal): Xử lý văn bản, hình ảnh và âm thanh trong bối cảnh dài 128K token. Thực hiện âm thanh theo phút → tóm tắt hoặc hình ảnh biểu mẫu → trích xuất dữ liệu có cấu trúc cùng một lúc.

Phân phối trọng lượng mở: Có thể sử dụng thương mại theo giấy phép MIT. Bằng cách triển khai nó tới GPU tại chỗ và thiết bị đầu cuối biên, bạn có thể tạo cấu hình ngăn chặn dữ liệu bí mật rời khỏi công ty.

Biên bản xác minh của ban biên tập

Theo kết quả so sánh phí công khai của Azure Foundry Models, Phi-4 là 0,125 USD đầu vào / 0,50 USD đầu ra (trên mỗi 1 triệu mã thông báo), Phi-4-mini là 0,075 USD / 0,30 USD, thấp hơn 1/20 của chuỗi GPT-5. Người ta đã thông báo rằng nó có ưu thế hơn về điểm chuẩn suy luận so với các mô hình mở lớp 14B tương tự (dòng Llama 3.1, dòng Mistral) và nó được phân biệt rõ ràng là ``khuôn khổ chi phí thấp chuyên dùng cho các tác vụ suy luận.'' Dựa trên tính toán thử nghiệm cho một ứng dụng chatbot với quy mô 10 triệu mã thông báo mỗi tháng, việc thay thế GPT-5 dự kiến ​​sẽ giảm hơn 90% chi phí hàng tháng. Đối với các ứng dụng hỗ trợ mã và tìm kiếm kiến ​​thức nội bộ, đây là một lựa chọn thực tế có thể giảm chi phí vận hành xuống một mức độ lớn trong khi vẫn duy trì chất lượng.

Người dùng dự định

Nó phù hợp cho các nhóm phát triển muốn duy trì độ chính xác khi suy luận trong khi giảm chi phí, các kỹ sư muốn chạy LLM tại chỗ hoặc ở biên và các tổ chức nghiên cứu. Mặt khác, các mô hình lớn sẽ an toàn hơn cho các tác vụ yêu cầu tìm kiếm và duyệt các dữ kiện mới nhất hoặc các tác vụ đòi hỏi kiến ​​thức cực kỳ rộng về thế giới và hoạt động chỉ sử dụng Phi-4 là không phù hợp.

LLM nhỏ, hiệu suất cao của Microsoft (14 tỷ tham số). Hiệu quả của nó thật đáng kinh ngạc, trong một số trường hợp, vượt quá mô hình lớp GPT-5, lớn hơn nhiều lần, về điểm chuẩn cho toán học, lý luận logic và tạo mã. Có thể được thực thi cục bộ và có thể được triển khai trên các thiết bị biên. Nó cũng có thể được sử dụng tại Azure AI Foundry, tuyến đầu dành cho các nhà phát triển và nhà nghiên cứu AI cố gắng cải thiện hiệu quả của LLM nguồn mở.