Tối ưu hóa lời nhắc tự động (DSPy) là một khung trong đó chương trình tự động tạo và cải thiện các hướng dẫn thành LLM dựa trên các chỉ số đánh giá mà không cần thử và sai thủ công.
DSPy (Python tự cải thiện khai báo) là một khung lập trình LLM được phát triển bởi Đại học Stanford. Bằng cách sử dụng cách tiếp cận “khai báo nhiệm vụ và chỉ số đánh giá” thay vì “viết lời nhắc”, chúng tôi tự động tối ưu hóa việc lựa chọn các ví dụ ngắn gọn, cấu trúc của chuỗi suy nghĩ và cách diễn đạt của các câu hướng dẫn cùng một lúc.
Tính đến năm 2026, việc áp dụng vào các hoạt động thực tế ngày càng mở rộng, nhưng những cạm bẫy cũng ngày càng rõ ràng. Vấn đề lớn nhất là chi phí. Các trình tối ưu hóa như MIPRO v2 gọi LLM nội bộ từ hàng chục đến hàng trăm lần, do đó, riêng lần biên dịch đầu tiên có thể tốn khoảng $10 đến $30. Lựa chọn tiêu chuẩn trong trường này là `` tuần tự hóa lời nhắc được tối ưu hóa thành JSON và sử dụng lại bộ đệm.''
Tiếp theo, có vấn đề là ``thiết kế chỉ số đánh giá là tất cả.'' Đã có báo cáo cho rằng việc tối ưu hóa có xu hướng làm tăng ảo giác nếu các chỉ số không phù hợp, vì vậy ngay cả sau khi tự động hóa, việc kết hợp với đánh giá của con người là điều cần thiết. Người ta cũng thường bỏ qua rằng cần phải biên dịch lại khi chuyển đổi mô hình (ví dụ: từ GPT-4o sang Gemini 2.5 Pro). Xét về giá thị trường, các đường ống cỡ nhỏ và vừa có thể có giá dưới 50 USD một tháng, nhưng cấu hình nhiều bước phức tạp có thể có giá trên 200 USD. Trong các trường hợp được ReviewAI quan sát, có nhiều trường hợp trong đó các nhóm tối ưu hóa độ chính xác của RAG bằng DSPy đã cải thiện điểm F1 của họ từ 0,72 lên 0,85, nhưng lại bỏ qua việc lập ngân sách cho chi phí tối ưu hóa lại và tăng chi phí vận hành.