GEPA (tối ưu hóa dấu nhắc tiến hóa) là một phương pháp tự động cải thiện lời nhắc bằng cách kết hợp chéo/đột biến thuật toán di truyền với đánh giá nội tâm của chính LLM.
GEPA là tên viết tắt của Di truyền Pareto và được cho là một phương pháp kết hợp "tối ưu hóa phản chiếu" trong đó các ứng cử viên nhanh chóng được chọn lọc và biến đổi giống như một thuật toán di truyền, trong khi bản thân LLM phản ánh về dấu vết thực thi và diễn đạt các cải tiến bằng lời nói. Có thông tin cho rằng nó có thể đạt được độ chính xác cao với ít thử nghiệm hơn so với tối ưu hóa dựa trên học tập tăng cường thông thường như MIPRO và việc triển khai nó đang lan rộng sang một số khung như DSPy. Tuy nhiên, trong hoạt động thực tế kể từ năm 2026, chất lượng của tập dữ liệu đánh giá dùng để tối ưu hóa có thể sẽ ảnh hưởng đến kết quả và người ta đã chỉ ra rằng có những trường hợp hiệu suất không cải thiện với dữ liệu nội bộ ngay cả khi điểm chuẩn dành cho mục đích chung mang lại điểm tốt. Nhiều lệnh gọi LLM diễn ra trong mỗi lần tối ưu hóa, điều này có xu hướng làm tăng chi phí, do đó, trên thực tế, việc thu hẹp các nhiệm vụ mục tiêu và thử chúng ở quy mô nhỏ ngày càng trở nên phổ biến hơn và chỉ phản ánh kết quả cho các lời nhắc sản xuất khi tính hiệu quả đã được xác nhận.