Повторяемый набор тестов поведения модели: зафиксированные входы с ожидаемыми свойствами и автоматической оценкой, чтобы понимать, стало ли после правки лучше или хуже.
Промпты и модели правят постоянно, и без evals единственная обратная связь — ощущения. Evals отличают настройку AI-функции от угадывания.
Мы собираем набор оценок из реального трафика и известных сбоев до запуска, прогоняем его на каждое изменение промпта или модели и смотрим точность, отказы и стоимость вместе: улучшение одного обычно оплачивается другим.