нанять нас
Словарь·
Минск · ВаршаваСвязаться
Ограничители (guardrails)
Проверки вокруг модели, которые ограничивают, о чём её можно спросить и что она может вернуть: фильтрация входа, валидация ответа, правила отказа и ограничение доступных действий.
Почему это важно
Модель перед клиентами — это публичная поверхность. Без ограничителей она рано или поздно назовёт выдуманную цену, повторит внедрённую инструкцию или выполнит действие, которого никто не санкционировал.
Как мы с этим работаем
Мы проверяем ответ по схеме, не подпускаем модель к необратимым действиям без участия человека и считаем найденные документы данными, а не инструкциями — именно это закрывает prompt injection.
