нанять нас
Словарь·
Минск · ВаршаваСвязаться
Контекстное окно
Максимальный объём текста, который модель удерживает одновременно: промпт, найденные документы, историю диалога и сам генерируемый ответ.
Почему это важно
Оно задаёт жёсткий потолок того, что модель вообще может учесть, и именно за него вы платите. Длинные диалоги и большие документы упираются в лимит, и первым отбрасывается самое раннее.
Как мы с этим работаем
Мы планируем окно осознанно: достаём несколько релевантных фрагментов вместо целых документов, сжимаем длинную историю и кэшируем неизменную часть промпта, чтобы снизить стоимость каждого вызова.
