глоссарий
Инженерия контекста
Дисциплина управления тем, какой контекст, в каком объёме и с каким приоритетом подаётся в шаг процесса на ИИ.
Инженерия контекста — дисциплина, которая отвечает за то, какой именно контекст, в каком объёме и с каким приоритетом попадает в конкретный шаг процесса на ИИ. Сюда входят переиндексация по событиям изменения источников, переранжирование найденного, бюджеты контекста на шаг и оценка того, какой фрагмент реально повлиял на ответ.
Чем отличается от наивного варианта: подход «найдём похожее и положим всё в промпт» кажется достаточным, но на длинном зашумлённом контексте модель хуже выделяет существенное и обходится дороже. Инженерия контекста — это решение «что из найденного действительно нужно», принятое системой, а не переложенное на модель.
Почему это важно: качество ответа сильнее зависит от релевантности контекста, чем от размера модели и даже от полноты контекста. Это отдельная инженерная дисциплина — без неё системы поиска по знаниям деградируют незаметно.