Контекст

Совокупность информации, которую нейросеть учитывает при генерации ответа: предыдущие сообщения, системные инструкции и прикреплённые документы.

Если контекст обрывается, модель может забыть, о чём шла речь, или перестать следовать заданной роли. Контекстное окно ограничивает объём текста, который модель может держать в памяти одновременно.

Категория: технология