Контекстное окно

Максимальный объём текста, который нейросеть может учитывать за один запрос.

Если документ длиннее контекстного окна, приходится резать его на части или использовать RAG.

Категория: технология