Kontextusablak
Más néven: context window, kontextus
Mit jelent? A kontextusablak az a legnagyobb szövegmennyiség, amelyet a nyelvi modell egyszerre figyelembe tud venni: a beszélgetés előzménye, a csatolt dokumentumok és a készülő válasz együtt.
Ha a beszélgetés vagy a dokumentum túl hosszú, a régebbi részek kiesnek, és a modell „elfelejti” őket. Ezért a nagy dokumentumtárakkal dolgozó rendszerek nem töltik be az egész anyagot, hanem kikeresik a kérdéshez illő részeket.
Ezt a kikeresős megoldást hívják RAG-nak, és ez teszi lehetővé, hogy több ezer oldalnyi anyagból is pontos, forrásra hivatkozó válasz szülessen.