Context window jelentése

Context window

A context window (magyarul kontextus-ablak) a nyelvi modell egyszerre feldolgozható szövegmennyisége tokenben mérve. A 2026-os állapotban a modellek context window-mérete drámaian növekedett: GPT-4o 128k token, Claude Sonnet 200k, Gemini 1.5 Pro akár 2M token. Praktikus értelemben ez azt jelenti, hogy egész könyveket, hosszú jogi szerződéseket, hatalmas dokumentum-csomagokat lehet egyszerre a promptba tenni. A korlát azonban valós: a context window felett az „elveszett a fonal” effekt jelenik meg, és a hosszabb input drágább is.

Így is ismerheted

Magyarul kontextus-ablak, kontextusablak. Angolul a klasszikus context window, context length, néha max context size. A „token-limit” rokon fogalom — sokszor szinonimaként használva. A token a context window egysége.

Miért fontos cégeknek?

Három fő hatás:

Mennyi adatot adhatsz a modellnek: ha 200 oldalas szerződést kell elemezni, kell legalább 100k tokenes context window. GPT-3.5 (16k) nem tudná egyszerre kezelni.

Beszélgetés-történet hossza: egy hosszú chatbot-beszélgetésnél a teljes történetet kontextusként kell visszaadni minden új üzenetnél. Ha 50 fordulón át beszélgetünk, az 5-10k token a chronológián, ami nagy context window-t igényel.

RAG vs. teljes dokumentum: kis-közepes dokumentumtárnál (50-100 oldal), egy nagy context window lehetővé teszi, hogy az egészet beletegyük a promptba — nem kell RAG-architektúrát építeni. Egyszerűbb, de drágább.

Context window-méretek 2026-ban

A főbb modellek:

  • GPT-3.5 Turbo: 16k token (~12000 szó)
  • GPT-4 Turbo: 128k token
  • GPT-4o, GPT-4o-mini: 128k token
  • Claude Haiku / Sonnet / Opus: 200k token (~150000 szó, ~500 oldal)
  • Gemini 1.5 Pro: 2M token (~6000 oldal!)
  • Llama 3.1: 128k token

A magyar nyelvű szöveg 1 szóra 1,5-2 tokent használ — egy 100 oldalas magyar dokumentum kb. 30-50k token.

„Lost in the middle” — a context window valós korlátja

Fontos megérteni, hogy a nagyobb context window nem mindig hoz arányosan jobb minőséget. Egy 100k tokenes promptban a modell figyelme nem egyenletes — a legjobban a prompt elején és végén lévő részeket „látja”. A közepe részleteit könnyebben elveszti. Ezt nevezik „lost in the middle” effektusnak.

Gyakorlati következmények:

  • A fontos infót tedd a prompt elejére vagy végére — nem középre.
  • Hosszú dokumentumoknál a RAG sokszor jobb mint az egész beletevése — csak a releváns 5-10 chunk kerül a promptba.
  • Tesztelj edge case-eket — 50k+ tokenes prompton a modell néha hibázik, akkor is, ha „elférne”.

Mikor használj nagy context window-t?

Néhány klasszikus felhasználási mód:

  • Hosszú dokumentum-elemzés — szerződés-átnézés, jogi vélemény, kutatás-összefoglaló.
  • Hosszú beszélgetés-történet — pszichológiai asszisztens, complex tárgyalások.
  • Multi-document Q&A — 10-20 dokumentum egyszerre.
  • Kód-elemzés — nagy projekt context-tel (egész repo).

Mikor érdemes inkább RAG-ot?

  • Több ezer dokumentum — egy 100k context-window sem elég.
  • Költségérzékenység — a teljes dokumentum-tár promptba töltése drága minden hívásra.
  • Friss adat fontos — dokumentum-frissítés esetén nem kell újra feltölteni mindent.
  • Forrás-megjelölés — a RAG pontosan tudja, melyik chunk-ból jött a válasz.

Mire figyelj?

Az első tipp: ne pakold tele csak azért, mert lehet. Egy 100k context-window-os prompt nem feltétlenül ad jobb választ, mint egy fókuszált 5k-s. A modell a relevánsra figyelni nehezebb sok zaj között.

A második: tokenköltség gyorsan szállhat. Egy 100k tokenes prompt × 1000 hívás = 100M token. GPT-4o-n az ~$250.

A harmadik: output külön számít. A context window az input-ra vonatkozik általában, de a modell output-ja is fogyasztja.

A negyedik: frissítések. A modellek context window-ja idővel nő. Ami ma nehéz, holnap könnyű lehet.

Ha cégednél AI-rendszert tervezel, és a context window kérdéses (nagy dokumentumok vs. sok rendelés vs. hosszú beszélgetés), az AI és automatizáció szolgáltatásunkban segítünk a megfelelő architektúra megtervezésében — context window vs. RAG vs. hibrid. Kapcsolódó: token, RAG, OpenAI API.

Beszéljünk a Projektedről

Minden jó projekt egy üzenettel kezdődik. Ha van egy ötleted, egy kérdésed, vagy csak kíváncsi vagy mibe kerülne — írj bátran. Minden megkeresésre személyesen válaszolunk.

Create your account
Ajánlatkérés