Ce înseamnă Fereastra de Context (Context Window)
Fereastra de context este tot textul la care modelul are acces când generează un răspuns, inclusiv răspunsul însuși. Documentația Anthropic o descrie ca „memoria de lucru” a modelului, diferită de datele pe care a fost antrenat.
În cererea trimisă prin API intră totul: promptul de sistem, mesajele anterioare, rezultatele uneltelor, imaginile, documentele, definițiile uneltelor și tokenii generați (inclusiv cei de gândire).
Cum funcționează
În octombrie 2026, modelele curente ale marilor furnizori au ferestre de aproximativ un milion de tokeni: 1M la Claude Fable 5.1, Opus 5.5, Sonnet 5.5 și Haiku 5.5, 1,05M la GPT-6 Astra, GPT-6.1 Sol, GPT-6.1 Terra și GPT-6 Luna, 1M la Gemini 4 Argon (documentația oficială a fiecărui furnizor). Pentru comparație, GPT-3 (2020) avea 2.048 de tokeni.
Dacă intrarea depășește fereastra, API-ul Claude răspunde cu eroare (400, „prompt is too long”). Interfețele de chat pot elimina sau rezuma mesajele vechi; documentația Anthropic recomandă compaction (rezumarea pe server a părților vechi) pentru conversații lungi.
În atenția standard, timpul și memoria cresc pătratic cu lungimea secvenței. FlashAttention calculează exact aceeași atenție cu memorie suplimentară liniară, dar calculul rămâne pătratic.
Pe înțelesul tuturor
Fereastra de context este suprafața biroului: tot ce încape pe birou poate fi consultat dintr-o privire. Ce nu încape trebuie scos, rezumat pe o fișă sau căutat din nou în arhivă.
Exemplu
Anthropic estimează că 1M de tokeni înseamnă aproximativ 555.000 de cuvinte sau 2,5 milioane de caractere Unicode cu tokenizerul actual Claude, iar 200.000 de tokeni aproximativ 150.000 de cuvinte. Google dă alte echivalențe pentru 1M de tokeni: circa 50.000 de linii de cod sau 8 romane în engleză de lungime medie.
De reținut
- Fereastra include și răspunsul, nu doar promptul.
- Mai mult context nu înseamnă automat răspunsuri mai bune: Anthropic numește „context rot” scăderea preciziei pe măsură ce crește numărul de tokeni.
- Echivalența tokeni–cuvinte depinde de tokenizer și de limbă.
Nu confunda
- Fereastră de context vs. memorie pe termen lung: fereastra există doar în cererea curentă; ce nu e trimis din nou nu mai este văzut de model.
- Context window vs. max output: limita de ieșire este separată și mai mică (de exemplu 128K de tokeni la modelele Claude curente).
Termeni înrudiți
- Tokenizarea (Tokenization): Pasul prin care textul este împărțit în tokeni, fragmente cu un ID numeric, singura formă de text pe care o primește modelul.
- KV Cache (Key-Value Caching): Memoria în care modelul păstrează vectorii Key și Value ai tokenilor deja procesați, ca fiecare token nou să fie generat fără recalcularea întregului istoric.
- Fenomenul Lost in the Middle: Modelele găsesc și folosesc mai bine informația aflată la începutul sau la sfârșitul unui context lung decât pe cea din mijloc.
- FlashAttention (FlashAttention-1, 2, 3 și 4): Algoritm care calculează exact aceeași atenție, dar pe blocuri care încap în memoria rapidă a GPU-ului, cu memorie liniară și mai puține accesări ale memoriei principale.
- RoPE (Rotary Position Embedding) și YaRN: RoPE codifică poziția tokenilor prin rotirea vectorilor Query și Key; YaRN extinde fereastra de context a modelelor cu RoPE cu un fine-tuning scurt.