Ce înseamnă Fereastră de context
Fereastra de context este „memoria de lucru” a unui model de limbaj: cantitatea maximă de text pe care o poate vedea și folosi în același timp. Ea include tot: instrucțiunile de sistem, întreaga conversație, documentele încărcate și răspunsul pe care îl scrie modelul.
Mărimea ei se măsoară în tokeni. Primele modele populare aveau ferestre de câteva mii de tokeni, adică doar câteva pagini. La momentul scrierii (octombrie 2026), multe modele mari acceptă sute de mii de tokeni, iar unele peste un milion, echivalentul mai multor cărți.
Ce iese din fereastra de context, modelul pur și simplu nu mai vede. Într-o conversație foarte lungă, aplicația trebuie fie să renunțe la mesajele vechi, fie să le rezume, iar modelul poate „uita” lucruri spuse la început.
Cum funcționează
La fiecare mesaj nou, aplicația trimite modelului tot textul relevant: mesajele anterioare, instrucțiunile și documentele. Modelul nu are o memorie proprie între cereri; „ține minte” conversația doar pentru că aceasta i se retrimite de fiecare dată.
Ferestrele mari sunt utile, dar nu perfecte. Cu cât contextul e mai lung, cu atât cererea costă mai mult și durează mai mult, iar unele modele găsesc mai greu informația aflată la mijlocul unui text foarte lung. De aceea, pentru colecții mari de documente se folosește adesea RAG, care pune în context doar fragmentele relevante.
Pe înțelesul tuturor
Fereastra de context seamănă cu biroul pe care lucrezi: poți ține pe el doar un anumit număr de foi deodată. Ce nu încape pe birou rămâne în dulap, iar ca să lucrezi cu acele foi trebuie să le aduci înapoi, poate în locul altora.
Exemplu
Încarci într-un asistent AI regulamentul de 300 de pagini al unei facultăți și întrebi câte absențe sunt permise la laborator. Dacă documentul încape în fereastra de context, modelul îl poate citi în întregime și răspunde. Dacă nu încape, aplicația trebuie să caute și să-i dea modelului doar paginile relevante.
De reținut
- Fereastra de context este cantitatea maximă de text pe care modelul o ia în calcul deodată.
- Include întrebarea, istoricul conversației, documentele și răspunsul.
- Ce nu încape în fereastră, modelul nu vede; mai mult context înseamnă și cost mai mare.
Nu confunda
- Fereastră de context vs. memorie: unele aplicații au funcții de „memorie” care salvează informații despre tine între conversații; acestea sunt notițe adăugate automat în context, nu o schimbare a modelului.
- Fereastră de context vs. date de antrenare: datele de antrenare sunt ce a învățat modelul înainte; contextul este ce primește acum, în conversația curentă.
Termeni înrudiți
- Token: Bucata de text (cuvânt, parte de cuvânt sau semn) cu care lucrează un model de limbaj; limitele și costurile se măsoară în tokeni.
- LLM (model lingvistic mare): Model AI antrenat pe cantități uriașe de text, care înțelege și generează limbaj; stă în spatele ChatGPT, Claude sau Gemini.
- RAG (generare augmentată prin căutare): Tehnica prin care un model de limbaj caută întâi informații relevante în documente sau pe internet și abia apoi răspunde, pe baza lor.
- Prompt: Textul (uneori și imaginile sau fișierele) pe care îl dai unui model AI ca să-i spui ce vrei să facă.
- Tokenizare: Procesul prin care textul este tăiat în tokeni și transformat în numere, singura formă pe care o poate procesa un model de limbaj.
- Prompt de sistem: Instrucțiunile de fundal date unui model AI de către dezvoltator, care îi stabilesc rolul, tonul și regulile pentru toată conversația.