Dugi kontekstni prozori 2026: modeli s milijun tokena i kada stvarno pomažu

Prije nekoliko godina model je u glavi mogao držati par stranica. U 2026. vodeći modeli Anthropica, OpenAI-ja, Googlea i Mistrala čitaju stotine tisuća — a ponekad i milijun — tokena u jednom pozivu: cijelu bazu koda, kvartal ugovora, knjigu s bilješkama, sve odjednom. Zvuči kao kraj cjevovoda za dohvat i muke s dijeljenjem dokumenata. Nije. Golemi kontekstni prozor moćan je alat koji zakaže i na tihe, skupe načine. Ovo je praktična karta onoga što vam dugi kontekst zapravo donosi, gdje pobjeđuje dohvat, gdje tiho gubi nit i koliko košta.

Što je zapravo kontekstni prozor

Kontekstni prozor je ukupna količina teksta — mjerena u tokenima, otprilike ¾ riječi po tokenu — koju model može razmotriti odjednom: vaš sistemski prompt, povijest razgovora, dokumente koje zalijepite i odgovor koji generira. Sve što model "zna" za pojedini zahtjev mora stati unutra. Kad kažemo da model ima prozor od 200K ili 1M tokena, mislimo na gornju granicu koliko može pročitati i napisati u jednom potezu. Veći prozori omogućuju da preskočite inženjering odabira kojih dijelova velikog korpusa pokazati modelu — u principu mu možete pokazati sve.

Kvaka: pažnja nije besplatna ni ravnomjerna

Ispod svake demonstracije dugog konteksta stoje dvije tvrde istine. Prvo, računski trošak pažnje raste brže od linearnog s duljinom niza, pa je poziv koji čita milijun tokena zaista skup i spor — plaćate svaki token na ulazu, u svakom potezu. Drugo, i manje očito: modeli ne čitaju dugi kontekst ravnomjerno. Informacije na samom početku i samom kraju prompta pamte se pouzdano; činjenice zakopane u sredini vrlo dugog dokumenta pamte se znatno lošije. To je dobro dokumentiran efekt "izgubljeno u sredini", a znači da prisutnost činjenice u kontekstu nije isto što i to da je model koristi.

Dugi kontekst vs. dohvat (RAG): nisu suparnici

Primamljiv zaključak — "prozori su sad golemi, možemo baciti RAG stog" — pogrešan je za većinu produkcijskih sustava. Njih dvoje rješavaju različite probleme, a najbolje arhitekture 2026. koriste oboje. Dohvat sužava veliku, promjenjivu bazu znanja na tek nekoliko najrelevantnijih odlomaka; dugi kontekst omogućuje modelu da duboko rezonira preko tih odlomaka, plus razgovora, plus svega ostalog što je bitno. Dohvat je odabir onoga što ćete čitati, dugi kontekst je koliko toga možete pročitati odjednom.

Gdje dugi kontekst uistinu pobjeđuje

1. Rezoniranje nad jednim velikim dokumentom

Kad odgovor ovisi o povezivanju činjenica razasutih kroz jedan velik dokument — ugovor od 300 stranica, cjelovito financijsko izvješće, cijelu bazu koda — dugi kontekst nadmašuje dohvat po dijelovima, jer dohvat može promašiti vezu između dva odlomka koje nikad nije dohvatio zajedno. Dajte modelu cjelinu i može unakrsno povezivati.

2. Agenti koji akumuliraju stanje

Agenti s dugim horizontom grade radnu povijest — izlaze alata, međurezultate, odluke. Velik prozor drži to stanje na vidiku umjesto da se izgubi ili sažme s gubitkom, što je jedan od tihih temelja pouzdanih agenata.

3. Few-shot s mnogo primjera

Kad modelu u promptu možete pokazati desetke razrađenih primjera zadatka, kvaliteta često parira fino podešavanju — bez troška treniranja i vezivanja. Veliki prozori čine many-shot prompting praktičnim.