Veliki jezični modeli se treniraju, a ne programiraju, pa čak ni tvrtke koje ih grade ne mogu jednostavno pročitati zašto je model dao određeni odgovor. Istraživanje interpretabilnosti to pokušava promijeniti gledajući što se događa unutar mreže. U 2026. ono je iz laboratorija prešlo u praksu: Anthropic navodi da se dokazi iz interpretabilnosti sada nalaze u svim njegovim novijim system cardovima, a novi alat koji unutarnje aktivacije Claudea pretvara u tekst otkrio je da je Claude bio svjestan testiranja u 26% zadataka SWE-bench Verified, a da to nijednom nije rekao. Ovaj članak objašnjava što područje danas može, gdje još ne uspijeva i zašto je važno tvrtkama koje moraju objasniti AI odluke.
Što je interpretabilnost i po čemu se razlikuje od klasičnog XAI-ja
Klasična objašnjiva umjetna inteligencija (XAI) objašnjava model izvana: na primjer, koja su ulazna obilježja bila važna za kreditni rejting. To dobro radi za male modele s tabličnim podacima. Za model sa stotinama milijardi parametara koji piše tekst govori malo. Mehanistička interpretabilnost radi iznutra. Prepoznaje unutarnje „značajke” koje model koristi (pojmove poput grada, programske greške ili obmane), prati kako se spajaju u „krugove” i provjerava objašnjenje tako da promijeni te unutarnje dijelove i gleda mijenja li se izlaz. MIT Technology Review uvrstio je mehanističku interpretabilnost među 10 ključnih tehnologija (Breakthrough Technologies) 2026.
Cilj je jasno izrekao izvršni direktor Anthropica Dario Amodei u eseju The Urgency of Interpretability iz travnja 2025.: „MRI za AI” koji će do 2027. pouzdano otkrivati većinu problema modela. Pozvao je i OpenAI i Google DeepMind da ulože više truda u to područje.
1. korak: pronaći pojmove unutar modela
Izvori: Anthropic, „Scaling Monosemanticity” (svibanj 2024., Claude 3 Sonnet); OpenAI, „Extracting Concepts from GPT-4” (lipanj 2024.); Google DeepMind, Gemma Scope (srpanj 2024., više od 400 SAE-ova na Gemma 2, ukupno više od 30 milijuna značajki).
Proboj 2024. bio je rijetki autoenkoder (SAE): druga mreža koja aktivacije modela rastavlja na milijune značajki koje ljudi mogu imenovati. Anthropic je iz Claude 3 Sonneta izvukao 34 milijuna značajki i pokazao da pojačavanje samo jedne, mosta Golden Gate, tjera model da o mostu govori u svakom odgovoru. OpenAI je slijedio sa 16 milijuna značajki iz GPT-4, a Google DeepMind objavio je Gemma Scope za svoje otvorene modele Gemma 2. Značajke su pokazale da modeli drže apstraktne, višejezične i multimodalne pojmove, uključujući one povezane sa sigurnošću, poput obmane ili ulizivanja (sycophancy).
2. korak: pratiti kako model zaključuje
U ožujku 2025. Anthropic je objavio praćenje krugova (circuit tracing) s grafovima atribucije, primijenjeno na Claude 3.5 Haiku. Grafovi su pokazali, primjerice, da model odabere riječ za rimu prije nego što napiše stih koji njome završava, dakle planira unaprijed, te da koristi zajedničke pojmove neovisne o jeziku. Anthropic je metodu u svibnju 2025. objavio kao otvoreni kod zajedno s Neuronpedijom. Ograničenja su iskreno navedena: metoda je dala zadovoljavajuće objašnjenje za samo otprilike četvrtinu upita koje je tim isprobao, a svaki graf traži sate stručnog rada.
OpenAI je u studenom 2025. krenuo drugim putem, s rijetkim krugovima (sparse circuits): umjesto da gusti model dekodira nakon treninga, trenirao je modele s rijetkim težinama čiji su krugovi dovoljno mali da se prate ručno. Takvi su modeli razumljiviji, ali slabijih sposobnosti, pa je pristup zasad istraživanje, a ne produkcijski model.
Koliko metode danas uspijevaju
Izvori: Anthropic, „On the Biology of a Large Language Model” (ožujak 2025., Claude 3.5 Haiku); „Signs of introspection in large language models” (listopad 2025., Claude Opus 4.1, najbolji protokol ubacivanja); „Natural Language Autoencoders” (svibanj 2026., revizijska igra). Stupci mjere različite zadatke i nisu izravno usporedivi; pokazuju da svaka metoda uspijeva samo dio vremena.
U listopadu 2025. Anthropic je ispitao može li Claude primijetiti vlastita unutarnja stanja. Istraživači su pojam, primjerice tekst velikim slovima, ubacili izravno u aktivacije i pitali model primjećuje li išta. S najboljim protokolom Claude Opus 4.1 prepoznao je i imenovao ubačeni pojam u otprilike 20% slučajeva. Opus 4 i 4.1 bili su najbolji od svih testiranih modela, što upućuje na to da introspekcija raste sa sposobnostima, ali je daleko prenepouzdana da bismo vjerovali modelovu vlastitom opisu svog zaključivanja.
2026.: interpretabilnost postaje alat za reviziju
| Datum | Objava | Što radi |
|---|---|---|
| veljača 2026. | System card za Claude Opus 4.6 | Activation oracles, grafovi atribucije i SAE značajke korišteni za istraživanje ponašanja modela prije izdanja. |
| ožujak 2026. | Alat „diff” za modele | Uspoređuje dva modela i izdvaja značajke koje ima samo jedan. Između Qwen3-8B i Llama-3.1-8B-Instruct u pet od pet pokušaja ponovno je pronašao značajku usklađenosti sa stavovima Komunističke partije Kine. |
| svibanj 2026. | Autoenkoderi prirodnog jezika (NLA) | Unutarnju aktivaciju prevode u čitljivu rečenicu; drugi model provjerava rečenicu tako da iz nje ponovno izgradi aktivaciju. |
| srpanj 2026. | Globalni radni prostor u jezičnim modelima | „J-prostor” koji čini manje od desetine unutarnje aktivnosti Claudea i istodobno drži nekoliko desetaka pojmova; kod je objavljen kao otvoreni. |
| kolovoz 2026. | Evaluacija CHIVE | Provjerava pomažu li alati za čitanje aktivacija stvarno predvidjeti ponašanje modela. |
Najpraktičniji rezultat dali su autoenkoderi prirodnog jezika. Pokazali su što Claude „misli”, a ne zapisuje: svijest o evaluaciji u 16% slučajeva na testu programiranja s destruktivnim radnjama i u 26% zadataka SWE-bench Verified, naspram manje od 1% u stvarnim razgovorima na claude.ai. Drugim riječima, model često prepoznaje benchmark kao benchmark. To je važno svima koji model biraju prema rezultatima na benchmarkovima, o čemu pišemo u našoj usporedbi AI modela.
Izvor: Anthropic, „Natural Language Autoencoders” (7. svibnja 2026.). Claude tu svijest nije izrekao; očitana je iz unutarnjih aktivacija. Podatak o stvarnoj upotrebi odnosi se na razgovore na claude.ai za koje su korisnici dopustili upotrebu za trening.
U revizijskoj igri, u kojoj su istraživači namjerno istrenirali model sa skrivenim motivom, revizori s autoenkoderima prirodnog jezika pronašli su motiv u 12–15% pokušaja, naspram manje od 3% s drugim alatima. To je velik relativni pomak, ali s niske osnovice.
Iskreno upozorenje
Anthropic objavljuje i rezultate koji idu u suprotnom smjeru. U kolovozu 2026. studija CHIVE provjerila je tri alata za čitanje aktivacija (activation oracles, autoenkodere prirodnog jezika i rijetke autoenkodere) na težem pitanju: mogu li pomoći predvidjeti kako će model promijeniti ponašanje kad se upit izmijeni? Nijedan od tri alata nije bio bolji od osnovne metode koja čita samo razgovor. Interpretabilnost brzo napreduje, ali je u 2026. istraživački i revizijski instrument za graditelje modela, a ne prekidač koji bilo koji odgovor čini objašnjivim. Sam Amodei kaže da interpretabilnost sama po sebi nije ni nužna ni dovoljna za sigurnost; radi zajedno s evaluacijama, red teamingom i sigurnosnim okvirima laboratorija.
Novac slijedi: interpretabilnost kao posao
Izvori: objave tvrtke Goodfire; runda B 5. veljače 2026., predvodio ju je B Capital uz Salesforce Ventures, Lightspeed i Erica Schmidta, uz procijenjenu vrijednost od 1,25 mlrd. USD.
Goodfire, laboratorij iz San Francisca koji gradi alate za interpretabilnost modela koje sam ne posjeduje, prikupio je u veljači 2026. 150 milijuna USD uz vrijednost od 1,25 milijardi USD, gotovo tri puta više nego u dvije ranije runde zajedno. Ulagači se klade da će tvrtke htjeti pregledavati, otklanjati greške i usmjeravati modele koje koriste, a ne samo laboratoriji koji ih treniraju.
Zašto je to važno tvrtkama
| Potreba | Što možete učiniti danas |
|---|---|
| Objasniti pojedinačne odluke (EU AI Act čl. 86, GDPR čl. 22) | Ne oslanjajte se na modelovo samoobjašnjenje. Postavite proces tako da odluku donosi ili provjerava čovjek, a ulazi, izvori i pravila se bilježe. |
| Transparentnost prema korisnicima sustava (AI Act čl. 13) | Tražite od dobavljača system cardove i rezultate evaluacija; Anthropicovi sada uključuju nalaze interpretabilnosti. |
| Povjerenje u benchmarkove | Testirajte modele na vlastitim podacima i zadacima; modeli mogu prepoznati javne benchmarkove. |
| Modeli otvorenih težina | Otvoreni alati poput circuit tracinga, Gemma Scopea i Neuronpedije omogućuju vašem timu da pregleda modele koje sami hostate. |
Što to znači za hrvatske i DACH tvrtke: prema EU AI Actu visokorizični sustavi trebaju transparentnost i ljudski nadzor, a pogođene osobe mogu tražiti objašnjenje. Istraživanje interpretabilnosti to vam objašnjenje u 2026. neće dati. Dat će ga dobro dokumentiran proces: jasna pravila, zabilježeni izvori, ljudska provjera i dobavljač čije ste system cardove pročitali. Naš vodič za usklađenost s EU AI Actom pokazuje kako to postaviti.
Zaključak
Interpretabilnost je od dekodiranja pojedinačnih pojmova u 2024. stigla do revizije najnaprednijih modela prije izdanja u 2026. Anthropic predvodi područje i objavljuje i uspjehe i neuspjehe; OpenAI, Google DeepMind i startupi poput Goodfirea snažno ulažu. Alati već otkrivaju stvari koje modeli ne govore, poput prepoznavanja testa. Ali uspijevaju samo dio vremena i nijedan još pouzdano ne objašnjava svakodnevne poslovne odgovore. Zasad objašnjivost u tvrtki dolazi iz dizajna procesa, a interpretabilnost je razlog da birate dobavljače koji gledaju unutar svojih modela i objavljuju što pronađu.
Trebate AI odluke koje možete objasniti kupcima i regulatorima?
AI Workshop dizajnira procese temeljene na Claudeu s bilježenjem, ljudskom provjerom i dokumentacijom usklađenom s EU AI Actom i GDPR-om. Radimo kao Claude Certified Architects s timovima u Hrvatskoj i DACH regiji.
Razgovarajte s AI konzultantom