AI halucinacije 2026: zašto LLM-ovi izmišljaju — i kako ih smanjiti u produkciji

Pitajte moderni AI model za sudsku presudu, specifikaciju proizvoda ili statistiku i većinom ćete dobiti točan odgovor. Ponekad ćete, međutim, dobiti savršeno tečan, samouvjeren i potpuno izmišljen odgovor. To je AI halucinacija i ona je i dalje glavni razlog zašto tvrtke oklijevaju staviti velike jezične modele pred klijente ili u ključne procese. Dobra vijest za 2026.: modeli Anthropica, OpenAI-ja, Googlea i Mistrala haluciniraju znatno manje nego prije dvije godine, a danas postoji dobro razrađen skup alata kojim se stopa može spustiti još niže. Ovaj vodič objašnjava zašto halucinacije nastaju, kako ih mjeriti i koje slojevite zaštite čine AI dovoljno pouzdanim za stvaran posao.

Što je zapravo halucinacija

Halucinacija je izlaz koji zvuči ispravno, ali nije potkrijepljen činjenicama ni izvorom koji ste dali modelu. Dolazi u nekoliko prepoznatljivih oblika:

• Izmišljene činjenice — statistika, datum ili ime koje jednostavno ne postoji.
• Izmišljene reference — uvjerljiv znanstveni rad, sudska praksa ili URL koji nikad nije objavljen. Poznati slučajevi odvjetnika koji su citirali nepostojeće presude spadaju ovamo.
• Nevjerni sažeci — model sažme vaš ugovor ili izvještaj, ali doda klauzulu, zamijeni broj ili spoji dvije odvojene činjenice.
• Presamouvjereno zaključivanje — lanac logike koji izgleda rigorozno, ali počiva na jednoj pogrešnoj pretpostavci.
• Halucinacije agenata — kod autonomnih agenata model se "sjeća" poziva alata koji nikad nije napravio ili prijavi zadatak kao završen iako nije uspio.

Zašto jezični modeli izmišljaju

Jezični model ne traži činjenice u bazi podataka. On generira najvjerojatniji nastavak teksta na temelju obrazaca naučenih tijekom treninga. Kada je odgovor dobro zastupljen u podacima za trening, vjerojatno i istinito se poklapaju. Kada je rijedak, nov ili specifičan za vašu tvrtku, model i dalje može proizvesti nešto što zvuči vjerojatno — i tu žive halucinacije.

Postoji i drugi, suptilniji uzrok. OpenAI-jevo istraživanje iz 2025. o tome zašto jezični modeli haluciniraju to je reklo izravno: većina treninga i evaluacije nagrađuje samouvjereno pogađanje više nego iskreno "ne znam". Na testu s ponuđenim odgovorima pogađanje donosi bodove, a suzdržavanje nulu, pa modeli uče pogađati. Odgovor industrije u 2025.–2026. bio je mjeriti i nagrađivati kalibrirano suzdržavanje — zato su noviji modeli Anthropica i OpenAI-ja primjetno spremniji priznati da nisu sigurni.

Grafikon pokazuje najvažniju praktičnu lekciju: rizik halucinacije puno više ovisi o zadatku nego o modelu. Tražiti od modela da se iz memorije prisjeti rijetke činjenice ili sastavi popis referenci rizično je kod svakog dobavljača. Tražiti od njega da odgovori iz dokumenta koji mu date — i da taj dokument citira — dramatično je sigurnije.

Kako se mjere halucinacije

Ne postoji jedinstvena "ocjena halucinacija", a brojke s različitih ljestvica nisu usporedive. Benchmarkovi koje ćete vidjeti u 2026. testiraju različite stvari:

Posljednji redak najvažniji je. Javna ljestvica govori koji su modeli u pravoj ligi; samo evaluacija na vlastitim podacima govori je li sustav spreman za produkciju. Automatski ocjenjivači — pogledajte naš vodič o LLM-u kao sucu — čine takvu evaluaciju jeftinom pri svakoj promjeni.

Kako se uspoređuju glavni dobavljači

• Anthropic (Claude). Claude modeli dosljedno su među najmanje sklonima halucinacijama na utemeljenim zadacima i trenirani su odbiti odgovor kad nisu sigurni. Claude API nudi ugrađenu značajku Citations koja svaku tvrdnju veže uz konkretan odlomak dokumenata koje pošaljete, a Anthropicove smjernice preporučuju dopustiti Claudeu da kaže "ne znam" i izdvojiti citate prije odgovora.
• OpenAI (GPT). OpenAI-jevi modeli za zaključivanje znatno su poboljšali činjeničnu točnost, a OpenAI sada objavljuje stope halucinacija i suzdržavanja u svojim system cardovima. Alati za web i pretraživanje datoteka utemeljuju odgovore u pronađenim izvorima s citatima.
• Mistral. Mistralovi modeli popularni su za suverene implementacije hostane u EU; uz dobar sloj pretraživanja nad vlastitim dokumentima postižu visoku vjernost na utemeljenim zadacima, iako manji open-weight modeli više haluciniraju kad rade bez izvora.
• Agenti (Manus i drugi). Dugi agentni zadaci u više koraka zbrajaju male stope pogreške: 2% šanse za pogrešan korak, ponovljeno pedeset puta, postaje značajno. Agentne platforme zato se oslanjaju na korake provjere, rezultate alata i logove umjesto na modelov vlastiti opis onoga što je napravio.

Slojevita obrana: kako smanjiti halucinacije

Nijedan pojedinačni trik ne rješava halucinacije. Radi niz zaštita, pri čemu svaka hvata dio onoga što je prethodni sloj propustio:

1. Utemeljite model u vlastitim podacima. Koristite RAG (retrieval-augmented generation) tako da odgovori dolaze iz vaših dokumenata, a ne iz memorije modela. Uputite ga da odgovara isključivo iz danog konteksta.
2. Zahtijevajte citate. Neka model prvo izdvoji točne odlomke na koje se oslanja, zatim odgovori i citira svaki. Tvrdnje bez potpornog citata mogu se automatski odbaciti.
3. Neka "ne znam" bude prihvatljiv odgovor. Izričito dopustite suzdržavanje i dizajnirajte sučelje oko toga. Prebacivanje na čovjeka bolje je od samouvjerenog pogrešnog odgovora.
4. Ograničite izlaz. Strukturirani izlazi i pozivi alata za brojeve, cijene i datume — dohvatite ih iz sustava evidencije umjesto da ih model generira.
5. Automatski provjeravajte. Drugi prolaz modela (ili jeftiniji model za provjeru) uspoređuje svaku tvrdnju s izvorima i označava sve nepotkrijepljeno.
6. Zadržite ljude na visokorizičnim izlazima. Pravni, medicinski, financijski sadržaj i sve što obvezuje prema klijentu prolazi ljudsku provjeru — ubrzanu, ne zamijenjenu, gornjim provjerama.
7. Mjerite kontinuirano. Pratite stopu halucinacija na fiksnom skupu za evaluaciju i na uzorku produkcijskog prometa, uz pravi monitoring.

Brza provjera stvarnosti za vaš projekt

Prije uvođenja AI asistenta postavite četiri pitanja. Odakle dolaze njegove činjenice — iz memorije ili iz vaših podataka? Može li korisnik vidjeti izvor za svaku važnu tvrdnju? Što se događa kad ne zna — pogađa li ili eskalira? I znate li stvarnu stopu pogreške na stvarnim pitanjima? Ako su odgovori "memorija", "ne", "pogađa" i "ne", imate demo, a ne produkcijski sustav. Ispravljanje te četiri točke obično je pitanje tjedana, a ne mjeseci.

Zaključak

Halucinacije su od prepreke koja zaustavlja projekte postale upravljiv inženjerski rizik. Najbolji modeli Anthropica, OpenAI-ja i Mistrala znatno su točniji i spremniji priznati nesigurnost od svojih prethodnika — ali stvarni dobici u pouzdanosti dolaze iz dizajna sustava: utemeljenja odgovora u vlastitim podacima, obveznih citata, dopuštenog "ne znam", automatske provjere i ljudi u petlji gdje su ulozi visoki. Tvrtke koje grade na ovaj način danas koriste AI u ugovorima, korisničkoj podršci i financijama. Tvrtke koje vjeruju memoriji modela još uvijek raspravljaju može li se AI-ju uopće vjerovati.