AI zaštite (guardrails) 2026: kako AI u produkciji držati sigurnim i usklađenim

Jezični model ne zna kada griješi. Izmislit će politiku povrata, citirati zakon koji ne postoji ili poslušati zlonamjernu uputu skrivenu u dokumentu — sve s istom tečnom sigurnošću kojom odgovara i kad je u pravu. Zato model nikad nije cijeli sustav. Zaštite (guardrails) su sloj provjera oko njega — koje provjeravaju što ulazi, što izlazi i što model smije učiniti — i pretvaraju dojmljiv demo u nešto što se sigurno smije staviti pred korisnike. U 2026., kada je EU Akt o umjetnoj inteligenciji na snazi, a AI seli iz pilota u regulirane procese, zaštite više nisu opcija. One su razlika između AI značajke i AI odgovornosti pred zakonom.

Zašto sam model nikad nije dovoljan

Svaki veliki jezični model dijeli tri strukturne slabosti koje nikakav prompt do kraja ne uklanja. Halucinira — proizvodi uvjerljive, vjerodostojne, ali lažne tvrdnje. Upravljiv je svojim ulazom — tekst koji pročita može preoteti ono što radi, što je srž prompt injectiona. I nedeterministički je — isti zahtjev danas može dati siguran, a sutra nesiguran odgovor. Te slabosti ne možete zakrpati unutar modela; obuzdavate ih izvana. Zaštite su to obuzdavanje: deterministički, provjerljiv kod koji omata vjerojatnosnu jezgru.

Tri sloja zaštite

1. Ulazne zaštite — prije nego što model išta vidi

Prva kontrolna točka provjerava što stiže do modela. Otkrijte i uklonite pokušaje prompt injectiona, blokirajte zahtjeve izvan teme ili izvan politike, maskirajte osobne podatke prije nego uđu u prompt i odbijte ulaze koji su jednostavno preveliki ili neispravni. Ulazna zaštita je jeftino osiguranje: najsigurniji nesiguran zahtjev je onaj koji model nikad ne obradi.

2. Izlazne zaštite — prije nego što korisnik išta vidi

Druga kontrolna točka pregledava odgovor modela prije nego izađe van. Potvrdite strukturu shemom da neispravan odgovor nikad ne sruši kôd koji ga koristi. Provjerite činjenice prema pouzdanom izvoru — temeljite odgovore na dohvaćenim dokumentima i odbijte tvrdnje koje nisu potkrijepljene. Skenirajte za toksičnost, procurjele tajne ili osobne podatke. I provodite politiku: nema pravnih, medicinskih ni financijskih savjeta koje vaša tvrtka nije ovlaštena davati. To je ista disciplina provjere temeljena na uzemljenju u vlastite izvore (RAG) koja sprječava tiho kvarenje AI cjevovoda.

3. Bihevioralne zaštite — oko onoga što model smije učiniti

U agentnom sustavu model ne samo da priča — on djeluje, poziva alate, piše u sustave, troši novac. Bihevioralne zaštite ograničavaju te akcije: pristup alatima po načelu najmanje ovlasti, čvrsta ograničenja na nepovratne operacije, ljudsko odobrenje za korake s visokim ulogom i ograničenja brzine da odbjegla petlja ne može nanijeti neograničenu štetu. Čim model može djelovati, ovaj sloj postaje važniji od druga dva. On je srž sigurnosti agenata.

Načini otkazivanja koje zaštite zaustavljaju

Usklađenost je sada dio slike

Zaštite su nekoć bile inženjerski izbor. U 2026. sve su više i pravni. EU Akt o umjetnoj inteligenciji — izravno relevantan svakoj tvrtki koja posluje u Hrvatskoj i širem EU-u — postavlja stupnjevite obveze prema razini rizika: zabranjene primjene, stroge zahtjeve za sustave visokog rizika (dokumentacija, ljudski nadzor, bilježenje, točnost i robusnost) te obveze transparentnosti za modele opće namjene. Mnogo toga što Akt traži izravno se preslikava na dobru praksu zaštita: bilježenje svake odluke, čovjek u petlji za posljedične akcije i sposobnost pokazati zašto je sustav učinio to što je učinio. Dobro izgrađene zaštite čine usklađenost nusproizvodom dobrog inženjerstva, a ne zasebnom jurnjavom.