AI alati za programiranje danas pišu velik dio novog koda, a taj se kod gotovo uvijek prevodi. Je li on i siguran i održiv, drugo je pitanje, a 2026. konačno imamo dovoljno neovisnih podataka da na njega odgovorimo. Veracodeov test vodećih modela iz 2026. pokazuje prosječnu stopu prolaska sigurnosnih testova od 56 %, jednako kao godinu ranije. Ovaj članak okuplja glavna mjerenja kvalitete i sigurnosti AI-generiranog koda i pretvara ih u kontrole koje možete uvesti već ovaj kvartal.
Zašto je to važno sada: primjena je pretekla povjerenje
Googleov izvještaj DORA 2025 pokazao je da 90 % od gotovo 5.000 tehnoloških stručnjaka koristi AI na poslu, a 65 % se u razvoju softvera na njega jako oslanja. U anketi Stack Overflow Developer Survey 2025 AI alate koristi ili planira koristiti 84 % programera, u odnosu na 76 % godinu ranije. Povjerenje je otišlo u suprotnom smjeru: 46 % ne vjeruje točnosti AI odgovora, oko trećine vjeruje, a visoko povjerenje ima samo 3 %. Najčešća frustracija, koju navodi 66 %, jesu AI rješenja koja su „gotovo točna, ali ne sasvim”; 45 % kaže da otklanjanje grešaka u AI-generiranom kodu traje dulje.
Budući da agenti za kodiranje sada sami otvaraju pull requestove, količina koda koji piše AI raste brže od kapaciteta za pregled. Zaključak samog DORA-e je da AI djeluje kao pojačalo: pojačava snage dobro vođenih razvojnih organizacija i slabosti onih koje se muče. Brojke u nastavku pokazuju gdje se te slabosti pojavljuju.
Sigurnost: modeli su pametniji, ali ne i sigurniji
Veracodeov GenAI Code Security Report modelima daje fiksni skup programerskih zadataka u kojima je moguće i sigurno i nesigurno rješenje, bez ikakvih sigurnosnih uputa u promptu, a zatim skenira rezultat. Izdanje iz 2025. obuhvatilo je više od 100 modela i 80 zadataka te pokazalo da 45 % uzoraka uvodi ranjivost s popisa OWASP Top 10. Java je bila daleko najslabiji jezik.
Izvor: Veracode 2025 GenAI Code Security Report (80 zadataka, 100+ LLM-ova). U izvještaju za 2026. stopa prolaska bila je 63 % za Python i oko 30 % za Javu.
Izvještaj za 2026., objavljen 28. srpnja 2026., prati 11 aktualnih modela. Sintaktička ispravnost blizu je 100 %, ali prosječna stopa prolaska sigurnosnih testova i dalje je 56 %, „praktički nepromijenjena” od 2025. Modeli dobro rješavaju poznate obrasce kao što su SQL injection i izbor kriptografskih algoritama, a uglavnom padaju na cross-site scriptingu i log injectionu, gdje siguran kod ovisi o kontekstu koji prompt ne navodi.
Izvor: Veracode 2026 GenAI Code Security Report prema eSecurity Planetu (12. 8. 2026.). Više je bolje.
Izbor modela pomaže, ali manje nego što biste očekivali. OpenAI-jev GPT-5.5 vodi na ljestvici za ljeto 2026. s 68 %; slijede GPT-5.3-Codex i Anthropicov Claude Opus 4.8 s po 62 %, a šest od 11 modela nalazi se između 50 % i 53 %. Modeli s rasuđivanjem u prosjeku postižu 56 %, a modeli bez rasuđivanja 51 %, dok modeli specijalizirani za kod (51 %) nisu bolji od modela opće namjene (52 %).
Izvori: Veracodeovo priopćenje (28. 7. 2026.) za GPT-5.5, Qwen3.7-max i prosjeke; eSecurity Planet za GPT-5.3-Codex i Claude Opus 4.8. Testirano bez sigurnosnih uputa u promptu.
Greške u pregledu koda: što pokazuje 470 pull requestova
CodeRabbitov izvještaj „State of AI vs Human Code Generation” (prosinac 2025.) usporedio je 320 pull requestova nastalih uz AI i 150 koje su pisali samo ljudi, u projektima otvorenog koda na GitHubu. AI pull requestovi u prosjeku su imali 10,83 problema, a ljudski 6,45, dakle oko 1,7 puta više, uz 1,4× više kritičnih i 1,7× više velikih problema. Razlika je bila najveća kod cross-site scriptinga.
Izvor: CodeRabbit, State of AI vs Human Code Generation (17. 12. 2025.), 470 PR-ova otvorenog koda; višekratnici po kategorijama prema The Registeru. 1,0× značilo bi izjednačenost.
Vrijede dvije ograde. Uzorak je malen i ograničen na projekte otvorenog koda, a CodeRabbit prodaje AI pregled koda. Ipak, obrazac odgovara Veracodeovom: višak grešaka čine logičke pogreške i sigurnosni propusti ovisni o kontekstu, upravo one koje u diffu izgledaju uvjerljivo.
Održivost: kodne baze u načinu „samo pisanje”
GitClear ne testira zadatke, nego analizira povijest commitova. Njegov izvještaj „Write-Only Mode” iz lipnja 2026. obuhvaća 623 milijuna promjena od 2023. do 2026. i opisuje kodne baze koje stalno rastu, dok se stariji kod više ne dira. Refaktoriranje je palo 70 %, izmjene dugo postojećeg koda 74 %, dok su duplicirani blokovi koda porasli 81 %, a konstrukcije koje skrivaju greške (primjerice hvatanje i ignoriranje iznimaka) 47 %.
Izvor: GitClear, Write-Only Mode: AI Code Quality in 2026 (623 mil. promjena, 2023. = baza, 2026. do danas). Jantarno = rizični signali, tamno = signali ponovne upotrebe.
Dugoročni pogled je najjasniji. Programeri su 2022. kod premještali (refaktorirali) otprilike dvostruko češće nego što su ga kopirali. Godine 2024. kopiranje je prvi put prestiglo premještanje, a u prvoj polovici 2026. kopiranje je oko četiri puta češće.
Izvori: GitClear 2026 (2022. i 1. pol. 2026.) i GitClear AI Copilot Code Quality 2025 (2024., 211 mil. linija). Izvještaji koriste različite skupove podataka; čitajte trend, ne točne razlike.
GitClear mjeri razdoblje u kojem su se AI asistenti proširili, a ne autora svake linije, i sam prodaje analitiku razvoja. No dupliciranje i izostanak refaktoriranja upravo su ono što dobijete kada je generiranje novog koda jeftinije od pronalaženja i ponovne upotrebe postojeće funkcije.
Lanac opskrbe: izmišljeni paketi i „slopsquatting”
Studija predstavljena na konferenciji USENIX Security 2025 (University of Texas at San Antonio, University of Oklahoma, Virginia Tech) generirala je 576.000 uzoraka koda u Pythonu i JavaScriptu sa 16 modela. Čak 19,7 % preporučenih paketa nije postojalo, što daje 205.474 jedinstvena izmišljena imena. Kada je 500 promptova ponovljeno deset puta, 43 % izmišljenih imena vratilo se svaki put, pa su predvidljiva. Napadač može registrirati takvo ime i čekati da ga agent instalira; to se zove slopsquatting.
Izvor: Spracklen i sur., USENIX Security 2025; 576.000 uzoraka, 16 modela. CodeLlama je izmišljao pakete u više od trećine odgovora. Modeli iz 2024.–2025.; današnji vodeći modeli nisu testirani.
Istraživači nisu pronašli potvrđene napade u praksi, ali rizik raste kako agenti sami pokreću naredbe za instalaciju. Rješenje je jednostavno i jeftino: popis odobrenih paketa ili interni proxy registra, lockfileovi i pravilo da agent ne smije dodati novu ovisnost bez pregleda.
Što radi: osam kontrola za kod koji piše AI
| Rizik | Kontrola | Gdje živi |
|---|---|---|
| Nesigurne zadane postavke (XSS, log injection) | Pravila sigurnog programiranja u kontekstu agenta (CLAUDE.md, AGENTS.md, sistemski prompt) s pomoćnim funkcijama vašeg frameworka za escaping i logiranje | Repozitorij |
| Ranjivosti koje promaknu | SAST i skeniranje tajni na svakom pull requestu, s blokiranjem visoke ozbiljnosti; AI sigurnosni pregled (npr. /security-review u Claude Codeu) kao dodatni sloj | CI |
| Izmišljeni ili zlonamjerni paketi | Proxy registra ili popis dopuštenih paketa, lockfileovi, analiza sastava softvera, nema nove ovisnosti bez odobrenja | CI + upravitelj paketa |
| Uvjerljiva, ali pogrešna logika | Testove piše ili pregledava čovjek prije spajanja agentove promjene; prag pokrivenosti za promijenjene linije | CI |
| Dupliciranje i rasipanje koda | Provjere dupliciranja i složenosti u CI-ju; tražite od agenta da prije pisanja potraži postojeće pomoćne funkcije | CI + promptovi |
| Progutane greške | Lint pravila protiv praznih catch blokova i preširokih rukovatelja iznimkama | Linter |
| Preopterećen pregled koda | Mali pull requestovi, prvi prolaz AI pregleda, ljudski vlasnik za svako spajanje | Proces |
| Agenti s prevelikim ovlastima | Tokeni s najmanjim potrebnim ovlastima, izvršavanje u sandboxu, nema izravnog pusha na main | Platforma |
Dvije kontrole zaslužuju poseban naglasak. Prvo, stavite sigurnosne upute u kontekst: Veracodeove brojke opisuju promptove bez njih, a datoteke s pravilima najjeftinija su poluga koju imate. Drugo, mjerite: pratite udio spojenih linija koje je napisao AI, nalaze po pull requestu i stopu neuspjelih promjena, kako biste vidjeli pojačava li AI vaše snage ili slabosti.
Regulativa: Akt o kibernetičkoj otpornosti pretvara ovo u obvezu proizvođača
Za tvrtke koje u EU prodaju softver ili povezane proizvode, nesiguran AI-generirani kod sada je i pitanje usklađenosti. Prema Aktu o kibernetičkoj otpornosti (Cyber Resilience Act), obveza prijave aktivno iskorištavanih ranjivosti primjenjuje se od 11. rujna 2026., a puni zahtjevi sigurnosti od samog dizajna od 11. prosinca 2027. Uredbu ne zanima je li ranjivu liniju napisao čovjek ili model. Hrvatski i DACH proizvođači te dobavljači softvera trebali bi dokumentirane kontrole razvoja uz pomoć AI-ja uključiti u pripremu za CRA već sada.
Zaključak
AI alati za programiranje donose stvarnu brzinu i podaci ne govore da ih treba izbjegavati. Govore da njihovom rezultatu ne treba vjerovati po zadanim postavkama. Modeli pišu kod koji se prevodi, ali gotovo u polovici slučajeva pada na sigurnosnom testu, greške se gomilaju u propustima ovisnima o kontekstu, a kodne baze nakupljaju duplikate kada nitko ne traži ponovnu upotrebu. Timovi koji dodaju pravila u kontekst agenta, skeniranje u CI-ju, kontrolu ovisnosti i ljudsko vlasništvo nad svakim spajanjem zadržavaju brzinu bez duga.
Želite brzinu AI programiranja bez sigurnosnog duga?
AI Workshop uvodi razvoj uz pomoć AI-ja s kontrolama koje drže: sigurnosna pravila u kontekstu agenta, sigurnosno skeniranje u CI-ju, kontrolu ovisnosti i pravila pregleda za kod koji pišu agenti. Radimo kao Claude Certified Architects s timovima u Hrvatskoj i regiji DACH.
Razgovarajte s AI konzultantom