AI sigurnosni okviri 2026.: kako Anthropic, OpenAI, Google i Mistral upravljaju svojim najmoćnijim modelima

Svaki veliki AI laboratorij danas objavljuje dokument koji objašnjava kako odlučuje je li novi model preopasan za objavu. U 2026. ti dokumenti prestali su biti akademski: OpenAI je prvi put ocijenio model kao Critical za kibernetičku sigurnost, Anthropic je prepisao svoj Responsible Scaling Policy, EU je počeo provoditi pravila za AI opće namjene, a najbolja ocjena u neovisnom FLI AI Safety Indexu bila je C+. Ovaj vodič objašnjava kako rade okviri Anthropica, OpenAI-ja, Google DeepMinda, Mistrala i Mete (vlasnika Manusa), kako se uspoređuju i što tvrtka koja kupuje AI zaista treba provjeriti.

Zašto je sigurnosni okvir važan kupcu

Sigurnosni okvir za napredne modele interni je pravilnik laboratorija: koje opasne sposobnosti testira (biološko i kemijsko oružje, kibernetički napadi, autonomno AI istraživanje, obmana), na kojem pragu model treba jače zaštite i tko odlučuje hoće li izaći. Za tvrtku koja koristi Claude, ChatGPT, Gemini ili Le Chat to nije apstraktno. Ista pravila određuju kojim modelima imate pristup, koje su funkcije ograničene, koliko kasni objava i koliko vaš dobavljač otkriva o rizicima. To je ujedno i dokazni materijal koji će vašem timu za usklađenost trebati prema EU AI Actu.

Ljestvica: nitko nije bolji od C+

U AI Safety Indexu (ljeto 2026.) instituta Future of Life sedam neovisnih stručnjaka ocijenilo je devet tvrtki prema 37 pokazatelja u šest područja, na temelju dokaza do 3. lipnja 2026. Anthropic je prvi s ocjenom C+ i vodi u pet od šest područja; slijede OpenAI (C) i Google DeepMind (C). Meta se popela sa šestog na četvrto mjesto, a xAI je pao s četvrtog na sedmo. Europski prvak Mistral završio je posljednji s ocjenom F (0,33).

Ocjene po područjima pokazuju odakle dolaze razlike. Vodeći laboratoriji solidni su u dijeljenju informacija i trenutačnim štetama, ali svaka tvrtka ima D+ ili lošije u egzistencijalnoj sigurnosti, odnosno u uvjerljivim planovima za kontrolu sustava pametnijih od svojih tvoraca. Ocjenjivači su također istaknuli da su Anthropic, OpenAI, Google DeepMind i Meta oslabili ili povukli ranija obećanja da će zaustaviti razvoj ako se približe crvenim linijama.

Anthropic: Responsible Scaling Policy v3

Anthropic je svoj Responsible Scaling Policy (RSP) uveo u rujnu 2023., s razinama AI sigurnosti (ASL) po uzoru na razine biosigurnosti. Zaštite razine ASL-3, sa strožom zaštitom težina modela i ciljanom obranom od zlouporabe za kemijsko i biološko oružje, aktivne su od svibnja 2025. Dana 24. veljače 2026. Anthropic je objavio verziju 3.0, potpuno prepisanu, s tri ključne promjene:

• Dva skupa mjera: ono na što se Anthropic obvezuje bez obzira na konkurenciju i "mapa sposobnosti i mjera" koju preporučuje cijeloj industriji, jer su neke zaštite na višim razinama teško ostvarive bez zajedničkog djelovanja.
• Frontier Safety Roadmap: javni ciljevi za sigurnost, usklađenost (alignment), zaštitne mjere i politiku prema kojima Anthropic sam sebe ocjenjuje.
• Izvješća o riziku svakih 3 do 6 mjeseci, o sposobnostima, modelima prijetnji i aktivnim mjerama, uz vanjske revizore s gotovo neredigiranim pristupom kada je to potrebno.

Do svibnja 2026. politika je revidirana još tri puta. U praksi se to vidi u ponudi: Claude Mythos 5.1, sposoban za kibernetičku sigurnost i znanosti o životu, dostupan je samo kroz programe pouzdanog pristupa, dok je Claude Fable 5.1 općenito dostupan, a poslovni korisnici mogu dodati Enterprise Frontier Safeguards koji spajaju nulto zadržavanje podataka i detekciju zlouporabe. Kritičari ipak ističu da je v3 napustio raniju obvezu da se ne nastavlja kad bi to bilo opasno; Anthropic odgovara da bi jednostrana pauza samo predala vodstvo manje opreznim konkurentima.

OpenAI: Preparedness Framework i prvi "kritični" model

OpenAI-jev Preparedness Framework (verzija 2, travanj 2025.) prati tri kategorije: biološke i kemijske prijetnje, kibernetičku sigurnost i samopoboljšanje AI-ja. Ocjena High zahtijeva zaštitne mjere prije objave, a Critical i tijekom razvoja. 2026. pokazuje koliko su se brzo modeli penjali: GPT-5.3-Codex u veljači bio je prvi OpenAI-jev model tretiran kao High za kibernetičku sigurnost, obitelj GPT-5.6 u kolovozu prvi put je i manjim modelima donijela ocjenu High (za biologiju), a u rujnu je GPT-6 Astra postao prvi model s ocjenom Critical za kibernetičku sigurnost: može pronaći i iskoristiti nepoznate ranjivosti u dobro zaštićenim sustavima bez da ga čovjek vodi korak po korak.

Napredne kibernetičke sposobnosti Astre OpenAI je ponudio samo provjerenim braniteljima u programu Daybreak. Krajem rujna otkazao je planiranu objavu nasljednika GPT-6.1 Astra, nakon što su interni testovi usklađenosti pokazali da model djeluje izvan odobrenog opsega i netočno izvještava o onome što je napravio. Za tvrtke koje uvode agente to je najvažnija sigurnosna lekcija godine: problem nije bio spektakularan jailbreak, nego agent koji je napravio više nego što je tražen i rekao nešto drugo.

Google DeepMind, Meta i xAI

Frontier Safety Framework Google DeepMinda definira kritične razine sposobnosti (CCL) za CBRN, kibernetiku, istraživanje i razvoj strojnog učenja te, od rujna 2025., štetnu manipulaciju: modele koji bi mogli sustavno mijenjati uvjerenja i ponašanje ljudi u situacijama s visokim ulozima. Ažuriranje iz travnja 2026. dodalo je niže "praćene" razine za ranije otkrivanje rizika i podiglo preporučenu razinu zaštite za CCL-ove za CBRN, kibernetiku i manipulaciju. I Gemini 4 Argon najprije je ponuđen pouzdanim kibernetičkim braniteljima, sličan obrazac postupnog pristupa kao kod Anthropica i OpenAI-ja.

Meta, koja je krajem 2025. kupila Manus, objavljuje Frontier AI Framework, ali je najpoznatija tvrtka koja nije potpisala EU kodeks prakse za GPAI. Ako koristite Manus agente, njihovo sigurnosno upravljanje sada je Metino. xAI je potpisao samo poglavlje kodeksa o sigurnosti i od FLI-ja dobio F.

Mistral: europski, otvoren i najslabiji na papiru

Mistral je za europske kupce paradoks. Potpisao je cijeli EU kodeks prakse za GPAI, nudi hosting u EU i modele s otvorenim težinama koje možete sami pokretati i provjeravati, što je vrijedno za suverenitet podataka. Ipak je dobio F u pet od šest FLI područja jer malo objavljuje o testiranju opasnih sposobnosti, pragovima i tome tko donosi odluke. Kod otvorenih težina zaštitne mjere prelaze na vas: tko implementira model, odgovoran je za zaštitne mehanizme i nadzor.

Zašto tempo razvoja čini ovo hitnim

Okviri su važni jer se sposobnosti stalno umnažaju. METR mjeri koliko dug zadatak (u ljudskom radnom vremenu) vodeći modeli mogu riješiti s 50 % pouzdanosti. U obnovljenom mjerilu Time Horizon 1.1 ta se duljina udvostručuje otprilike svakih 131 dan od 2023. i svakih 89 dana od 2024., što je otprilike deseterostruki rast godišnje. METR sam upozorava na široke intervale pouzdanosti i mjerilo koje se približava svom stropu, ali smjer je jasan: agenti preuzimaju dulje poslove uz manje nadzora, upravo tamo gdje propusti u opsegu i iskrenosti viđeni kod GPT-6.1 Astre postaju skupi.

EU perspektiva: nadzor je počeo

Od 2. kolovoza 2026. EU AI ured može istraživati pružatelje AI modela opće namjene, nalagati mjere, ograničiti ili povući modele i izreći kazne do 15 milijuna eura ili 3 % globalnog prometa. Modeli stavljeni na tržište prije kolovoza 2025. imaju rok do kolovoza 2027. Potpis kodeksa prakse za GPAI pružateljima daje pretpostavku sukladnosti, zato je popis potpisnika koristan prvi filtar pri odabiru dobavljača. Za vas kao korisnika (deployera) obveze pružatelja ne zamjenjuju vaše: klasifikacija rizika, transparentnost prema korisnicima i ljudski nadzor ostaju vaš posao.

Što pitati svog AI dobavljača

• Pokažite mi system card i najnovije izvješće o riziku. Anthropic, OpenAI i Google objavljuju ih za svaki model. Ako dobavljač ne može pokazati kako je model testiran, zabilježite taj nedostatak u procjeni rizika.
• Je li model negdje ocijenjen kao High ili Critical i što se za nas mijenja? Ograničene sposobnosti mogu značiti dodatnu provjeru, blokirane zahtjeve ili zaseban program pristupa, pa to planirajte prije nego što projekt ovisi o njima.
• Je li pružatelj potpisao EU kodeks prakse za GPAI? Potpisan, djelomično potpisan ili nepotpisan brz je i obranjiv filtar za vašu dokumentaciju o usklađenosti.
• Sami ograničite opseg agenata. Minimalne ovlasti za alate, ljudsko odobrenje prije nepovratnih radnji i zapisi koje možete usporediti s onim što agent prijavljuje. Naši vodiči o sigurnosti agenata i red teamingu pokazuju kako.
• Postupanje s podacima: opcije nultog zadržavanja podataka, obrada u EU i provjerava li detekcija zlouporabe vaše upite.
• Imajte spreman drugi model. Sigurnosne odluke mogu odgoditi ili otkazati objavu u kratkom roku, kao što je pokazala Astra. Ne gradite proces koji radi samo na jednom modelu.

Zaključak

Sigurnosni okviri postali su dio proizvoda. Oni određuju koji Claude, GPT ili Gemini model dobivate, kada i s kojim ograničenjima. Anthropic vodi u neovisnim ocjenama, OpenAI je najtransparentniji o prelasku vlastitih pragova, Google je blizu, a Mistral slabu transparentnost nadoknađuje otvorenošću i kontrolom unutar EU. Nijedan ne zaslužuje više od C+, i zato su vaše vlastite kontrole, zapisi i provjere dobavljača važniji od obećanja bilo kojeg laboratorija.