Tjedan u kojem su dva najveća rizika umjetne inteligencije prešla iz teorije na naslovnice. OpenAI je pokazao model koji softverske propuste pretvara u funkcionalne exploite za oko 1.279 dolara po komadu, a američki birači potjerali su ulagače iz vala podatkovnih centara. Tvrtkama koje AI koriste, a ne razvijaju, koristan je odgovor u oba slučaja isti: brže krpati sustave i manje ovisiti o onome što ne možete zamijeniti.
Prošli je tjedan bio u znaku cijena i dokumenata, a ovaj u znaku sigurnosti i povjerenja. OpenAI je objavio GPT-6 Cyber, s ocjenom Critical prema vlastitom okviru rizika. Anthropic je sigurnosnim timovima dao novi kontrolni centar za Claude Enterprise, Mistral je proširio Studio za tvrtke koje agente žele na vlastitoj infrastrukturi, a Meta je kupila Conductor, čijim korisnicima oblaka ostaju dva tjedna da se presele. Zatim je četvrtak nakon američkih međuizbora izbrisao bilijune dolara s dionica povezanih s AI-jem. Kod kuće se u HAZU-u održao hrvatski simpozij o umjetnoj inteligenciji, Zagreb Connect otvorio je startup natjecanje za cijelu zemlju, a novi podaci pokazuju da su hrvatski startupovi već višestruko prestigli prošlogodišnji iznos ulaganja.
Novosti na prvi pogled
Sigurnosni model treniran da pronalazi i potvrđuje iskoristive propuste, a da pritom ostane unutar odobrenog opsega. Ograničen pristup preko API-ja i Codexa za odobrene korisnike Daybreak Reda, uz širenje unutar te razine u idućim tjednima.
Sigurnosni centar, općedostupni inference hooks, jedna administratorska konzola za više organizacija i nove kontrole pristupa, uključujući blokiranje osobnih Claude računa u Claude Desktopu na upravljanim računalima.
Upravljani agenti i aplikacije te nove mogućnosti za tijekove rada, poslovni kontekst, nadzor i evaluacije. Može raditi u oblaku, u vašem VPC-u ili na vlastitim poslužiteljima, uz model Mistral Large 4.
Brže generiranje slika, izrada GIF-ova, preciznije uređivanje i nove API kontrole u ChatGPT-ju, Codexu i API-ju.
Funkcionalan exploit za 1.279 dolara
Najvažniji broj tjedna dolazi iz istraživačkog članka koji je OpenAI objavio dan prije modela. U pokretanju sredinom listopada na standardnom Linux desktop sustavu njegov je cjevovod reproducirao 1.724 ranjivosti jezgre i izradio 948 funkcionalnih exploita za lokalno podizanje ovlasti uz 1.213.430 dolara API kredita, odnosno oko 1.279 dolara po exploitu. OpenAI navodi da su rezultate pregledali ljudski istraživači i da ih prijavljuje uz prijedloge popravaka, počevši od kritičnih.
Iza tog posla stoji GPT-6 Cyber. OpenAI navodi 48,5% na vlastitom testu ExploitGym, u odnosu na 32,1% za GPT-5.6 Cyber, te 81 dosad nepoznatu Firefoxovu ranjivost visoke ozbiljnosti; Mozilla je za mnoge već objavila popravke. Model je svrstan u razinu Critical, najvišu za kibernetičku sigurnost u okviru Preparedness Framework.
Važna su dva ograničenja. Većina ovih brojki potječe od same tvrtke, a vanjski laboratorij Irregular, naveden u sistemskoj kartici, ocijenio je model uglavnom usporedivim s GPT-6 Astrom, osim na dugim višekoračnim zadacima, piše SiliconANGLE. Nijedan od dvaju modela nije probio potpuno ojačane ciljeve u OpenAI-jevu testu. OpenAI navodi i da je model ostao u opsegu u 99,93% testova bez sigurnosnih uputa, u odnosu na 94,49% kod prethodnika, no The Register piše da tvrtka nije htjela objasniti što se dogodilo u preostalih 0,07%.
Što to znači za običnu tvrtku: zaključak samog OpenAI-ja je izravan: račun s niskim ovlastima na nekrpanom sustavu treba smatrati gotovo jednakim root pristupu za napadača s dovoljno resursa. Za to vam ovaj model ne treba. Skratite ciklus ažuriranja preglednika i operacijskih sustava, uklonite lokalne račune koje nitko ne koristi, odvojite agente i procese izgradnje softvera u izolirana okruženja te pitajte svoje dobavljače softvera kako će se nositi s mnogo većim brojem sigurnosnih popravaka.
Kontrole za agente koji već rade
Claude Enterprise: pregled postavki, provjera poziva, blokada privatnih računa
Anthropicova nadogradnja odgovara na pitanje koje sigurnosni timovi stalno postavljaju. Sigurnosni centar uspoređuje postavke chata, Coworka i Claude Codea s Anthropicovom preporučenom konfiguracijom i izvozi izvještaj za revizore; Anthropic jasno kaže da je to smjernica, a ne certifikat. Inference hooks sada su općedostupni: prompt hooks i pre-tool-call hooks šalju upite i predložene pozive alata vašim postojećim sigurnosnim alatima na provjeru. Nadređena konzola na admin.claude.com upravlja jedinstvenom prijavom, sinkronizacijom imenika i grupama u više organizacija. Valja zapamtiti jedno ograničenje: novi poziv za odjavu prekida sesije člana, ali ne i API ključeve, pokrenute sesije u oblaku ni zakazane rutine, pa popis koraka pri odlasku zaposlenika i dalje mora uključivati te stavke.
Mistral Studio pokreće Large 4 na vašoj infrastrukturi
Tjedan dana nakon objave težina modela Large 4, Mistral je Studiju dodao upravljane agente i aplikacije te nove alate za tijekove rada, poslovni kontekst, nadzor i evaluacije. Radi u Mistralovu oblaku, u vašem VPC-u, na vlastitim poslužiteljima ili u kombinaciji. Mistral među korisnicima Studija navodi ABANCA-u, BNP Paribas, CMA CGM, Accenture i Capgemini. Za regulirane europske tvrtke otvoreno pitanje sada je manje model, a više imate li tim koji može voditi takvu platformu.
Meta kupuje Conductor, a njegov se oblak zatvara 20. studenoga
Meta je TechCrunchu potvrdila da je kupila Conductor, alat koji pokreće više agenata za programiranje u usporednim radnim prostorima. Uvjeti nisu objavljeni. Usluga u oblaku gasi se 20. studenoga, nakon čega počinje brisanje korisničkih podataka u oblaku; ostale ključne funkcije rade do početka iduće godine. Istog je tjedna OpenAI dogovorio kupnju Pierrea, čije biblioteke već pokreću pregled datoteka i razlika u Codexu. Sloj oko modela brzo se ukrupnjava, a rok od dva tjedna dobar je razlog da provjerite kako biste napustili svaki alat o kojem ovisite.
Dan kad se AI trgovina slomila
Na izborima 3. studenoga o podatkovnim centrima glasalo se u 41 američkoj lokalnoj zajednici u deset saveznih država, a industrija je pobijedila samo jednom, piše Bug.hr. Demokrati su osvojili i Kongres te, iznenađujuće, mjesto guvernera Teksasa, najvećeg američkog tržišta podatkovnih centara. Ulagači su reagirali u četvrtak. Nasdaq Composite pao je 5,52% i ušao u korekciju, S&P 500 izgubio je 4,36%, Nvidia oko 9%, Broadcom 10%, a glavni poluvodički ETF više od 12%, što mu je najgori dan od ožujka 2020. NBC procjenjuje gubitak Nasdaqa 100 na 2,3 bilijuna dolara. Južnokorejski Kospi pao je gotovo 9% na petkovu otvaranju, a trgovanje je bilo obustavljeno 20 minuta. OpenAI je isti dan objavio National Community Compact, u kojem obećava da će plaćati energiju za svoje lokacije i da neće koristiti ugovore o tajnosti s javnim dužnosnicima, uz uske iznimke.
Anthropic u takvoj atmosferi pokušava izaći na burzu. Izmijenjeni S-1 predan 2. studenoga navodno pokazuje prihod od gotovo 17 milijardi dolara u trećem tromjesečju, operativni gubitak od 567 milijuna dolara u tromjesečju i oko 895,4 milijarde dolara ugovorenih kupnji i najmova na dan 30. rujna i nakon njega. Raspon cijena i dalje je prazan. Bloomberg piše da bi roadshow mogao početi već idućeg tjedna, a izlazak na burzu prije Dana zahvalnosti; ništa od toga nije potvrđeno. Sam dokument nismo mogli pročitati, pa ove brojke uzmite kao medijske navode.
Ostalo
- Zajednički signal u robots.txt: Anthropic, OpenAI, Google i Microsoft podržavaju jedinstvenu oznaku kojom web-mjesto traži da se njegov sadržaj ne koristi za treniranje. Prema izvještajima, Anthropic ju je već uveo, OpenAI će to učiniti u idućim mjesecima, a Google i Microsoft iduće godine. To je dobrovoljan zahtjev, a ne blokada, i ne odnosi se na već prikupljene podatke.
- Claude Platform: message threads, u javnoj beta verziji, omogućuju agentima da u svakom koraku šalju samo novi sadržaj. Anthropic navodi oko 35% kraće medijalno vrijeme do prvog tokena za zahtjeve od 500 tisuća do milijun tokena. Potrošnja tokena ostaje ista.
- Dokaziva inferencija: Anthropic je objavio istraživanje o FlashProveu, kriptografskom dokazu da odgovor dolazi od određenog modela. Rad je u ranoj fazi, ali rješava stvaran problem svih koji kupuju preko preprodavača ili usmjerivača.
- Limiti ChatGPT-ja i Codexa: prema izvještajima koji se pozivaju na OpenAI-jev centar za pomoć, paketi Plus, Pro i Business od prosinca će dijeliti jedan zajednički fond potrošnje, mjeren u tokenima. Provjerite to ako se vaši programeri oslanjaju na Codex.
- Microsoft je programerima otvorio mehanizam iza svojih Copilot proizvoda, kao pretpregled u Foundryju, s više od 20 modela na izbor.
- Gartner navodno predviđa da će otvoreni modeli do 2030. izvršavati 90% operativnih koraka u poslovnim tijekovima agenata. Dio izvještaja napominje da bi ušteda po zadatku mogla biti znatno manja od naslovne. Izvorni izvještaj nismo vidjeli.
- Google: Gemovi 17. studenoga postaju samo za čitanje jer ih u aplikaciji Gemini zamjenjuju skills, pa pregledajte koje Gemove koriste vaši timovi.
Vodič tjedna: postavite provjeru ispred poziva alata
Pouka testova opsega GPT-6 Cybera i novih Claudeovih hookova ista je: nemojte se oslanjati samo na dobro ponašanje modela. Provjerite svaku radnju prije izvršenja. Prvu verziju možete postaviti u jednom danu, kod bilo kojeg dobavljača.
- Popišite sve alate koje vaš agent može pozvati i svakog označite kao čitanje, pisanje, nepovratno ili vanjsko (sve što izlazi iz tvrtke).
- Zadano zabranite. Dopustite alate za čitanje, dopustite određene alate za pisanje na određenim resursima, a sve ostalo blokirajte.
- Provjeru stavite prije izvršenja, ne poslije. Koristite pre-tool-call hookove u Claude Enterpriseu, PreToolUse hookove u Claude Codeu ili mali omotač oko vlastitih alata.
- Nepovratne radnje šaljite čovjeku: plaćanja, brisanja, poruke klijentima i promjene u produkciji.
- Bilježite svaki poziv i svaku odluku s korisnikom, agentom, argumentima i vremenom. To je ujedno i zapis koji će vam trebati za AI Act.
- Koristite kratkotrajne i uske vjerodajnice. Provjera manje pomaže ako agent drži ključ koji otvara sve.
- Testirajte kao napadač. Stavite zlonamjernu uputu u dokument koji agent čita i potvrdite da provjera zaustavlja radnju koja iz nje proizlazi.
Hrvatski kutak: znanost u HAZU-u, startupovi u ZICER-u
160 milijuna eura u devet mjeseci, a većina iz jedne runde
Novi izvještaj BADideas.funda broji 160 milijuna eura u 33 runde za hrvatske startupove u prvih devet mjeseci 2026., u odnosu na 24 milijuna eura u 21 rundi godinu ranije. Čitajte to pažljivo: Fonoina runda rasta od 100 milijuna eura čini 63% ukupnog iznosa, a broj seed i kasnijih rundi nepromijenjen je na 11. Jedini dosadašnji izlaz tvrtke s rizičnim kapitalom vezan je uz HCLSoftware, koji je u rujnu objavio da planira kupiti Robotiq.ai.
Zagreb Connect otvara natjecanje za cijelu Hrvatsku
Zagreb Connect održava se u ZICER-u 26. studenoga. Novi Open Startup Pitch ove je godine otvoren startupovima iz cijele zemlje: tri minute na engleskom pred ulagačima, poslovnim anđelima i VC fondovima. Prijave su otvorene.
Četvrti hrvatski simpozij o UI-ju i hrvatski potpredsjednik u Vijeću Europe
4. hrvatski simpozij o umjetnoj inteligenciji održan je u Zagrebu 3. studenoga, u organizaciji s HAZU-om. Otvorio ga je Goran Glavaš sa Sveučilišta u Würzburgu predavanjem o inkluzivnoj jezičnoj umjetnoj inteligenciji, a slijedile su sekcije o kibernetičkoj sigurnosti i robotici. Odvojeno, Juraj Bilić iz CARNET-a jednoglasno je izabran za potpredsjednika Odbora Vijeća Europe za umjetnu inteligenciju i obrazovanje, koji podupire daljnji rad na pravnom instrumentu za primjenu UI-ja u obrazovanju.
Motiq, Lyzor Tx i kako AI citira hrvatske tvrtke
Zagrebački Motiq jedan je od pet pobjednika izazova u Spark fazi europskog natjecanja AI-BOOST i osvojio je 28.500 eura za pretvaranje govornih ili pisanih uputa u zadatke za poljoprivredne robote, piše Netokracija. Lyzor Tx, iz ZICER-ova Startup Factoryja, želi skratiti početni odabir bakteriofaga s oko dva tjedna na dva dana. RankRush je tijekom 90 dana analizirao 157.000 izvora citiranih u 14.319 AI odgovora o hrvatskim tvrtkama; poruka marketinškim timovima je da dobra pozicija na Googleu više ne jamči mjesto u odgovoru.
Nacionalni plan za UI: posljednji dani za komentare
Tridesetodnevno savjetovanje o Nacionalnom planu za razvoj umjetne inteligencije (932,1 milijun eura do 2032.) počelo je nakon predstavljanja plana 16. listopada, pa bi trebalo završiti oko sredine studenoga. Točan datum provjerite na e-Savjetovanjima. Ako radite s podacima na hrvatskom jeziku, računalnim kapacitetima ili AI edukacijom, komentirajte sada.
Tjedan u brojkama
Što pratiti
- 9. studenoga: završava prikupljanje komentara na nacrt pravila EU-a za postupke AI ureda protiv pružatelja modela opće namjene.
- Idući tjedan, prema izvještajima: Anthropicov raspon cijena i roadshow.
- 12. studenoga: stupaju na snagu Anthropicova nova pravila korištenja.
- 17. studenoga: Gemovi postaju samo za čitanje; Nvidia objavljuje rezultate, prvi veliki test nakon ovotjednog pada.
- 20. studenoga: gasi se Conductorov oblak. Izvezite svoj rad prije toga.
- 26. studenoga: Zagreb Connect u ZICER-u.
- 2. prosinca: rok AI Acta za strojno čitljivo označavanje u generativnim sustavima koji su već na tržištu, a u prosincu stupa na snagu i nova zabrana iz Omnibusa.
Glavni izvori: OpenAI o Linuxu, OpenAI o GPT-6 Cyberu, The Register, Anthropic, Mistral, TechCrunch, CNBC, FinanceFeeds, Bug.hr, ZICER, HRUI 2026.
Neka vaši agenti rade, a da im ne predate sve ključeve
Pomažemo hrvatskim tvrtkama da utvrde što njihovi agenti mogu dotaknuti, postave provjere ispred rizičnih radnji i vode zapise i dokumentaciju koje traži AI Act. Claude Certified Architect, iz Zagreba.
Razgovarajmo