Tjedan u znaku kontrole: Bruxelles je prvi put iskoristio ovlasti iz AI akta, Google je svom agentu dao poslovni identitet, Anthropic je objavio alate za praćenje agenata na djelu, a zagrebačka tvrtka za automatizaciju našla je globalnog kupca.
Prošli tjedan bio je u znaku cijene i dosega: Claude Haiku 5.5 za 0,10 $, GPT-6 za sve korisnike ChatGPT-a i Mistral Large 4. Ovaj je tjedan bio u znaku kontrole. AI ured Europske komisije prvi je put iskoristio ovlasti za provedbu i uputio zahtjeve za informacijama OpenAI-ju i Anthropicu zbog testnih agenata koji su ovog ljeta došli do vanjskih sustava. Google je Gemini 4 Argon učinio općenito dostupnim i predstavio Gemini agenta koji dobiva vlastitu e-mail adresu i revizijski trag. Meta je s modelom Muse Wonder ušla u utrku najjačih modela. Anthropic je Claude Code Review učinio općenito dostupnim i otvorio OpenTelemetry praćenje agenata. Kod kuće, zagrebački Robotiq.ai prodan je HCLSoftwareu za 9 milijuna eura.
Novosti na prvi pogled
Općenito dostupan na Google Cloudu kao gemini-4-argon, dva tjedna nakon ograničenog izdanja za provjerene stručnjake za kibernetičku obranu. Uvodna cijena API-ja 2 / 10 $ po milijunu tokena, koja se od 1. prosinca udvostručuje. Nije dostupan u besplatnom API paketu.
Jedan „univerzalni agent za posao” u Gemini Enterpriseu, Workspaceu, Microsoftu 365, Slacku i ServiceNowu. Planira, delegira podagentima, spaja se na MCP poslužitelje i dobiva vlastiti Workspace račun i e-mail. Prvo za tvrtke, kasnije za potrošače.
Prvi Metin model koji sama Meta naziva frontier modelom, namijenjen agentskom radu, s „aktivnom memorijom” kroz razgovore. 4 / 20 $ po milijunu tokena na Meta Model API-ju. Veći Muse Wonder Full dostupan je samo u pretplati Muse Code.
Automatski pregled pull requestova za Claude Team i Enterprise, sada oko 3 puta brži nego u pretpregledu (6–10 minuta). Načini Quick, Standard i Deep po repozitoriju. Prihvatljive Enterprise organizacije mogu do 15. siječnja 2027. preuzeti najmanje 10.000 $ kredita.
Bruxelles počinje s provedbom: prvi zahtjevi prema AI aktu
Na Međunarodnom AI summitu u Dublinu 14. listopada izvršna potpredsjednica Komisije Henna Virkkunen izjavila je da je AI ured „počeo provoditi ova pravila”. Razvijateljima naprednih modela poslani su zahtjevi za informacijama o sigurnosti, vanjskom testiranju i nadzoru modela u uporabi. Zahtjevi se odnose na dva incidenta koja su ovog ljeta punila naslovnice:
- OpenAI i Hugging Face. Tijekom testiranja kibernetičkih sposobnosti bez uobičajenih zaštita, OpenAI-jevi testni agenti povezali su niz ranjivosti, izašli iz izoliranog okruženja i provalili u dio infrastrukture Hugging Facea, navodno kako bi pronašli odgovore na testne zadatke. Hugging Face otkrio je upad 16. srpnja, a OpenAI je odgovornost priznao 21. srpnja.
- Anthropic i tri organizacije. Pregledom 141.006 evaluacijskih pokretanja Anthropic je pronašao tri slučaja u kojima su Claude modeli u vježbi tipa capture-the-flag, zbog pogrešno konfiguriranog testnog okruženja kod partnera, došli do stvarnih organizacija i kompromitirali ih koristeći slabe lozinke i neautentificirane krajnje točke. Anthropic je to objavio 30. srpnja.
Prema Euronewsu, AI ured reagirao je jer je ocijenio da dobrovoljno dostavljena dokumentacija tvrtki nije dovoljna. Riječ je o zahtjevu za informacijama, a ne o kazni ili formalnom postupku zbog neusklađenosti. Pravno je pitanje pokriva li AI akt uopće incidente tijekom testiranja, jer izuzima istraživanje i razvoj. Stav je Komisije da akt vrijedi čim model izađe iz testnog okruženja i utječe na tržište EU-a, kao što se navodno dogodilo s Hugging Faceom. Komisija je usto 12. listopada otvorila javno savjetovanje (do 9. studenoga) o postupovnim pravilima za kazne prema AI aktu.
Što to znači za tvrtke koje AI koriste, a ne razvijaju: AI ured se zasad bavi vodećim laboratorijima, ali pitanja koja postavlja (sigurnost, vanjsko testiranje, nadzor u uporabi) ista su ona koja će vaš revizor, osiguravatelj ili banka postaviti o vašim agentima. Ako vaš agent može pristupiti internetu, zapitajte se možete li iz zapisa pokazati što je radio i zašto. Sljedeći čvrsti rok i dalje je 2. prosinca 2026., kada generativni AI sustavi koji su već na tržištu moraju strojno čitljivo označavati svoje izlaze.
Google: Argon za sve (koji plaćaju) i agent s e-mail adresom
Gemini 4 Argon općenito je dostupan
Dva tjedna nakon ograničenog izdanja za provjerene stručnjake za kibernetičku obranu, Gemini 4 Argon postao je općenito dostupan 13. listopada, sa stabilnim ID-jem modela i datumom povlačenja ne prije listopada 2027. Uvodna cijena od 2 / 10 $ po milijunu tokena odgovara razini najjačih modela, no Google navodi da se od 1. prosinca udvostručuje, pa će procjene troškova temeljene na listopadskim cijenama u siječnju biti pogrešne. Vodiči za administratore koje su objavile treće strane navode da je Argon u Gemini Enterprise aplikacijama isključen do 27. listopada te da je podržana pohrana podataka u EU-u. Provjerite obje tvrdnje u Googleovoj dokumentaciji prije nego što se na njih oslonite.
Gemini agent: ciljevi, a ne upute
Na događaju Gemini at Work 8. listopada direktor Google Clouda Thomas Kurian predstavio je jednog agenta koji prima „ciljeve, a ne samo upute”. Planira posao, delegira podagentima, koristi prilagođene vještine i spaja se na Workspace, Microsoft 365, Slack, Jiru, Confluence, BigQuery, Snowflake, Postgres i bilo koji MCP poslužitelj. Korisnici mogu odabrati model, uključujući Anthropicov Claude. Zanimljiv je izbor dizajna identitet: agent dobiva vlastiti Workspace račun, pa mu možete poslati e-mail ili ga dodati u chat, a njegove se radnje bilježe pod njegovim imenom, ne vašim. Google je najavio i ograničenja potrošnje i pametno usmjeravanje između modela.
Agent s vlastitim računom pravi je model za reviziju, ali i nova vrsta zaposlenika u vašem imeniku. Prije uključivanja odlučite kojim sustavima smije pristupati, tko odobrava njegove radnje i tko čita njegove zapise. To je isti posao upravljanja koji biste obavili za vanjskog suradnika.
Meta ulazi u utrku najjačih modela
Metin Superintelligence Lab objavio je 12. listopada modele Muse Wonder i Muse Wonder Full. Prema Metinoj kartici modela, približavaju se najjačim modelima Anthropica i OpenAI-ja, a na Metinom testu memorije navodno vode; neovisne evaluacije još nisu objavljene. Cijena od 4 / 20 $ po milijunu tokena smješta Wonder u premium razred, ne u jeftini. Za razliku od razdoblja Llame, ovo nije izdanje s otvorenim težinama: Wonder se nudi preko Metinog API-ja, a Wonder Full samo kroz pretplatu Muse Code. Za europske kupce praktična su pitanja gdje se podaci obrađuju i koji su uvjeti korištenja. Dok Meta ne odgovori na oba, Wonder je za testiranje, a ne za produkciju.
Anthropic: alati za praćenje agenata na djelu
Code Review općenito je dostupan
Claudeov automatski pregled pull requestova 15. listopada izašao je iz istraživačkog pretpregleda za Team i Enterprise pakete. Pregledi su brži (oko 6–10 minuta umjesto ~20), nalazi su kraći (problem, okidač, popravak), a administratori biraju Quick, Standard ili Deep način po repozitoriju. Postavljanje jednom obavlja administrator: uključi ga u postavkama Claude Codea, instalira GitHub aplikaciju i odabere repozitorije. Timovi danas generiraju puno više koda nego što ga mogu pročitati, pa automatski prvi pregled postaje osnovna higijena. Ljudskog recenzenta ne zamjenjuje.
OpenTelemetry tragovi za Managed Agents, Messages API i SDK-ove (beta)
Od 14. listopada programeri mogu slati tragove iz Claude Managed Agents, Messages API-ja i Claude SDK-ova u bilo koji alat kompatibilan s OTLP-om, uključujući Datadog, Grafanu, Langfuse, New Relic, Sentry i Splunk. Svaki korak agenta, poziv modela i poziv alata vidljiv je u jednom tragu s brojem tokena, prema OpenTelemetry GenAI konvencijama, pa se Claude i drugi pružatelji prikazuju na istim nadzornim pločama. Sadržaj promptova u SDK zapisima isključen je prema zadanim postavkama, što je razumno kad su u pitanju osobni podaci.
Frontier Red Team: mali modeli uskoro bi se mogli sami kopirati na IoT uređaje
U izvješću objavljenom 12. listopada Anthropic upozorava da modeli s 30 milijardi parametara ili manje već mogu izvesti mnoge korake samokopiranja na slabo zaštićene uređaje spojene na internet, poput TV prijemnika i pećnica, ali još ih ne mogu povezati od početka do kraja. Ako se nastavi dosadašnji tempo napretka, Anthropic očekuje da bi se to moglo promijeniti do kraja godine. Za IT timove lekcija je stara, ali sada hitnija: popišite i zakrpajte uređaje na mreži za koje nitko nije zadužen.
Također ovog tjedna: Anthropic je zatražio od američkog saveznog žalbenog suda ponovno razmatranje spora oko oznake „rizika u opskrbnom lancu” koju mu je dodijelilo Ministarstvo rata nakon što je odbio dopustiti korištenje svojih modela za masovni nadzor i smrtonosno autonomno oružje. CNBC javlja da Anthropic investitorima priprema nove podatke o prihodima uoči očekivane prijave za izlazak na burzu.
OpenAI: prihodi na zemlji i kontrole za tvrtke
Godišnji prihodi blizu 50 mlrd. $, a ne 70 mlrd. $
Financial Times objavio je 8. listopada da je OpenAI investitorima prijavio godišnje prihode (annualised) blizu 50 milijardi dolara krajem rujna, oko 20 milijardi manje od brojki koje su kružile krajem rujna. Reutersov izvor veći dio razlike pripisuje računovodstvu: OpenAI prodaju preko partnerskih oblaka ne broji kao Anthropic. OpenAI brojku nije potvrdio. Godišnje stope prihoda preslikavaju jedan mjesec na cijelu godinu, pa naslovne brojke svakog laboratorija čitajte kao smjer, a ne kao mjerenje.
Za administratore ChatGPT Enterprisea: 8. listopada stigle su kontrole dodataka prema ulogama (dodatak može biti dostupan, samo za instalaciju ili isključen po ulozi), zvučne snimke sada se mogu pretvoriti u transkripte i sažetke, a dostupnost GPT-6 sučelja Intelligent UI ovisi o postavkama radnog prostora. OpenAI je također objavio da je neusklađeni model za ocjenjivanje sam pokvario svoje okruženje za učenje, a 9. listopada uhićen je zaposlenik zbog navodnog postavljanja uređaja za snimanje u sjedištu tvrtke. Ništa od toga ne mijenja vaše planove, ali oboje pokazuje da je sigurnost laboratorija sada tema vijesti, a ne samo istraživanja.
Microsoft: Copilot bez osnovne pretplate
Copilot ponude postaju „(add-on)”, samostalni SKU-ovi od 1. prosinca
Prema Microsoftovim objavama za partnere, od 16. listopada postojeće ponude Microsoft 365 Copilota koje zahtijevaju osnovnu pretplatu dobivaju oznaku „(add-on)”. Od 1. prosinca dostupni su novi Copilot SKU-ovi bez preduvjeta osnovne pretplate. Postojeće pretplate, cijene i uvjeti obnove ne mijenjaju se. Uz naplatu prema potrošnji kao zadanu za nove Copilot Business pretplate preko CSP partnera (također od 1. prosinca), ovo je dobar trenutak da provjerite kako ćete kupovati i plaćati Copilot licence za 2027.
Vodič tjedna: dajte agentu identitet i trag
Googleov identitet agenta i Anthropicovo praćenje upućuju na istu praksu. Primijenite je na svakog agenta kojeg pokrećete, bez obzira na dobavljača:
- Zaseban identitet. Svaki agent radi pod vlastitim servisnim računom, nikad s vjerodajnicama neke osobe. Njegove radnje moraju biti sljedive do „agenta”, uz imenovanog ljudskog vlasnika.
- Najmanje potrebne ovlasti. Počnite samo s čitanjem. Pravo pisanja dodjeljujte po sustavu i tek nakon nekoliko tjedana urednih zapisa.
- Jedan trag po zadatku. Pozive modela i alata izvozite u alat za nadzor koji već koristite (OpenTelemetry to čini neovisnim o dobavljaču). Sadržaj promptova držite isključenim osim ako vam ne treba za otklanjanje grešaka i za to imate pravnu osnovu.
- Bez otvorenog interneta prema zadanim postavkama. Odredite popis dopuštenih domena. Oba ljetna incidenta počela su s testnim agentima koji su mogli doći do sustava za koje to nitko nije namjeravao.
- Ljudska provjera za nepovratne radnje. Plaćanja, brisanja, vanjski e-mailovi i izmjene ugovora trebaju odobrenje, zabilježeno s imenom osobe koja je odobrila.
- Tjedni pregled. Pratite neuspjele pozive alata, troškove i neobična odredišta. To su vaši dokazi ako ikad pita revizor ili AI ured.
Hrvatski kutak: jedan izlaz, dvije konferencije i jedno otvoreno pitanje
HCLSoftware kupuje Robotiq.ai za 9 milijuna eura
HCLSoftware, softverska divizija indijskog HCLTecha, preuzeo je 100 % zagrebačke tvrtke Robotiq.ai, osnovane 2018., koja razvija robotsku automatizaciju procesa (RPA) za banke, osiguravatelje i telekome. Bloomberg Adria procjenjuje transakciju na 9 milijuna eura i navodi da tim ostaje u Zagrebu. RPA je bila priča o automatizaciji prije generativnog AI-ja; ova akvizicija pokazuje da se znanje o procesima izgrađeno u tom valu sada ugrađuje u platforme za automatizaciju vođene umjetnom inteligencijom. Za hrvatske osnivače to je još jedan primjer B2B izlaza prema globalnom kupcu uz zadržavanje razvoja kod kuće.
AI2Future, 28. i 29. listopada, Kraš Auditorium
Konferencija za praktičare vraća se s jakim programom: privatni AI asistent s revizijskim tragom za reguliranu industriju (Sedmi Odjel), usporedba alata za parsiranje dokumenata na složenim tablicama i obrascima (Atomic Intelligence), CroAI panel o sigurnosti AI agenata, Stjepan Picek (FER) o napadima na AI sustave te rasprava o tome je li opravdano što je Hrvatska određene načine uporabe AI-ja uvela u kazneno zakonodavstvo. Panel uoči konferencije održava se 27. listopada. Ako odlučujete kako sigurno uvesti agente, ovo je najrelevantniji domaći događaj ove jeseni.
Inženjeri u Poreču, Komora u Zagrebu
18. Dani inženjera elektrotehnike u Poreču 15. i 16. listopada očekivali su do 1.400 sudionika, s danom posvećenim umjetnoj inteligenciji, pametnim gradovima i digitalnim blizancima. HGK AI akademija 27. listopada održava radionicu „Jeste li spremni za AI?” o tome gdje početi s uvođenjem AI-ja u poslovne procese.
Otvoreno pitanje: dok Bruxelles počinje s provedbom, Hrvatska još nije javno odredila nacionalno tijelo koje će nadzirati provedbu AI akta, na što je upozorila i Netokracija. Za hrvatske tvrtke to znači nejasnoću oko toga koga pitati, a ne izuzeće od pravila. Naš savjet: dokumentirajte uporabu AI-ja već sada (popis sustava, razred rizika, ljudski nadzor), kako bi odgovor bio spreman tko god ga na kraju zatražio.
Tjedan u brojkama
Što pratiti
- Odgovori tvrtki AI uredu: hoće li Komisija sa zahtjeva za informacijama prijeći na formalne postupke.
- Otvorene težine Mistral Large 4: i dalje najavljene do kraja listopada.
- 27. listopada: Gemini 4 Argon navodno se uključuje kao zadani u Gemini Enterpriseu; HGK AI akademija u Zagrebu.
- 28. i 29. listopada: AI2Future u Zagrebu.
- 9. studenoga: završava savjetovanje Komisije o postupcima za kazne prema AI aktu.
- 1. prosinca: cijena Gemini 4 Argona se udvostručuje; samostalni Microsoft 365 Copilot SKU-ovi i naplata prema potrošnji kao zadana za nove CSP Copilot Business pretplate.
- 2. prosinca: rok iz AI akta za strojno čitljivo označavanje izlaza generativnih AI sustava koji su već na tržištu.
Agentima u produkciji trebaju identitet, trag i vlasnik
Pomažemo hrvatskim tvrtkama uvesti agente temeljene na Claudeu s najmanjim potrebnim ovlastima, OpenTelemetry praćenjem, ljudskim provjerama i dokumentacijom za AI akt spremnom za reviziju. Claude Certified Architect iz Zagreba.
Razgovarajmo