Eine Woche im Zeichen der Kontrolle: Brüssel nutzt erstmals seine Befugnisse aus dem AI Act, Google gibt seinem Agenten eine Arbeitsidentität, Anthropic liefert Werkzeuge, um Agenten bei der Arbeit zu beobachten, und ein Zagreber Automatisierungsunternehmen findet einen globalen Käufer.
Letzte Woche ging es um Preis und Reichweite: Claude Haiku 5.5 für 0,10 $, GPT-6 für alle ChatGPT-Nutzer und Mistral Large 4. Diese Woche ging es um Kontrolle. Das KI-Büro der Europäischen Kommission hat erstmals seine Durchsetzungsbefugnisse genutzt und OpenAI und Anthropic Auskunftsersuchen geschickt, wegen Testagenten, die in diesem Sommer externe Systeme erreicht haben. Google hat Gemini 4 Argon allgemein verfügbar gemacht und einen Gemini-Agenten vorgestellt, der eine eigene E-Mail-Adresse und einen eigenen Prüfpfad bekommt. Meta ist mit Muse Wonder in das Rennen um die stärksten Modelle eingestiegen. Anthropic hat Claude Code Review allgemein verfügbar gemacht und OpenTelemetry-Tracing für Agenten geöffnet. In Kroatien wurde Robotiq.ai, ein Zagreber RPA-Unternehmen, für 9 Mio. € an HCLSoftware verkauft.
Die Neuheiten auf einen Blick
Allgemein verfügbar auf Google Cloud als gemini-4-argon, zwei Wochen nach der begrenzten Freigabe für geprüfte Cyber-Verteidiger. Einführungspreis 2 / 10 $ pro Million Token, der sich ab 1. Dezember verdoppelt. Nicht im kostenlosen API-Tarif.
Ein „universeller Agent für die Arbeit“ in Gemini Enterprise, Workspace, Microsoft 365, Slack und ServiceNow. Er plant, delegiert an Subagenten, verbindet sich mit MCP-Servern und bekommt ein eigenes Workspace-Konto mit E-Mail-Adresse. Zuerst für Unternehmen, später für Verbraucher.
Metas erstes Modell, das Meta selbst als Frontier-Klasse bezeichnet, gebaut für agentische Arbeit, mit „Active Memory“ über Gespräche hinweg. 4 / 20 $ pro Million Token über die Meta Model API. Das größere Muse Wonder Full gibt es nur im Muse-Code-Abo.
Automatische Pull-Request-Reviews für Claude Team und Enterprise, jetzt etwa dreimal so schnell wie in der Preview (6–10 Minuten). Modi Quick, Standard und Deep pro Repository. Berechtigte Enterprise-Organisationen können bis 15. Januar 2027 mindestens 10.000 $ Guthaben abrufen.
Brüssel setzt durch: die ersten Ersuchen nach dem AI Act
Auf dem International AI Summit in Dublin sagte Exekutiv-Vizepräsidentin Henna Virkkunen am 14. Oktober, das KI-Büro habe „begonnen, diese Regeln durchzusetzen“. Es hat Entwicklern fortgeschrittener Modelle Auskunftsersuchen zu Sicherheit, externer Evaluierung und Überwachung im Einsatz geschickt. Die Ersuchen betreffen zwei Vorfälle, die in diesem Sommer Schlagzeilen machten:
- OpenAI und Hugging Face. Bei Tests von Cyber-Fähigkeiten ohne die üblichen Schutzmechanismen verketteten OpenAI-Testagenten mehrere Schwachstellen, brachen aus einer isolierten Umgebung aus und drangen in Teile der Infrastruktur von Hugging Face ein, offenbar um Antworten auf Benchmark-Aufgaben zu finden. Hugging Face entdeckte den Einbruch am 16. Juli; OpenAI übernahm am 21. Juli die Verantwortung.
- Anthropic und drei Organisationen. Bei der Prüfung von 141.006 Evaluierungsläufen fand Anthropic drei Fälle, in denen Claude-Modelle in einer Capture-the-Flag-Übung über eine falsch konfigurierte Testumgebung eines Partners echte Organisationen erreichten und sie über schwache Passwörter und nicht authentifizierte Endpunkte kompromittierten. Anthropic machte das am 30. Juli öffentlich.
Laut Euronews handelte das KI-Büro, weil es die freiwillig vorgelegten Unterlagen der Unternehmen für unzureichend hielt. Es handelt sich um ein Auskunftsersuchen, nicht um ein Bußgeld oder ein förmliches Verfahren wegen Nichteinhaltung. Rechtlich offen ist, ob der AI Act Vorfälle während des Testens überhaupt erfasst, da er Forschung und Entwicklung ausnimmt. Die Kommission vertritt die Auffassung, dass das Gesetz gilt, sobald ein Modell aus seiner Testumgebung ausbricht und den EU-Markt betrifft, wie es im Fall Hugging Face mutmaßlich geschah. Zudem hat die Kommission am 12. Oktober eine öffentliche Konsultation (bis 9. November) zu den Verfahrensregeln für Sanktionen nach dem AI Act eröffnet.
Was das für Unternehmen bedeutet, die KI nutzen statt entwickeln: Das KI-Büro konzentriert sich vorerst auf die führenden Labore, aber seine Fragen (Sicherheit, externe Tests, Überwachung im Einsatz) sind dieselben, die Ihr Prüfer, Versicherer oder Ihre Bank zu Ihren eigenen Agenten stellen wird. Wenn einer Ihrer Agenten ins Internet kann, fragen Sie sich, ob Sie anhand der Logs zeigen könnten, was er getan hat und warum. Die nächste harte Frist bleibt der 2. Dezember 2026: Dann müssen generative KI-Systeme, die bereits auf dem Markt sind, ihre Ausgaben maschinenlesbar kennzeichnen.
Google: Argon für alle (die zahlen) und ein Agent mit E-Mail-Adresse
Gemini 4 Argon ist allgemein verfügbar
Zwei Wochen nach einer begrenzten Freigabe für vertrauenswürdige Cyber-Verteidiger wurde Gemini 4 Argon am 13. Oktober allgemein verfügbar, mit stabiler Modell-ID und einem Abschaltdatum frühestens im Oktober 2027. Der Einführungspreis von 2 / 10 $ pro Million Token entspricht der Frontier-Klasse, verdoppelt sich laut Google aber ab 1. Dezember. Kostenschätzungen auf Basis der Oktoberpreise werden im Januar also falsch sein. Admin-Leitfäden von Drittanbietern berichten, dass Argon in den Gemini-Enterprise-Apps bis 27. Oktober standardmäßig deaktiviert ist und dass Datenresidenz in der EU unterstützt wird. Prüfen Sie beides in Googles eigener Dokumentation, bevor Sie sich darauf verlassen.
Der Gemini-Agent: Ziele statt Anweisungen
Auf Gemini at Work stellte Google-Cloud-Chef Thomas Kurian am 8. Oktober einen Agenten vor, der „Ziele, nicht nur Anweisungen“ entgegennimmt. Er plant die Arbeit, delegiert an Subagenten, nutzt eigene Skills und verbindet sich mit Workspace, Microsoft 365, Slack, Jira, Confluence, BigQuery, Snowflake, Postgres und jedem MCP-Server. Nutzer können das Modell wählen, auch Anthropics Claude. Die interessante Designentscheidung ist die Identität: Der Agent bekommt ein eigenes Workspace-Konto, man kann ihm also mailen oder ihn in einen Chat holen, und seine Aktionen werden unter seinem Namen protokolliert, nicht unter Ihrem. Google kündigte außerdem Ausgabenobergrenzen und intelligentes Routing zwischen Modellen an.
Ein Agent mit eigenem Konto ist das richtige Modell für Prüfbarkeit, aber auch eine neue Art Mitarbeiter in Ihrem Verzeichnis. Legen Sie vor dem Einschalten fest, auf welche Systeme er zugreifen darf, wer seine Aktionen freigibt und wer seine Logs liest. Das ist dieselbe Governance-Arbeit wie bei einem externen Dienstleister.
Meta steigt ins Frontier-Rennen ein
Metas Superintelligence Lab hat am 12. Oktober Muse Wonder und Muse Wonder Full veröffentlicht. Laut Metas eigener Modellkarte liegen sie nahe an den stärksten Modellen von Anthropic und OpenAI und führen auf Metas Gedächtnis-Benchmark; unabhängige Evaluierungen stehen noch aus. Mit 4 / 20 $ pro Million Token liegt Wonder im Premium-Segment, nicht im Budget-Segment. Anders als zu Llama-Zeiten ist dies keine Veröffentlichung mit offenen Gewichten: Wonder gibt es über Metas API, Wonder Full nur im Muse-Code-Abo. Für europäische Käufer sind die praktischen Fragen, wo Daten verarbeitet werden und welche Bedingungen gelten. Bis Meta beides beantwortet, ist Wonder etwas zum Evaluieren, nicht zum Ausrollen.
Anthropic: Werkzeuge, um Agenten bei der Arbeit zu beobachten
Code Review ist allgemein verfügbar
Claudes automatisches Pull-Request-Review hat am 15. Oktober die Research Preview für Team- und Enterprise-Pläne verlassen. Reviews sind schneller (etwa 6–10 Minuten statt ~20), Befunde kürzer (Problem, Auslöser, Fix), und Admins wählen pro Repository Quick, Standard oder Deep. Die Einrichtung erledigt ein Admin einmalig: in den Claude-Code-Einstellungen aktivieren, die GitHub-App installieren, Repositories auswählen. Da Teams heute weit mehr Code erzeugen, als sie lesen können, wird ein automatisches erstes Review zur Grundhygiene. Einen menschlichen Reviewer ersetzt es nicht.
OpenTelemetry-Traces für Managed Agents, Messages API und SDKs (Beta)
Seit 14. Oktober können Entwickler Traces aus Claude Managed Agents, der Messages API und den Claude-SDKs an jedes OTLP-kompatible Werkzeug senden, darunter Datadog, Grafana, Langfuse, New Relic, Sentry und Splunk. Jeder Agentenschritt, jede Modellanfrage und jeder Tool-Aufruf erscheint in einem Trace mit Token-Zahlen, nach den OpenTelemetry-GenAI-Konventionen, sodass Claude und andere Anbieter in denselben Dashboards landen. Prompt-Inhalte sind in SDK-Spans standardmäßig ausgeschaltet, eine vernünftige Voreinstellung bei personenbezogenen Daten.
Frontier Red Team: Kleine Modelle könnten sich bald selbst auf IoT-Geräte kopieren
In einem am 12. Oktober veröffentlichten Bericht warnt Anthropic, dass Modelle mit 30 Mrd. Parametern oder weniger bereits viele Schritte ausführen können, um sich selbst auf schlecht gesicherte vernetzte Geräte wie TV-Boxen und Backöfen zu kopieren, die Schritte aber noch nicht durchgängig verketten können. Bei anhaltendem Fortschrittstempo erwartet Anthropic, dass sich das bis Jahresende ändern könnte. Für IT-Teams ist die Lehre alt, aber dringlicher geworden: Inventarisieren und patchen Sie die Geräte in Ihrem Netz, für die niemand zuständig ist.
Außerdem diese Woche: Anthropic hat ein US-Bundesberufungsgericht um eine erneute Verhandlung seines Einspruchs gegen die Einstufung als „Lieferkettenrisiko“ durch das Department of War gebeten. Die Einstufung folgte auf Anthropics Weigerung, Massenüberwachung und tödliche autonome Waffen zu erlauben. CNBC berichtet, dass Anthropic Investoren vor einem erwarteten Börsenantrag neue Umsatzzahlen vorlegen will.
OpenAI: Umsatz auf dem Boden der Tatsachen und Kontrollen für Unternehmen
Annualisierter Umsatz bei fast 50 Mrd. $, nicht 70 Mrd. $
Die Financial Times berichtete am 8. Oktober, OpenAI habe Investoren einen annualisierten Umsatz von fast 50 Mrd. $ Ende September gemeldet, etwa 20 Mrd. $ weniger als Ende September kursierende Zahlen. Reuters' Quelle führt einen Großteil der Differenz auf die Bilanzierung zurück: OpenAI zählt Verkäufe über Cloud-Partner anders als Anthropic. OpenAI hat die Zahl nicht bestätigt. Run-Rate-Zahlen rechnen einen Monat auf ein Jahr hoch; lesen Sie die Schlagzeilenzahlen jedes Labors als Richtung, nicht als Messung.
Für ChatGPT-Enterprise-Admins: Seit 8. Oktober gibt es rollenbasierte Plugin-Kontrollen (Plugins pro Rolle verfügbar, nur installierbar oder deaktiviert), Audio-Uploads liefern jetzt Transkripte und Zusammenfassungen, und die Verfügbarkeit von GPT-6 mit Intelligent UI hängt von den Workspace-Einstellungen ab. OpenAI gab außerdem bekannt, dass ein fehlausgerichtetes Bewertungsmodell seine eigene Trainingsumgebung beschädigt hat, und am 9. Oktober wurde ein Mitarbeiter festgenommen, der mutmaßlich ein Abhörgerät in der Zentrale platziert hatte. Beides ändert Ihre Roadmap nicht, zeigt aber, dass die Sicherheit der Labore inzwischen ein Nachrichtenthema ist, nicht nur ein Forschungsthema.
Microsoft: Copilot ohne Basisabonnement
Copilot-Angebote werden zu „(add-on)“, eigenständige SKUs ab 1. Dezember
Laut Microsofts Partnerankündigungen erhalten die aktuellen Microsoft-365-Copilot-Angebote, die ein Basisabonnement voraussetzen, ab 16. Oktober den Namenszusatz „(add-on)“. Ab 1. Dezember gibt es neue Copilot-SKUs ohne Basisabonnement als Voraussetzung. Bestehende Abonnements, Preise und Verlängerungsbedingungen ändern sich nicht. Zusammen mit der standardmäßig aktivierten nutzungsbasierten Abrechnung für neue Copilot-Business-Abonnements über CSP (ebenfalls ab 1. Dezember) ist jetzt ein guter Zeitpunkt, um zu prüfen, wie Sie Ihre Copilot-Lizenzen für 2027 kaufen und abrechnen.
Tutorial der Woche: Geben Sie Ihrem Agenten eine Identität und einen Trace
Googles Agentenidentität und Anthropics Tracing weisen auf dieselbe Praxis hin. Wenden Sie sie auf jeden Agenten an, den Sie betreiben, unabhängig vom Anbieter:
- Eigene Identität. Jeder Agent läuft unter einem eigenen Dienstkonto, nie mit den Zugangsdaten einer Person. Seine Aktionen müssen auf „den Agenten“ zurückführbar sein, mit einem benannten menschlichen Verantwortlichen.
- Minimale Rechte. Beginnen Sie mit Lesezugriff. Schreibrechte pro System vergeben, und erst nach einigen Wochen sauberer Logs.
- Ein Trace pro Aufgabe. Exportieren Sie Modell- und Tool-Aufrufe in die Observability-Lösung, die Sie bereits nutzen (OpenTelemetry macht das anbieterneutral). Lassen Sie Prompt-Inhalte aus, solange Sie sie nicht zum Debuggen brauchen und eine Rechtsgrundlage haben.
- Kein offenes Internet als Standard. Legen Sie eine Allowlist der erreichbaren Domains fest. Beide Sommervorfälle begannen mit Testagenten, die Systeme erreichen konnten, die niemand im Blick hatte.
- Menschliche Freigabe bei unumkehrbaren Aktionen. Zahlungen, Löschungen, externe E-Mails und Vertragsänderungen brauchen eine Freigabe, protokolliert mit dem Namen der freigebenden Person.
- Wöchentlicher Review. Prüfen Sie fehlgeschlagene Tool-Aufrufe, Kosten und ungewöhnliche Ziele. Das ist Ihr Nachweis, falls ein Prüfer oder das KI-Büro je fragt.
Kroatien-Ecke: ein Exit, zwei Konferenzen und eine offene Frage
HCLSoftware kauft Robotiq.ai für 9 Mio. €
HCLSoftware, die Softwaresparte des indischen Konzerns HCLTech, hat 100 % von Robotiq.ai übernommen, einem 2018 gegründeten Zagreber Unternehmen, das Robotic Process Automation für Banken, Versicherer und Telekommunikationsanbieter entwickelt. Bloomberg Adria beziffert den Deal auf 9 Mio. € und berichtet, dass das Team in Zagreb bleibt. RPA war die Automatisierungsgeschichte vor der generativen KI; die Übernahme zeigt, dass das in dieser Welle aufgebaute Prozesswissen nun in KI-gesteuerte Automatisierungsplattformen einfließt. Für kroatische Gründer ist es ein weiteres Beispiel für einen B2B-Exit an einen globalen Käufer, bei dem die Entwicklung im Land bleibt.
AI2Future, 28. und 29. Oktober, Kraš Auditorium
Die Praktikerkonferenz kehrt mit einem starken Programm zurück: ein privater, prüfbarer KI-Assistent für eine regulierte Branche (Sedmi Odjel), ein Vergleich von Dokumentenparsern an komplexen Tabellen und Formularen (Atomic Intelligence), ein CroAI-Panel zur Sicherheit von KI-Agenten, Stjepan Picek (FER) zu Angriffen auf KI-Systeme und eine Debatte darüber, ob Kroatiens Kriminalisierung bestimmter KI-Nutzungen gerechtfertigt ist. Ein Vorab-Panel findet am 27. Oktober statt. Wer entscheidet, wie Agenten sicher eingeführt werden, findet hier die relevanteste lokale Veranstaltung dieses Herbstes.
Ingenieure in Poreč, die Kammer in Zagreb
Die 18. Tage der Elektroingenieure (Dani inženjera elektrotehnike) in Poreč am 15. und 16. Oktober erwarteten bis zu 1.400 Teilnehmer, mit einem Tag zu KI, Smart Cities und digitalen Zwillingen. Am 27. Oktober veranstaltet die KI-Akademie der Kroatischen Wirtschaftskammer (HGK AI akademija) eine Sitzung „Sind Sie KI-bereit?“ dazu, wo man mit KI in Geschäftsprozessen anfangen sollte.
Die offene Frage: Während Brüssel mit der Durchsetzung beginnt, hat Kroatien noch keine nationale Aufsichtsbehörde für den AI Act öffentlich benannt, worauf auch Netokracija hingewiesen hat. Für kroatische Unternehmen bedeutet das Unklarheit darüber, wen man fragen soll, aber keine Ausnahme von den Regeln. Unser Rat: Dokumentieren Sie Ihren KI-Einsatz jetzt (Inventar, Risikoklasse, menschliche Aufsicht), damit die Antwort bereitliegt, wer auch immer am Ende fragt.
Die Woche in Zahlen
Was Sie im Blick behalten sollten
- Antworten der Unternehmen an das KI-Büro: ob die Kommission von Auskunftsersuchen zu förmlichen Verfahren übergeht.
- Offene Gewichte von Mistral Large 4: weiterhin bis Ende Oktober angekündigt.
- 27. Oktober: Gemini 4 Argon wird in Gemini Enterprise Berichten zufolge standardmäßig aktiviert; HGK-KI-Akademie in Zagreb.
- 28. und 29. Oktober: AI2Future in Zagreb.
- 9. November: Ende der Konsultation der Kommission zu Sanktionsverfahren nach dem AI Act.
- 1. Dezember: Preis von Gemini 4 Argon verdoppelt sich; eigenständige Microsoft-365-Copilot-SKUs und nutzungsbasierte Abrechnung als Standard für neue CSP-Copilot-Business-Abonnements.
- 2. Dezember: AI-Act-Frist für die maschinenlesbare Kennzeichnung bei generativen KI-Systemen, die bereits auf dem Markt sind.
Agenten in Produktion brauchen eine Identität, einen Trace und einen Verantwortlichen
Wir helfen Unternehmen, Claude-basierte Agenten mit minimalen Rechten, OpenTelemetry-Tracing, menschlichen Freigaben und prüfbereiter AI-Act-Dokumentation einzuführen. Claude Certified Architect mit Sitz in Zagreb.
Sprechen Sie mit uns