Das Wichtigste in Kürze
Das Wichtigste in Kürze- 72 Prozent der KI-Agenten sind 2026 laut Technology Radar bereits in Produktion
- Das grösste Risiko ist nicht mehr, aussen vor zu sein, sondern ohne Kontrolle zu starten
- Wer Agenten sicher betreibt, braucht Human-in-the-Loop, ein lückenloses Audit-Log und Prompt-Injection-Schutz
- EU AI Act ab 2. August 2026 und ISO/IEC 42001 machen Governance verbindlich statt optional
Die Technologie steht. Rund 72 Prozent der agentenbasierten KI-Systeme laufen laut Technology Radar (Juli 2026) bereits produktiv, nicht mehr im Testlabor. Das grösste Risiko ist damit nicht mehr, den Anschluss zu verpassen, sondern ohne Kontrolle zu starten, im englischen Wortlaut des Reports 'entering without control'. Der Engpass 2026 heisst nicht Technik, er heisst Governance.
Governance für KI-Agenten bedeutet, dass jede Aktion eines Agenten nachvollziehbar, freigegeben und abgesichert ist. Konkret sind das drei Ebenen, nämlich ein Mensch, der schreibende Aktionen freigibt, ein lückenloses Protokoll jeder einzelnen Schreib-Aktion und ein aktiver Schutz gegen Prompt-Injection. Wer diese drei Ebenen nicht hat, betreibt keinen Agenten, sondern ein Haftungsrisiko mit Zugriff auf Ihre Systeme.
Produktion ja, Kontrolle nein
Die Zahlen zeigen ein klares Muster. Wenn laut Technology Radar (Juli 2026) rund 72 Prozent der Agenten produktiv laufen und Gartner erwartet, dass bis Ende 2026 etwa 40 Prozent der Enterprise-Anwendungen KI-Agenten enthalten, dann ist der Agent selbst keine Innovation mehr, sondern Alltag. Was in dieser Geschwindigkeit fast immer hinterherhinkt, ist die Kontrolle darüber, was diese Agenten in Ihrem Namen tatsächlich tun.
Das ist der Kern der aktuellen Lage. Ein Agent, der nur liest und zusammenfasst, ist harmlos. Sobald er schreibt, also eine Mail verschickt, einen Datensatz anlegt, eine Buchung auslöst oder eine Offerte generiert, wird aus einer Bequemlichkeit eine Verantwortung. Und Verantwortung ohne Nachweis ist im Ernstfall wertlos.
72%
der KI-Agenten in Produktion (Technology Radar, Juli 2026)
40%
der Enterprise-Anwendungen mit KI-Agenten bis Ende 2026 (Gartner)
2. Aug. 2026
EU AI Act, Transparenz- und Governance-Pflichten
ISO 42001
Management-Standard für KI-Governance
Die drei Ebenen, ohne die kein Agent produktiv gehen darf
- 1Human-in-the-Loop bei schreibenden Aktionen. Der Agent bereitet vor, ein Mensch gibt frei. Lesende Aktionen dürfen automatisch laufen, alles, was nach aussen wirkt oder Daten verändert, braucht eine Freigabe.
- 2Ein lückenloses Audit-Log. Jede einzelne Schreib-Aktion wird protokolliert, mit Zeitpunkt, Auslöser und Grundlage. Ohne dieses Protokoll können Sie im Nachhinein nicht belegen, was passiert ist, und genau das verlangt der Grundsatz der Explainable AI.
- 3Schutz vor Prompt-Injection. Externe Inhalte wie E-Mails, Dokumente oder Webseiten sind Daten, keine Befehle. Ein Output-Filter und klare Grenzen verhindern, dass eine präparierte Nachricht den Agenten kapert.
Dazu kommt bei mehreren Kunden auf derselben Plattform eine vierte Bedingung, nämlich Tenant-Isolation. Die Daten und Rechte des einen Mandanten dürfen unter keinen Umständen in den Kontext eines anderen geraten. In einer Multi-Tenant-Architektur ist das keine Kür, sondern die Grundvoraussetzung, überhaupt produktiv gehen zu dürfen.
Was der EU AI Act und ISO 42001 daraus machen
Ab dem 2. August 2026 bringt der EU AI Act verbindliche Transparenz- und Governance-Pflichten für KI-Systeme in Europa. Die zentrale Anforderung heisst Explainable AI, also dass Entscheidungen dokumentiert und prüfbar sein müssen. Übersetzt in den Betrieb bedeutet das, dass Ihr Audit-Log kein technisches Nice-to-have ist, sondern die Grundlage, mit der Sie eine Aufsicht, einen Kunden oder ein Gericht überhaupt bedienen können.
So bauen wir bei ZAVION
Wir haben unsere Agenten-Architektur von Anfang an entlang dieser Anforderungen gebaut, nicht nachträglich abgesichert. Jede schreibende Aktion eines Agenten läuft über ein Freigabe-Gate, an dem ein Mensch bestätigt, bevor etwas Ihr System verlässt. Jede dieser Aktionen landet in einem Protokoll, das nachvollziehbar macht, wer was wann ausgelöst hat. Und jeder Mandant arbeitet strikt in seiner eigenen, isolierten Datenumgebung.
- Kein Trigger und keine Schnittstelle geht ohne Authentifizierung live.
- Schreibende Werkzeuge an einem Sprachmodell nur mit einem Menschen in der Freigabe.
- Jede Schreib-Aktion wird protokolliert, damit sie im Nachhinein prüfbar ist.
- Externe Inhalte gelten als Daten, nie als Anweisung, ein Output-Filter ist Pflicht.
- Personenbezogene Daten werden vor der Verarbeitung minimiert, die Verträge dazu sind geregelt.
“Nicht der Agent, der am schnellsten produktiv war, gewinnt 2026. Sondern der, den Sie im Ernstfall lückenlos erklären können.”
Der Unterschied zwischen einem beeindruckenden Demo-Agenten und einem, der wirklich in Ihre Kernprozesse darf, ist selten die Intelligenz des Modells. Es ist die Frage, ob Sie am Ende belegen können, was er getan hat, und ob Sie ihn an der richtigen Stelle stoppen. Genau diese Kontrolle ist der Engpass, den 2026 die meisten noch vor sich haben.
Fazit von Marcel
Ich sehe gerade sehr viele Unternehmen, die stolz ihren ersten produktiven Agenten zeigen, und fast keines, das mir sein Audit-Log zeigen kann. Genau da liegt das Problem. Ich baue lieber einen Agenten zwei Wochen später, dafür mit Freigabe-Gate und lückenlosem Protokoll, als einen schnellen, der irgendwann etwas verschickt, das niemand nachvollziehen kann. Governance ist für mich kein Bremsklotz, sondern die Bedingung dafür, dass ein Agent überhaupt in Ihre Kernprozesse darf. Wer diese Reihenfolge dreht, spart drei Wochen und riskiert den Betrieb.
Marcel Kaschner · Founder & Managing Director, ZAVION
Häufige Fragen
Was bedeutet Governance bei KI-Agenten konkret?
Governance heisst, dass jede Aktion eines Agenten nachvollziehbar, freigegeben und abgesichert ist. In der Praxis sind das drei Ebenen, nämlich ein Mensch, der schreibende Aktionen freigibt, ein lückenloses Protokoll jeder einzelnen Schreib-Aktion und ein aktiver Schutz gegen Prompt-Injection. Fehlt eine dieser Ebenen, ist ein produktiver Agent kein Effizienzgewinn, sondern ein unkontrolliertes Risiko.
Warum ist Governance 2026 der eigentliche Engpass und nicht die Technik?
Weil die Technik bereits steht. Laut Technology Radar (Juli 2026) laufen rund 72 Prozent der agentenbasierten KI-Systeme produktiv, und Gartner erwartet, dass bis Ende 2026 etwa 40 Prozent der Enterprise-Anwendungen KI-Agenten enthalten. Das grösste Risiko ist damit nicht mehr, aussen vor zu bleiben, sondern ohne Kontrolle zu starten. Skalieren lässt sich nur, was man freigeben, protokollieren und prüfen kann.
Was verlangt der EU AI Act ab dem 2. August 2026?
Ab dem 2. August 2026 gelten in Europa verbindliche Transparenz- und Governance-Pflichten für KI-Systeme. Kern ist die Idee der Explainable AI, wonach Entscheidungen eines Systems dokumentiert und prüfbar sein müssen. Für den Betrieb eines Agenten heisst das, dass Sie im Nachhinein belegen können müssen, wer welche Aktion wann und auf welcher Grundlage ausgelöst hat, und genau dafür braucht es ein Audit-Log.
Welche Rolle spielt ISO/IEC 42001 dabei?
ISO/IEC 42001 ist der Management-Standard für KI-Governance. Er beschreibt, wie ein Unternehmen KI-Systeme steuert, dokumentiert und kontinuierlich überprüft, ähnlich wie ISO 27001 das für Informationssicherheit tut. Der Standard ersetzt keine technischen Schutzmassnahmen, sondern gibt den organisatorischen Rahmen vor, in den Freigabe-Gates, Protokollierung und Tenant-Isolation eingebettet werden.
