Die Agenten-Kontrollebene: Verwaltung von KI-Agenten im großen Maßstab

Jahrzehntelang wurde traditionelle Software um vordefinierte Workflows herum entwickelt. Agentic AI verkompliziert dieses Modell durch die Einführung von Autonomie.

Innerhalb von berechtigten Unternehmenssystemen verhält sich ein KI-Agent wie ein Akteur mit delegierter Autorität. Er kann kontrollierte Daten lesen, SQL generieren, einen Workflow aktualisieren, ein System of Record ändern oder eine Aktion in einer anderen Anwendung auslösen. Infolgedessen muss das Unternehmen nicht nur steuern, was eine Anwendung tun kann, sondern auch die vielen Wege, die ein Agent über Daten, Tools und Geschäftsprozesse hinweg nehmen kann.

Wenn diese Kontrollen über Prompts, Anwendungseinstellungen, Dienstkonten und individuelle Integrationen verstreut sind, hat das Unternehmen keine konsistente Möglichkeit, sie einzusehen oder durchzusetzen.

Dies ist die Rolle der Agenten-Kontrollebene: eine Koordinations- und Governance-Schicht für Agenten-Systeme. Snowflake-CEO Sridhar Ramaswamy nannte die Agenten-Kontrollebene „die fehlende Schicht“ für das Unternehmen, eine, die „Intelligenz in autorisierte Unternehmensaktionen übersetzen“ kann.

Eine Agenten-Kontrollebene ist die zentralisierte Schicht, die KI-Agenten im gesamten Unternehmen bereitstellt, betreibt, überwacht und steuert. Sie bietet eine gemeinsame Möglichkeit, die Identität von Agenten zu verwalten, Laufzeitrichtlinien durchzusetzen, das Verhalten zu beobachten, Versionen zu registrieren, kontrollierten Kontext bereitzustellen und den Zugriff auf Tools zu steuern.

Ohne eine gemeinsame Governance-Schicht neigen Agenten dazu, die Grenzen der Umgebung zu erben, in der sie erstellt wurden. Jeder kann seine eigenen Protokolle, Zugriffsmodelle, Evaluierungsmethoden und Tool-Berechtigungen haben. Mit zunehmender Akzeptanz verfügt das Unternehmen am Ende über viele Agenten-Laufzeiten und keine konsistente Möglichkeit zu sehen, welche Agenten existieren, auf welche Daten sie zugegriffen haben, welche Aktionen sie versucht haben oder welche Richtlinien diese Aktionen gesteuert haben.

Eine Agenten-Kontrollebene bietet Unternehmen eine Möglichkeit, diese Agenten als verbundene Betriebsschicht zu steuern: Identität, Richtlinien, Kontext, Tool-Zugriff, Ausführung und Überprüfbarkeit über den gesamten Agentenbestand hinweg abzustimmen.

Ramaswamy erklärt die Bedeutung der Agenten-Kontrollebene so: „Um Agenten-Technologie effektiv zu nutzen, benötigen Unternehmen mehr als nur Modelle und Anwendungen. Sie benötigen eine koordinierende Schicht, eine zentrale Kontrollebene, die Intelligenz, Unternehmensdaten, Richtlinien und Ausführung im gesamten Unternehmen aufeinander abstimmt, um agentenbasierte Kohäsion voranzutreiben.“

Der Begriff „Kontrollebene“ stammt aus der Systemarchitektur, wo eine Schicht verwaltet, wie Arbeit konfiguriert und gesteuert wird, während eine andere Schicht die Arbeit erledigt.

In verteilten Systemen ist die Datenebene der Ort, an dem die Arbeit stattfindet: Anfragen werden verarbeitet, Daten verschoben, Funktionen ausgeführt und Anwendungen reagieren. Die Kontrollebene steuert, wie diese Arbeit konfiguriert und verwaltet wird. Für KI-Agenten ist die Datenebene der Ort, an dem jeder Agent Reasoning durchführt, Tools aufruft, Kontext abruft, Ausgaben schreibt und Aufgaben erledigt. Die Kontrollebene sitzt über diesen Agenten-Laufzeiten und wendet Identitäts-, Richtlinien-, Überwachungs- und Lebenszykluskontrollen auf sie an.

Diese Trennung ist noch wichtiger, wenn Unternehmen beginnen, verschiedene Modelle, Frameworks und Bereitstellungsansätze zu verwenden. Eine anbieterunabhängige Kontrollebene bietet dem Unternehmen eine konsistente Governance-Schicht über diese Systeme hinweg, anstatt Richtlinien und Überprüfbarkeit an einen Modellanbieter oder ein Agenten-Framework zu binden.

Da Agenten Reasoning, Abrufe und Tool-Nutzung kombinieren, muss die Kontrollebene koordinieren, was passiert, bevor eine Aktion ausgeführt wird: wer oder was handelt, welcher Kontext verfügbar ist, welche Richtlinien gelten, wann menschliches Urteilsvermögen erforderlich ist und wie das Ergebnis danach aufgezeichnet wird.

Durchsetzung von Governance und Richtlinien zur Laufzeit

Eine Agentenrichtlinie hat nur begrenzten Wert, wenn sie nur in einem Designdokument oder einer Prompt-Vorlage existiert. Zur Laufzeit muss die Kontrollebene bewerten, ob ein Agent eine Tabelle abrufen, ein externes Tool aufrufen, eine Nachricht senden, einen Datensatz aktualisieren oder an eine:n menschliche:n Prüfer:in eskalieren soll.

Diese Richtlinien können von dem:der Benutzer:in, vom Agenten, von der Datenklassifizierung, vom aufgerufenen Tool, von der angeforderten Aktion und vom Risikoniveau des Workflows abhängen. Beispielsweise darf ein Kundenservice-Agent möglicherweise eine Fallhistorie ohne Genehmigung zusammenfassen, aber eine Rückerstattung, eine Kontoänderung oder die Offenlegung sensibler Informationen erfordert zusätzliche Prüfungen. Laufzeit-Governance bietet dem Unternehmen eine Möglichkeit, das Verhalten von Agenten einzuschränken, wenn der Agent von der Analyse zur Aktion übergeht.

Agenten eine überprüfbare Identität geben

Ein Enterprise Agent benötigt eine Identität, die von dem:der Benutzer:in, vom Modell und von der Anwendung, die das Hosting übernimmt, getrennt ist. Ohne diese Identität ist es schwierig, grundlegende Audit-Fragen zu beantworten: Welcher Agent hat auf die Daten zugegriffen? Welche:r Benutzer:in hat die Sitzung autorisiert? Welches Dienstkonto hat das Tool aufgerufen? Welche Richtlinie hat die Aktion erlaubt?

Die Agentenidentität unterstützt Zero-Trust-Ansätze für KI-Systeme. Anstatt ständigen Zugriff auf Tools oder Datasets zu gewähren, kann das Unternehmen einen Just-in-Time-Zugriff basierend auf der Rolle des Agenten, den Berechtigungen des:der Benutzer:in, der Aufgabe und dem aktuellen Richtlinienstatus verlangen. Ein Beschaffungsagent kann beispielsweise die Berechtigung haben, während eines Sourcing-Workflows genehmigte Lieferantendaten zu lesen, aber nicht auf nicht zusammenhängende Vertrags-Repositories zuzugreifen oder Bestellungen ohne Genehmigung zu senden.

Die Attestierung hängt ebenfalls von der Identität ab. Wenn ein Agent eine überprüfbare Identität hat, kann das System einen Datensatz erstellen, der an diese Identität gebunden ist. Dies ist unerlässlich für die Überprüfung von Vorfällen, das Compliance-Reporting und die fortlaufende Evaluierung.

Standardisierte Observability über den gesamten Lebenszyklus von Agenten hinweg

Die Agenten-Observability gibt Teams die nötigen Traces, Metriken und Bewertungen, um das Verhalten von Agenten zu überprüfen. Die Kontrollebene verbraucht diese Telemetrie und wendet sie auf Agenten, Workflows und Umgebungen an.

Für einen Agenten-Workflow kann ein Trace Abrufschritte, Tool-Aufrufe, zwischenzeitliche Reasoning-Artefakte, Richtlinienprüfungen, Genehmigungen, Wiederholungsversuche, Fehler und endgültige Ausgaben umfassen. Im Laufe der Zeit zeigen Traces, ob der Agent Tools übermäßig nutzt, irrelevanten Kontext abruft, zu oft eskaliert oder Ausgaben produziert, die die Evaluierung nicht bestehen.

Eine Kontrollebene standardisiert, wie diese Informationen gesammelt und überprüft werden. Anstatt dass jedes Agenten-Framework eine andere Überwachungsansicht erzeugt, erhält das Unternehmen eine konsistente Aufzeichnung des Verhaltens über den gesamten Lebenszyklus des Agenten: Entwicklung, Tests, Bereitstellung, Laufzeitüberwachung und Stilllegung.

Verwaltung von Lebenszyklus, Versionen und kontrolliertem Kontext

Das Verhalten von Agenten ändert sich im Laufe der Zeit, wenn sich Tool-Schemata, Modellanbieter, Geschäftsregeln oder Datenquellen in ihrer Umgebung ändern. Ohne Lebenszyklusmanagement haben Teams es schwerer nachzuvollziehen, welche Version des Agenten ausgeführt wurde, welchen Kontext er verwendet hat und ob die Kontrollen angewendet wurden, insbesondere wenn Agenten teamübergreifend arbeiten.

Die Kontrollebene bietet einen Ort, um Agenten zu registrieren, Versionen zu verfolgen, Eigentümer zuzuweisen und den Bereitstellungsstatus zu verwalten. Sie hilft auch dabei, den von Agenten verwendeten Kontext zu steuern. In vielen Unternehmens-Workflows ist die wichtigste Eingabe der kontrollierte Geschäftskontext, der Kund:innen, Produkte, Konten, Richtlinien, Metriken und den Prozessstatus definiert.

Ein Vertriebsagent, der beispielsweise Fragen zur Integrität der Pipeline beantwortet, benötigt die aktuelle Definition einer qualifizierten Pipeline, Zugriff auf genehmigte Kontodaten und Einblick in die Berechtigungen der Nutzer:innen. Wenn der Kontext über die Kontrollebene bereitgestellt wird, können Agenten mit kontrollierten Quellen arbeiten, anstatt mit improvisierten Kopien, veralteten Extrakten oder von Nutzer:innen bereitgestellten Dateien.

Leo Rodriguez, Principal Product Marketing Manager, KI/ML, bei Snowflake, bringt das Kontextproblem auf den Punkt: „Die KI-Modelle sind intelligent. Das Problem ist, dass sie nicht automatisch über den geschäftlichen Kontext verfügen, um vom Unternehmen als vertrauenswürdig eingestuft zu werden. Um genaue Antworten zu erhalten, müssen Sie dem Modell die Definitionen, Beziehungen, Berechtigungen und vertrauenswürdigen Quellen geben, die es benötigt, um Unternehmensdaten zu analysieren.“

Steuerung des Modell- und Tool-Zugriffs über Gateways

Da Agenten mit Modellen und Tools interagieren, werden Gateways zu einem praktischen Bestandteil der Kontrollebene.

• Ein LLM-Gateway verwaltet den Zugriff auf Modelle: Ein LLM-Gateway kann Anfragen über verschiedene Anbieter hinweg weiterleiten, Schlüssel- und Budget-Kontrollen durchsetzen, Leitplanken anwenden, die Nutzung erfassen und die Protokollierung standardisieren. Für Unternehmen, die mehrere Modelle verwenden, verhindert diese Schicht, dass der Modellzugriff zu einer Reihe von unzusammenhängenden Anmeldeinformationen wird, die in verschiedenen Anwendungen eingebettet sind.
• Ein MCP-Gateway verwaltet den Zugriff von Agenten auf Tools. Das Model Context Protocol (MCP) bietet Agenten eine strukturierte Möglichkeit, sich mit Tools und externen Systemen zu verbinden, aber diese Konnektivität erweitert auch die Angriffsfläche für die Durchsetzung von Richtlinien. Ein Gateway kann den Zugriff auf Tools vermitteln, angeforderte Aktionen überprüfen, Berechtigungen anwenden und aufzeichnen, was der Agent versucht hat zu tun.

Zusammen helfen diese Gateways der Kontrollebene, beide Seiten der Agentenausführung zu steuern: die Modellaufrufe, die Reasoning erzeugen, und die Tool-Aufrufe, die Reasoning in Aktionen umsetzen.

Sehen Sie sich an, wie der führende KI-Forscher Andrew Ng den Aufstieg von KI-Agenten und Agentic Reasoning untersucht:

Die Kontrollebene, Orchestrierung und Observability sind eng miteinander verwandt, lösen aber unterschiedliche Probleme.

• Orchestrierung koordiniert die Ausführung: In einem Agenten-Workflow bestimmt die Orchestrierung, welche Agenten oder Tools in welcher Reihenfolge, mit welchen Eingaben und unter welcher Verzweigungslogik ausgeführt werden. Ein Multi-Agenten-System für das Kunden-Onboarding könnte einen Agenten zuweisen, um Kontodaten zu validieren, einen anderen, um Compliance-Anforderungen zu überprüfen, und einen dritten, um einen Kickoff-Plan zu entwerfen. Die Orchestrierungsschicht verwaltet die Reihenfolge und Übergaben.
• Observability zeichnet auf, was passiert ist: Sie erfasst Traces, Metriken, Auswertungen, Tool-Aufrufe und Ausgaben, damit Teams das Verhalten von Agenten überprüfen können. Wenn ein RAG-Workflow eine nicht unterstützte Antwort zurückgibt oder ein Agent wiederholte Tool-Aufrufe durchläuft, liefert Observability Entwickler:innen und Betreiber:innen die Beweise, die zur Diagnose des Problems erforderlich sind.
• Die Kontrollebene steuert über beide Schichten hinweg: Sie verwaltet Identitäts-, Richtlinien-, Überprüfbarkeits-, Zugriffs- und Lebenszykluskontrollen, unabhängig davon, welches Orchestrierungs-Framework den Workflow koordiniert oder welches Observability-System Telemetriedaten sammelt. In der Praxis kann die Kontrollebene Observability-Daten verwenden, um Governance-Entscheidungen durchzusetzen, und sie kann Richtlinien auf orchestrierte Workflows vor, während und nach der Ausführung anwenden.

KI-Agenten für Unternehmen arbeiten in Umgebungen, in denen Datenzugriff, Geschäftsprozesse und Compliance-Verpflichtungen bereits bestehen, und sie müssen diese Bedingungen respektieren.

Wenn Agenten innerhalb von Unternehmenssystemen agieren, müssen sie wie Akteure in diesen Systemen gesteuert werden, nicht wie passive Schnittstellen, die darüber gelegt werden. Beispielsweise kann ein:e Analyst:in die Berechtigung haben, regionale Verkaufsdaten einzusehen, aber keine Finanzbedingungen auf Kundenebene, und ein Data Engineer darf möglicherweise eine Pipeline in der Entwicklung ändern, sie aber nicht ohne Überprüfung in der Produktion bereitstellen. Wenn Agenten beginnen, bei denselben Workflows zu assistieren, muss das Kontrollmodell der Aktion folgen.

Das Hauptrisiko besteht nicht darin, dass Agenten plötzlich anfangen, sich selbstständig zu machen. In vielen Fällen ist das unmittelbare Risiko Inkonsistenz. Ein Agent protokolliert vollständige Traces, während ein anderer nur endgültige Ausgaben speichert. Ein Workflow verwendet rollenbasierte Berechtigungen, während ein anderer umfassende Tool-Anmeldeinformationen speichert. Im Laufe der Zeit machen diese Unterschiede es schwieriger, Agentic AI mit Zuversicht zu skalieren.

Für Rodriguez ist die Kontrollebene am wichtigsten, wenn Agenten die Grenzen überschreiten, die Unternehmen traditionell separat gesteuert haben: Daten, Modelle und Tools von Drittanbietern:

„Die am meisten unterschätzte Fähigkeit der Kontrollebene ist die Zusammenführung von Daten- und KI-Governance. Viele Unternehmen behandeln die Daten-Kontrollebene und die KI-Kontrollebene als separate Bereiche. Aber wenn Agenten anfangen, Unternehmensdaten, Modelle und Tools von Drittanbietern im selben Workflow zu verwenden, müssen diese Kontrollen zusammengeführt werden.“

Eine Kontrollebene bietet Unternehmen eine besser steuerbare Architektur. Neue Agenten können mit Eigentümer:innen und Versionen registriert werden. Der Tool-Zugriff kann vermittelt statt eingebettet werden. Richtlinien können zur Laufzeit angewendet werden, anstatt in Prompts kopiert zu werden. Audit-Aufzeichnungen können der Agentenaktivität über Systeme hinweg folgen. Wenn ein Vorfall oder eine Compliance-Frage auftritt, hat das Unternehmen eine Möglichkeit, das Geschehene zu rekonstruieren.

Für regulierte Branchen kann die Aufzeichnung genauso wichtig werden wie die Ausgabe selbst. Bevor ein reguliertes Unternehmen von den Möglichkeiten von KI-Agenten profitieren kann, benötigt es Nachweise über Kontext, Autorisierung, Durchsetzung von Richtlinien und menschliche Überprüfung, wo dies erforderlich ist.

Die Kontrollebene gehört in die Nähe von kontrollierten Daten, Kontext und Richtlinien. Die nächste Phase der Unternehmens-KI hängt davon ab, Intelligenz mit vertrauenswürdigen Unternehmensdaten zu verbinden und diese Intelligenz in mehrstufige Aktionen innerhalb der Systeme zu übersetzen, in denen die Arbeit stattfindet.

Viele Unternehmen verfügen bereits über Zugriffskontrollen, Richtlinien, Lineage und gemeinsamen Kontext, die an die Datengrundlage gebunden sind. Wenn Agenten beginnen, auf Geschäftsinformationen zu reagieren, muss die Kontrollebene diese Kontrollen beibehalten, anstatt sensiblen Kontext durch ungesteuerte Bewegungen oder getrennte Anwendungsschichten zu leiten.

Snowflake CoWork bietet eine Kontrollebene-Grundlage für Geschäftsanwender:innen und Wissensarbeiter:innen durch kontrollierte Beantwortung von Fragen, mehrstufige Arbeit und toolbasierte Aktionen. Snowflake CoCo erweitert dieselbe Grundlage für Entwickler:innen als datennativer KI-Coding-Agent für Data Engineering, Analytics und KI-Workflows. Für Entwickler:innen, Data Engineers und KI-Teams bedeutet dies, dass agentische Unterstützung mit Bewusstsein für Snowflake-Daten, Metadaten, Kontokontext und Governance arbeiten kann, anstatt außerhalb der Umgebung zu sitzen, in der bereits kontrollierte Arbeit stattfindet.

Wenn sich Agenten mit externen Tools und Systemen verbinden, muss sich die Governance über Prompts und Datenberechtigungen hinaus auf die Aktionen erstrecken, die Agenten versuchen auszuführen. MCP-Gateways und ähnliche Kontrollpunkte können den Tool-Zugriff vermitteln, Berechtigungen durchsetzen und aufzeichnen, was der Agent versucht hat zu tun.

Unternehmens-KI wird nur skalieren, wenn Agenten als kontrollierte Teilnehmer an Geschäftsprozessen behandelt werden können. Die Kontrollebene wird zur Verbindungsschicht zwischen Intelligenz und Ausführung und bietet Agenten einen konsistenten Pfad vom vertrauenswürdigen Geschäftskontext zur autorisierten Aktion.

Agentic AI verändert den Umfang der Unternehmens-Governance. Ein Agent kann mit einer Benutzeranfrage beginnen, aber die Arbeit kann sich schnell durch kontrollierte Daten, Tool-Aufrufe, Workflow-Änderungen und Geschäftsprozesse bewegen, bei denen Berechtigungen und Überprüfbarkeit bereits wichtig sind.

Die Kontrollebene bietet Unternehmen eine Möglichkeit, die Aktivitäten von KI-Agenten über dieselbe Grundlage zu koordinieren, die Daten, Kontext und Aktionen steuert. Identitäts-, Richtlinien-, Observability- und Lebenszykluskontrollen werden Teil der Art und Weise, wie agentische Arbeit abläuft, anstatt separate Überprüfungen zu sein, die für jede Agentenerfahrung neu erstellt werden.

Diese Grundlage wird noch wichtiger, wenn sich Agenten vermehren. Ein einzelner Assistent kann als lokale Anwendung überprüft werden, aber ein Bestand an Agenten benötigt eine gemeinsame Möglichkeit, um zu steuern, was jeder einzelne verwenden kann, was er tun kann und wie seine Aktionen aufgezeichnet werden.

Mit einer Kontrollebene-Architektur können Unternehmen Agenten als kontrollierte Teilnehmer an Geschäftsprozessen behandeln, mit klaren Grenzen dafür, worauf sie zugreifen können, was sie tun können und wie ihre Arbeit verfolgt wird.