KI in der Cybersicherheit: So funktioniert es, Anwendungsfälle und was die Zukunft bringt

Die typische Sicherheitsumgebung in Unternehmen erzeugt mehr Signale, als ein Team manuell verarbeiten kann. Teams werden nicht nur durch das reine Alert-Volumen ausgebremst, sondern vor allem durch den Aufwand, Ereignisse systemübergreifend zu korrelieren und zu beurteilen, welche Muster auf ein tatsächliches Risiko hindeuten. Die Anmeldung einer bekannten Benutzer:in wirkt routinemäßig, bis man ihn mit einem neuen Gerät, einer ungewöhnlichen Tageszeit und einer plötzlichen Flut von Abfragen an ein sensibles System in Verbindung bringt. Bis diese Signale manuell über verschiedene Tools hinweg korreliert sind, schließt sich das Zeitfenster für ein frühzeitiges Eingreifen häufig bereits.

Der Einsatz von KI in der Cybersicherheit hilft Teams, diese Herausforderung zu meistern, indem sie Signale systemübergreifend korreliert, aufzeigt, was Aufmerksamkeit erfordert, und den Weg zwischen Daten und Entscheidung verkürzt.

KI in der Cybersicherheit bezieht sich auf den Einsatz von maschinellem Lernen, der Verarbeitung natürlicher Sprache, Verhaltens-Analytics und verwandten Techniken, um verdächtige Aktivitäten zu erkennen, Risiken zu priorisieren und Teile des Sicherheitsbetriebs zu automatisieren. In der Praxis bedeutet dies, dass Modelle trainiert oder feineingestellt (fine-tuned) werden, um sicherheitsrelevante Daten — wie Authentifizierungsereignisse, Endpunkt-Telemetrie, Netzwerkverkehr, Cloud-Logs, E-Mail-Signale, Vulnerability-Feeds, Abfragehistorien oder Asset-Metadaten — zu analysieren und Muster zu identifizieren, die eine genaue Untersuchung erfordern.

Sicherheitsteams arbeiten in Umgebungen, die riesige Datenmengen produzieren: Endpunkt-Ereignisse, Identitätsprotokolle, SaaS-Zugriffsdatensätze, Cloud-Control-Plane-Aktivitäten, Netzwerkflüsse, Code- und Pipeline-Signale, Access History, Warnungen von Drittanbietern und mehr – die alle mit unterschiedlichen Schemata, Aufbewahrungsrichtlinien und Zuverlässigkeitsstufen eintreffen.

In einer kleineren Umgebung kann eine erfahrene Analyst:in die Tool-Fragmentierung oft durch Erfahrung kompensieren. In einer Unternehmensumgebung jedoch, in der sich dieselbe Identität innerhalb derselben Stunde über eine SaaS-App, ein Warehouse, einen Endpunkt und einen Cloud-Workload bewegen kann, muss die Korrelation schneller und konsistenter erfolgen, als es eine manuelle Überprüfung zulässt.

Gleichzeitig nutzen Angreifer KI, um die Qualität und Geschwindigkeit ihrer eigenen Arbeit zu verbessern. Die RSA-Zusammenfassung 2025 von McKinsey weist darauf hin, dass KI Cyberangriffe beschleunigt und Ausbruchszeiten von unter einer Stunde verzeichnet. Hacker nutzen KI-Tools, um realistische Phishing-E-Mails, gefälschte Websites und bösartige Prompts zu erstellen, die herkömmliche Erkennungsmechanismen umgehen – und das in exponentiellem Ausmaß.

Hinter der Dringlichkeit verbirgt sich auch eine personelle Realität. Sicherheitsprogramme arbeiten weiterhin unter Qualifikations- und Abdeckungseinschränkungen und haben oft Schwierigkeiten, offene Stellen für Analyst:innen, Engineers und Responder:innen zu besetzen. KI ist attraktiv, weil sie hochqualifizierte Sicherheitsteams von repetitiven Aufgaben befreit, wie etwa der Deduplizierung von Warnmeldungen, der Anreicherung von Fällen, der Risikobewertung, der Zusammenfassung von Nachweisen und der Weiterleitung von Vorfällen in den richtigen Workflow.

Auch die Kosten erhöhen den Druck. Die Ergebnisse der Studie Cost of a Data Breach 2025 von IBM beziffern die weltweiten durchschnittlichen Kosten einer Datenschutzverletzung auf 4,4 Millionen USD, während der Einsatz von Sicherheits-KI und Automatisierung mit Kosteneinsparungen in Höhe von 1,9 Millionen USD verbunden ist – im Vergleich zu Unternehmen, die keine KI-Sicherheitslösungen nutzen.

Der beste Weg, um zu verstehen, wie Teams KI heute in der Cybersicherheit einsetzen, ist, die Arbeit selbst zu betrachten.

Die Bedrohungserkennung bleibt der eindeutigste Anwendungsfall. Eine moderne Umgebung generiert Identitätsereignisse, API-Aufrufe, Prozessstarts, Dateizugriffsmuster, DNS-Anfragen, Netzwerkflüsse und Datenabfragen, die einzeln betrachtet unauffällig wirken. KI hilft dabei, Anomalien zu erkennen, indem sie jedes Ereignis mit einem breiteren Verhaltenskontext abgleicht.

Dies ist besonders dort nützlich, wo signaturbasierte Methoden an ihre Grenzen stoßen. Die signatur- und regelbasierte Erkennung spielt nach wie vor eine wichtige Rolle, insbesondere bei bekannter Malware. Sie ist jedoch weniger effektiv, wenn Angreifende benutzerdefinierte Payloads erstellen, legitime Anmeldedaten verwenden oder sich so bewegen, dass sie nah am normalen Betrieb bleiben. User and Entity Behavior Analytics (UEBA) unterstützt Security-Teams dabei, Abweichungen vom erwarteten Normalverhalten frühzeitig zu erkennen.

Ein nützlicher Rahmen zur Bewertung der Erkennungsabdeckung ist MITRE ATT&CK, die weit verbreitete Wissensdatenbank für Taktiken, Techniken und Verfahren von Angreifenden. Sicherheitsteams nutzen ATT&CK, um abzubilden, was ihre aktuellen Tools tatsächlich erkennen können, Lücken in der Abdeckung zu identifizieren und zu bewerten, ob die KI-gestützte Erkennung ihre Fähigkeit verbessert, Aktivitäten in relevanten Technikkategorien aufzudecken.

Threat Hunter beginnen mit einer Hypothese – der Annahme, dass Angreifende möglicherweise in der Umgebung agieren, ohne bisher eine Warnmeldung ausgelöst zu haben – und suchen nach Nachweisen, die dies bestätigen oder ausschließen. Diese Arbeit wird von Analyst:innen vorangetrieben und ist investigativer Natur, aber KI beschleunigt sie an mehreren Stellen im Prozess.

Die Generierung von Hypothesen ist einer der frühesten Ansatzpunkte. KI kann untersuchungswürdige Aktivitäten identifizieren, indem sie schwache Signalmuster in historischen Telemetriedaten erkennt, die von der passiven Erkennung nicht markiert wurden – zum Beispiel ungewöhnliche Zugriffssequenzen, inaktive Konten, die kleine Anzeichen von Aktivität zeigen, oder laterale Bewegungen, die knapp unter den Verhaltensschwellenwerten blieben. Threat Hunter, die sonst Stunden mit dem Abrufen und Filtern von Daten verbringen würden, können so direkt mit einer fokussierten Liste vielversprechender Ermittlungsansätze starten.

Die Unterstützung bei Abfragen ist eine weitere praktische Anwendung von KI. Das Hunting in einem großen Dataset erfordert die Erstellung von Suchen, die präzise genug sind, um nützlich zu sein, ohne dabei so eng gefasst zu sein, dass sie Variationen übersehen. KI kann Analyst:innen dabei helfen, eine Hypothese in effektive Abfragen zu übersetzen, verwandte Suchansätze vorzuschlagen und zu erkennen, wann ein Untersuchungsstrang eher Rauschen als ein echtes Signal erzeugt.

KI zeichnet sich durch Mustererkennung über Zeit und Skalierung hinweg aus. Wer nach Anzeichen für ein langsames Eindringen sucht – das darauf ausgelegt ist, durch die Nachahmung normalen Verhaltens unter den Erkennungsschwellenwerten zu bleiben –, kann den Angriff leichter erkennen, da KI mehr Kontext über längere Zeitfenster und mehr Datenquellen hinweg aufrechterhalten kann als manuell arbeitende Analyst:innen.

Die Incident Response umfasst zahlreiche Schritte, die essenziell, repetitiv und in manueller Ausführung zeit- und kostenintensiv sind. Wenn eine Warnmeldung eingeht, muss der:die Analyst:in die umgebenden Aktivitäten abrufen, die Asset-Eigentümerschaft prüfen, zugehörige Indikatoren untersuchen, frühere Vorfälle heranziehen, Threat Intelligence hinzufügen, Notizen entwerfen und entscheiden, ob das Ereignis in einen Containment-Workflow oder eine Warteschlange mit niedrigerer Priorität gehört. Ein Großteil dieser Arbeit folgt jedes Mal dem gleichen Muster.

KI hilft dabei, diese Prozesse entscheidend zu verkürzen. Sie kann unterstützende Nachweise sammeln, bevor das Ticket geöffnet wird, Änderungen zusammenfassen, Duplikate clustern, den wahrscheinlichen Schweregrad ermitteln und einen Fall so vorbereiten, dass der:die Analyst:in mit Kontext anstatt mit rohen Fragmenten beginnt. In entsprechenden Umgebungen kann sie Zudem klar abgegrenzte Aktionen automatisiert ausführen — wie das Widerrufen von Tokens, das Isolieren von Endgeräten, das Anfordern einer erweiterten Authentifizierung oder das Erstellen von Response-Aufgaben —, sofern Konfidenzwert und geschäftliche Auswirkungen eindeutig bewertet sind.

Der betriebliche Gewinn resultiert hier in der Regel aus der Reduzierung von Reibungsverlusten. Eine Tier-1-Warteschlange wird schneller abgearbeitet, wenn offensichtliche False Positives früher herausgefiltert werden, wenn wiederholte Warnmeldungen gruppiert werden und wenn die menschliche Prüfinstanz weniger Zeit mit der Zusammenstellung des Falls und mehr Zeit mit der Entscheidung verbringt, was dieser bedeutet.

Schwachstellen-Scanner melden möglicherweise Tausende von Problemen über Endpunkte, Workloads, Container und Anwendungen hinweg. Die Warteschlange ist jedoch nur dann handlungsrelevant, wenn das Team zwischen einer Schwachstelle, die theoretisch schwerwiegend ist, und einer, die in der aktuellen Umgebung sowohl ausnutzbar als auch relevant ist, unterscheiden kann. KI hilft, indem sie Kontext hinzufügt, den ein statischer Schweregrad allein nicht erfassen kann – etwa ob das Asset mit dem Internet verbunden ist, ob Exploit-Code im Umlauf ist, ob das anfällige System über privilegierten Zugriff verfügt, ob die Schwachstelle in einem exponierten Pfad auftritt oder ob Bedrohungsaktivitäten es wahrscheinlicher machen, dass das Problem bald ausgenutzt wird.

Beispielsweise kann eine mittelschwere Schwachstelle auf einem exponierten System, das einen umsatzkritischen Dienst bereitstellt, sofortiges Handeln erfordern — während ein höher eingestuftes Problem in einer isolierten internen Umgebung vorerst zurückgestellt werden kann. Sicherheitsteams war dieser Zusammenhang inoffiziell schon immer bewusst — KI hilft nun jedoch dabei, dieses Wissen konsistent über die gesamte IT-Landschaft hinweg anzuwenden.

Beim Phishing kommen viele Unternehmen am direktesten mit KI aufseiten der Angreifenden in Berührung. Mit Large Language Models (LLMs) ist es einfacher, E-Mails zu generieren, die sich flüssig lesen, den internen Tonfall nachahmen, auf plausible Geschäftsaktivitäten verweisen und sich an die Rolle oder Region einer Zielperson anpassen. Und eine Nachricht muss nicht perfekt sein, um erfolgreich zu sein. Oft muss sie nur legitim genug aussehen für eine sekundenkurze Entscheidung, auf einen Link zu klicken, Anmeldedaten einzugeben oder eine Genehmigung zu unterzeichnen.

Eine KI-gestützte Abwehr reagiert darauf, indem sie das Absenderverhalten, das Alter der Domäne, den Nachrichteninhalt, die Linkstruktur, historische Kommunikationsmuster und den umgebenden Benutzerkontext auswertet, anstatt sich nur auf Schlüsselwörter oder Blocklists zu verlassen.

Diese Fähigkeit ist besonders wichtig bei Business Email Compromise (BEC) und Spear-Phishing-Szenarien, bei denen die bösartige Nachricht oft wie Routinearbeit aussieht. Eine Aufforderung, eine Rechnung zu prüfen, ein Passwort zurückzusetzen oder eine Überweisung zu genehmigen, fällt allein aufgrund der Sprache möglicherweise nicht auf. Sie wird möglicherweise erst dann als verdächtig markiert, wenn das System bemerkt, dass diese Domäne von der absendenden Person noch nie zuvor verwendet wurde, die Zielperson diese Art von Anfrage selten erhält, der eingebettete Link über einen neu erstellten Host aufgelöst wird und der:die Empfänger:in eine erweiterte Genehmigungsrolle hat.

Threat-Intelligence-Teams arbeiten mit einem ständigen Zustrom von Indikatoren, Advisories, Feed-Updates und internen Signalen, wobei vieles davon in unterschiedlichen Formaten, mit ungleicher Zuverlässigkeit und einer oft sehr kurzen Halbwertszeit eintrifft. KI macht dieses Material nutzbarer, indem sie Indikatoren quellenübergreifend korreliert, verwandte Aktivitäten in wahrscheinliche Kampagnen oder Akteursmuster gruppiert, offensichtliche Duplikate entfernt und die Bedrohungs-Cluster aufdeckt, die für die Umgebung, das Asset-Profil und die aktuellen Schwachstellen des Unternehmens am relevantesten sind.

Der operative Nutzen besteht darin, dass Analyst:innen weniger Zeit mit der Normalisierung und Erfassung von Daten verbringen und mehr Zeit für die Interpretation und das Ergreifen von Maßnahmen haben. KI kann auch Beziehungen zwischen Indikatoren aufdecken, die bei einer manuellen Überprüfung übersehen würden – zum Beispiel die Verbindung einer neu beobachteten Domain mit einer Infrastruktur, die in einer früheren Kampagne verwendet wurde, oder die Erkennung, wenn ein in einem Sektor gemeldetes TTPs-Cluster in einem anderen auftaucht. Für Unternehmen in branchenspezifischen Programmen zum Austausch von Bedrohungsdaten ist die KI-gestützte Korrelation zunehmend der Weg, wie diese Informationen in einen handlungsrelevanten Kontext umgewandelt werden, anstatt in einer Warteschlange zu verbleiben.

Ein IAM-Workflow enthält oft eine Fülle von Verhaltenssignalen, darunter Gerätestatus, Anmeldezeitpunkt, Standort, Authentifizierungsmethode, Berechtigungsstufe, Sitzungsdauer, Netzwerkkontext und nachfolgende Zugriffsaktivitäten. KI kann diese Signale gemeinsam auswerten und eine dynamische Risikobewertung anstelle einer statischen „Bestanden/Nicht bestanden“-Entscheidung erstellen. Dies unterstützt adaptiven Zugriff, bei dem Nutzer:innen, deren Verhalten den Erwartungen entspricht, reibungslos passieren können, während eine Sitzung, die ungewöhnliche Muster aufweist, überprüft, eingeschränkt oder eskaliert wird.

Der Nutzen steigt, wenn die Identität mit nachgelagerten Aktivitäten verknüpft wird. Eine riskante Anmeldung fällt stärker ins Gewicht, wenn darauf ein ungewöhnliches Abfragevolumen, Berechtigungsänderungen, die Erstellung von Token oder der Zugriff auf Daten folgen, die der:die Nutzer:in sonst kaum verwendet. An diesem Punkt beginnt der Identitätsschutz, mit der Datensicherheit und einer umfassenderen Telemetrieanalyse zu verschmelzen, um eine robustere Abwehr zu bilden.

Der Netzwerkverkehr liefert nach wie vor wichtige Erkenntnisse, selbst in Umgebungen, in denen Identitäten und SaaS-Wildwuchs die Architektur dominieren. Angreifer, die Fuß fassen, müssen sich weiterhin bewegen, kommunizieren und Werte extrahieren. Das bedeutet, dass Command-and-Control-Muster, Lateral Movement, Beaconing und Exfiltrationsverhalten relevant bleiben.

KI-gestützte Tools zur Netzwerkerkennung und -reaktion sind nützlich, da sie Timing-, Sequenzierungs- und Beziehungsmuster auswerten können, die in einem einzelnen Paket oder einer einzelnen Verbindung nicht bösartig aussehen. Ein langsamer und unauffälliger Exfiltrationspfad, ein ungewöhnliches Ost-West-Kommunikationsmuster zwischen Workloads oder eine Abfolge interner Aufrufe, die von der Baseline abweicht, können deutlicher hervortreten, wenn das System sie mit dem normalen Verhalten im Zeitverlauf vergleicht.

In Cloud-Umgebungen erstreckt sich dieselbe Logik auf die Telemetrie der Control Plane und der Workloads. Die Aktivität einer Rolle, eines Workloads oder eines Dienstkontos ist oft wichtiger als der Perimeter, hinter dem sie sich befinden. Dies ist ein Grund, warum KI-Cloud-Sicherheit zu einer immer eigenständigeren Kategorie wird: Die zu interpretierenden Daten umfassen nun API-Verhalten, kurzlebige Ressourcen, Konfigurationsabweichungen und Workload-zu-Workload-Beziehungen ebenso wie herkömmlichen Netzwerkverkehr.

Entdecken Sie Snowflake-Lösungen für moderne Cybersecurity-Abläufe.

Die meisten Unternehmen kommen mit KI in der Cybersicherheit durch Produkte in Berührung, die sie bereits nutzen, oder durch Kategorien, die sie bereits verstehen. Hier einige Beispiele:

Sicherheitsarbeit umfasst viele abgegrenzte, mehrstufige Tasks, die von der Planung und Ausführung über mehrere Tools hinweg profitieren – ein ideales Szenario für ein Agentic-AI-System. Das realistische kurzfristige Modell ist jedoch eher eine überwachte Assistenz als eine vollautonome Abwehr. Unternehmen überlassen weitreichende Reaktionsbefugnisse nicht einfach einem Agenten und ziehen sich zurück (und das sollten sie auch nicht). Sie experimentieren mit KI-Agenten, die Analyst:innen helfen, Nachweise schneller zu sammeln, einen Fall gründlicher vorzubereiten oder nächste Schritte innerhalb klarer Grenzen vorzuschlagen.

Vorsicht ist geboten, da ein Agent eine größere operative Oberfläche – und damit eine größere Angriffsfläche – einführt. Sobald ein KI-Agent Kontext abrufen, Tools aufrufen, auf Tickets zugreifen oder Workflows auslösen kann, wird die Qualität seiner Berechtigungen, seiner Verankerung und seiner Validierung genauso wichtig wie die Sprachgewandtheit seiner Ausgabe. Ein durch Prompt-Injection manipulierter Agent mit weitreichendem Zugriff kann gefährlich sein. Aus diesem Grund gehören menschliche Freigabeprozesse, Tool-Scoping, Audit-Protokolle und Governance-Kontrollen von Anfang an zum Design.

Lesen Sie KI-Sicherheit für Agenten, um zu erfahren, wie Sie Agentic AI in der Produktion absichern.

Der WEF Global Cybersecurity Outlook 2026 zeigt, dass CEOs cybergestützten Betrug und Phishing als ihre größte Sorge im Jahr 2026 einstuften. Angreifer setzen KI überall dort ein, wo sie die Kosten ihrer Angriffe senkt und die Ergebnisse beschleunigt.

Phishing ist der offensichtlichste Fall, da LLMs maßgeschneidertere Nachrichten erstellen können als viele der in der Vergangenheit verwendeten Kampagnen mit geringem Aufwand. Deepfakes weiten dieses Problem auf Sprache und Video aus, was in Unternehmen von Bedeutung ist, die sich auf Remote-Freigaben, Anfragen von Führungskräften oder nur flüchtig überprüfte interne Kommunikation verlassen. KI kann Angreifern auch dabei helfen, die Aufklärung zu beschleunigen, Variationen schneller zu testen und Wege zu finden, Erkennungslogiken zu umgehen, die auf erkennbaren Mustern basieren.

Nicht, dass jeder Angreifer dramatisch raffinierter geworden wäre, aber mehr Angreifer können jetzt in hoher Geschwindigkeit qualitativ hochwertige Täuschungen produzieren. Dadurch verschiebt sich das Problem der Verteidigungsteams vom Herausfiltern ungeschickter Versuche hin zur Validierung plausibler Angriffe.

Defensive Response-Teams benötigen stärkere Validierungspfade bei Freigaben, eine bessere Identitätshygiene, strengere Zugriffskontrollen, Modelltests unter widrigen Bedingungen und ein klareres Verständnis dafür, wo KI-gestützte Workflows selbst manipuliert werden können. Ein System, das sich auf unzureichenden Kontext, schwache Herkunftsnachweise oder zu weitreichende Berechtigungen verlässt, kann auf eine Weise versagen, die unbemerkt bleibt, bis sich der Fehler bereits ausgebreitet hat.

Das ist ein Grund, warum die Datenschicht so wichtig ist. Wenn ein Modell auf Telemetrie, Protokollen, Lineage, Zugriffsmetadaten oder abgerufenen Dokumenten basiert, werden die Qualität und Vertrauenswürdigkeit dieser Eingaben Teil der Sicherheitslage.

Die größten Vorteile des Einsatzes von KI in der Cybersicherheit zeigen sich meist in den Bereichen der Security Operations, die repetitiv, zeitkritisch und kontextlastig sind.

Wenn KI Warnmeldungen mit geringer Konfidenz sortieren, relevante Beweise anhängen und korrelierte Aktivitäten früher aufdecken kann, gelangen Analyst:innen schneller zu fundierten Urteilen. Geschwindigkeit ist entscheidend, denn die wirtschaftlichen und operativen Kosten einer Verzögerung steigen schnell an, sobald ein Angreifer erst einmal Fuß gefasst hat.

KI unterstützt dabei, Schwachstellen, Sicherheitsvorfälle und Zugriffsanomalien anhand eines wesentlich breiteren Kontextes einzustufen, als dies mit statischen Scoring-Modellen möglich ist — wodurch Bearbeitungswarteschlangen viel zielgerichteter abgearbeitet werden können. KI kann auch Erkenntnisse zutage fördern, die für sich genommen unbedeutend erscheinen, aber enorme Konsequenzen haben, sobald Asset-Exposure, Berechtigungsstufen oder Angreiferaktivitäten berücksichtigt werden – und sie reduziert den Aufwand für Erkenntnisse, die in der Theorie ernst aussehen, im Kontext aber weniger wichtig sind.

Protokolle und Ereignisse, die sonst ungenutzt blieben, werden wertvoller, wenn Modelle sie kontinuierlich und domänenübergreifend auswerten können. Dies ist besonders wichtig in Umgebungen, in denen derselbe Vorfall innerhalb kurzer Zeit Endpunkt-, Identitäts-, Cloud- und Datenzugriffssysteme betrifft.

Die Qualität der Triage leidet oft, wenn Analyst:innen überlastet sind, Workflows fragmentiert sind oder der Kontext zu spät eintrifft. KI kann Routineüberprüfungen konsistenter machen, indem sie jedes Mal dieselbe Anreicherungs- und Ranking-Logik anwendet. Das bietet Teams eine stabilere Ausgangsbasis für die menschliche Beurteilung.

Erfahrene Responder und Security-Architekt:innen sind teuer und schwer zu ersetzen. Wenn KI mehr von der mechanischen Arbeit bei der Fallzusammenstellung, der Beweissammlung und der anfänglichen Zusammenfassung übernimmt, können diese Fachkräfte mehr Zeit für Untersuchungen, Threat Hunting, Architektur und Control Design aufwenden.

KI ist kein Allheilmittel, und ihre Grenzen haben relevante praktische Konsequenzen. Diese Herausforderungen müssen bei der Konzeption operativer Security-Prozesse von Beginn an berücksichtigt werden.

Analyst:innen müssen wissen, warum ein Modell eine Erkenntnis geliefert, eine Ausgabe generiert oder eine Aktion ausgelöst hat, welche Eingaben in die Entscheidung eingeflossen sind und wie hoch die Konfidenz des Systems tatsächlich ist. Ohne diese Informationen ist es schwer, Vertrauen aufzubauen und zu erhalten.

Ein damit zusammenhängender und folgenschwerer Fehlermodus ist die Halluzination. LLMs, die in Security-Workflows eingesetzt werden, können plausibel klingende Ausgaben generieren, die faktisch falsch sind: eine falsch charakterisierte Zusammenfassung eines Vorfalls, ein inkorrekter Behebungsschritt, eine Erkennungsregel, die gültig erscheint, aber einen logischen Fehler enthält. In den Security Operations kann eine halluzinierte Ausgabe die Reaktion verzögern, falsches Vertrauen wecken oder dazu führen, dass eine Kontrolle falsch konfiguriert wird.

Das macht Grounding und Validierung bei sicherheitsrelevanten KI-Implementierungen besonders wichtig. Ergebnisse, die Reaktionsentscheidungen beeinflussen, müssen lückenlos bis zu den zugrunde liegenden Nachweisen (Evidence) rückverfolgbar sein — Analyst:innen benötigen eine einfache Möglichkeit zur Verifizierung, anstatt zusammengefasste Schlussfolgerungen ungeprüft zu übernehmen. Das Risiko besteht nicht darin, dass KI-Systeme immer falsch liegen. Es besteht vielmehr darin, dass sie auf eine Weise falsch liegen können, die autoritativ wirkt – was schwerer zu erkennen ist als ein offensichtlicher Fehler.

Ein KI-Workflow erbt die Schwächen der Daten, von denen er abhängt. Unvollständige Protokolle, inkonsistentes Identity Mapping, veralteter Asset-Kontext, mangelhafte Aufbewahrung oder fehlende Eigentümerschaft können die Performance beeinträchtigen. Im Laufe der Zeit können Modelle auch abdriften, wenn sich Umgebungen, das Verhalten von Angreifern und legitime Geschäftsprozesse ändern.

Beispielsweise kann ein Modell, das mit den Zugriffsmustern des letzten Jahres trainiert wurde, bei aktuellem Angreiferverhalten oder einer umstrukturierten Umgebung eine schlechtere Leistung erbringen, ohne dass es ein offensichtliches Fehlersignal gibt. Das macht Drift besonders tückisch: Das System funktioniert weiterhin, aber die Abdeckung hat sich auf eine Weise verschlechtert, die erst nach einer verpassten Erkennung sichtbar wird.

Security-Teams kennen die Kosten von Rauschen bereits. KI kann dieses reduzieren, aber sie kann auch neues Rauschen erzeugen, wenn ein Modell schlecht kalibriert ist oder ohne ausreichende Feedbackschleifen bereitgestellt wird. Darüber hinaus kann ein übermäßiges Vertrauen in die Automatisierung ein Unternehmen angreifbar machen, wenn ein ungewöhnlicher Vorfall außerhalb des Workflows liegt, für den das System entwickelt wurde. Menschliche Überprüfungsrhythmen und Workflows zur Ausnahmebehandlung existieren genau für diese Fälle.

Jede Erkennungsmethode, die wertvoll wird, wird zum Ziel von Umgehungsversuchen. Angreifer können die Grenzen eines Modells ausloten, Lücken in der Eingabevalidierung ausnutzen oder versuchen, die für Training und Inferenz verwendeten Daten zu manipulieren. KI in der Sicherheit erfordert daher eine kontinuierliche Evaluierung und keinen einmaligen Rollout.

Prompt-Injection ist ein spezifisches Problem, das an dieser Stelle erwähnt werden sollte. Ein Angreifer, der Anweisungen in Inhalte einfügen kann, die ein KI-System verarbeitet – ein Dokument, ein Ticket, ein abgerufener Protokolleintrag –, kann das Verhalten des Systems möglicherweise auf eine Weise manipulieren, die schwer zu erkennen ist und nichts mit der Genauigkeit des zugrunde liegenden Modells zu tun hat.

Da KI-Systeme zunehmend Einfluss auf Zugriff, Triage und Reaktion nehmen, müssen Unternehmen entscheiden, wer für das Systemverhalten verantwortlich ist, wie Entscheidungen protokolliert werden, wie Ausnahmen gehandhabt werden und welche Kontrollen greifen, wenn etwas schiefgeht. Das KI-Risikomanagement-Framework des NIST existiert zum Teil deshalb, weil diese Fragen nicht unbeantwortet oder unausgesprochen bleiben dürfen.

In der Praxis bedeutet dies, dass definiert werden muss, welche Aktionen das KI-System autonom ausführen darf und welche eine menschliche Genehmigung erfordern. Zudem muss sichergestellt werden, dass Modellentscheidungen in einer Form protokolliert werden, die Audits und Überprüfungen unterstützt. Es muss festgelegt werden, wer den Feedback-Prozess verantwortet, wenn das System nicht die erwartete Leistung erbringt, und es müssen regelmäßige Red-Team-Evaluierungen geplant werden, um zu testen, ob das System realistischen Angriffsbedingungen standhält – und nicht nur den Szenarien, für die es entwickelt wurde.

Eine starke KI-Cybersicherheitsstrategie entsteht, wenn ein Unternehmen KI als Teil des Designs von Security Operations betrachtet und nicht als eine Schicht, die über bestehende Tools und Prozesse gelegt wird.

Bevor KI die Security Operations verbessert, muss die zugrunde liegende Umgebung transparent genug sein, um sie zu unterstützen. Protokollierungsabdeckung, Identitätshygiene, Asset-Eigentümerschaft, Data Governance und Workflow-Disziplin bestimmen, ob ein Modell mit nutzbarem Kontext oder mit unvollständigen Signalen arbeitet. Wenn ein Team nicht zuverlässig nachverfolgen kann, wem ein Dataset gehört, welches Dienstkonto eine Änderung ausgelöst hat oder ob eine kritische Protokollquelle vollständig ist, wird der resultierende Workflow zwar schneller, aber nicht zwangsläufig klarer.

Sicherheitsteams benötigen zunehmend Einblick in Datenbewegungen, Zugriffsmuster, Richtlinienkontext und geregelte Nutzung, da KI-gestützte Sicherheitsentscheidungen nur so vertrauenswürdig sind wie der zugrunde liegende Kontext, der mit ihnen verknüpft ist.

Frühe KI-Initiativen funktionieren in der Regel am besten in den Bereichen der Security Operations, in denen Reibungspunkte sichtbar sind, der Workflow etabliert ist und die Ergebnisse klar gemessen werden können. Alert-Triage, Phishing-Analysen, Identitätsrisikobewertungen und die Priorisierung von Schwachstellen sind aus diesem Grund häufige Ausgangspunkte.

Gleichen Sie die Initiative vor der Ausweitung mit den relevanten Kontrollerwartungen ab. Das KI-RMF des NIST bietet eine Governance-Struktur, während die ISO/IEC 42001 eine Managementsystem-Disziplin bereitstellt. Der EU AI Act legt die Messlatte dafür höher, wie einige Unternehmen die KI-Nutzung dokumentieren und steuern müssen. Auch wenn ein Framework in einem bestimmten Kontext nicht rechtlich bindend ist, prägt es oft dennoch die Erwartungen der Stakeholder.

Einen tieferen Einblick in die Richtlinien, Kontrollen und Aufsichtsmaßnahmen, die eine verantwortungsvolle KI-Nutzung unterstützen, finden Sie in unserem Leitfaden zur KI-Governance.

Sicherheitsteams arbeiten besser, wenn Eskalationsgrenzen explizit sind – welche Aktionen automatisch ablaufen dürfen, welche eine Genehmigung erfordern, welche Bedingungen eine Überprüfung von Ausnahmen auslösen und welche Rollen für das Modell-Feedback verantwortlich sind. Die nachhaltigsten KI-Bereitstellungen sind sorgfältig eingegrenzt.

Verfolgen Sie, was sich in der Praxis ändert: Mean Time to Detect (MTTD), Mean Time to Respond (MTTR), False-Positive-Raten, Behebungsgeschwindigkeit, Durchsatz der Analyst:innen und Workflow-Akzeptanz. Ebenso wichtig ist es, zu überprüfen, wo das System Schwächen aufweist – wo Kontext fehlt, wo dem Modell nicht vertraut wird oder wo menschliche Prüfer:innen es stillschweigend umgehen.

Unternehmen, die Cloud-Workloads ausführen, können unseren Leitfaden zur KI-Cloud-Sicherheit für plattformspezifische Anleitungen lesen.

Die nächste Phase der KI in der Cybersicherheit wird wahrscheinlich enger gefasst und gleichzeitig folgenreicher sein. Eine Richtung geht hin zu schnelleren gegnerischen Iterationen auf beiden Seiten. Der Ausblick des Weltwirtschaftsforums für 2026 beschreibt KI als eine der Hauptkräfte, die die Cyberlandschaft neu gestalten. Operativ zeigt sich dies in kürzeren Entscheidungsfenstern, einer variableren Angriffsqualität und einem größeren Druck auf Verteidiger, subtile Verhaltensänderungen zu erkennen, anstatt sich nur auf bekannte Artefakte zu verlassen.

Auch im Bereich der prädiktiven Sicherheit wird KI wahrscheinlich zunehmend zum Einsatz kommen. Anstatt darauf zu warten, dass eine Kontrolle anschlägt, nachdem ein Ereignis bereits im Gange ist, versuchen Teams abzuschätzen, wo eine Kompromittierung als Nächstes am wahrscheinlichsten auftritt, indem sie Bedrohungsdaten, Expositionsdaten, Geschäftskritikalität und Verhaltenssignale kombinieren.

Zweifellos werden strengere Vorschriften und Governance erforderlich sein. Da KI immer stärker in operative Systeme integriert wird, geraten Unternehmen zunehmend unter Druck, Trainingsannahmen, Modellverhalten, Entscheidungsgrenzen und Überprüfbarkeit zu dokumentieren. Dieser Druck wird in den aktuellen Governance-Frameworks bereits sichtbar. Die geschäftlichen Folgen von KI-Missmanagement – in Form von unkontrollierbaren Risiken, beschädigtem Vertrauen und finanziellen Auswirkungen – sind zu gravierend, um sie zu ignorieren.

Eine der wichtigsten Prioritäten für die Unternehmensarchitektur wird die datenzentrierte Sicherheit sein. Eine Anmeldeinformation, ein Endpunkt oder ein Workload kann der unmittelbare Punkt der Kompromittierung sein, aber das Ziel, das ein Angreifer oft anstrebt, sind Daten: Kundendatensätze, Modelle, geistiges Eigentum, Finanzinformationen, regulierte Felder oder operativer Kontext. Infolgedessen verlagert sich die Sicherheitsdiskussion immer mehr in Richtung Datenzugriffsmuster, Lineage, Richtliniendurchsetzung, Telemetrie-Vereinheitlichung und geregeltem Datenaustausch.

KI wird aus demselben Grund Teil der Cybersicherheit, aus dem sie auch in so vielen operativen Systemen Einzug hält: Die Arbeit produziert bereits mehr Signale, mehr Kontext und mehr Entscheidungen, als Menschen allein effektiv verarbeiten können.

In der Sicherheit hat Nützlichkeit jedoch eine strengere Definition. Ein Modell muss einem Team helfen, zwischen Routineaktivitäten und bedeutsamen Risiken zu unterscheiden, schneller zu handeln, ohne das Urteilsvermögen zu verlieren, und innerhalb von Kontrollen zu agieren, denen Menschen tatsächlich vertrauen können. Aus diesem Grund beginnen die stärksten KI-Sicherheitsprogramme in der Regel mit konkreten Workflows und disziplinierten Kontrollen statt mit weitreichenden Behauptungen über Autonomie. Die Unternehmen, die am meisten profitieren, werden diejenigen sein, die KI mit zuverlässigen Daten, praktikablen Workflows und starker menschlicher Aufsicht kombinieren.

Sehen Sie, wie KI in anderen Branchen eingesetzt wird >

Entdecken Sie den Hub für KI in verschiedenen Branchen:

• KI in der Werbebranche
• KI bei Finanzdienstleistungen
• KI im Gesundheitswesen und in Life Sciences
• KI in der Fertigung
• KI im Handel