KI-Transparenz: Was sie bedeutet und was sie erfordert

KI-Transparenz wird oft als Problem der Modellkomplexität betrachtet – das Black-Box-Szenario, bei dem hinterfragt wird, ob sich die internen Mechanismen eines Modells überhaupt jemals entschlüsseln lassen. Aber die Transparenzmängel, die in Unternehmen die größten Probleme verursachen, sind selten so komplex. Sie treten auf, wenn ein Team nicht identifizieren kann, welche Modellversion in der Produktion ausgeführt wird, wenn die Herkunft der Trainingsdaten nicht dokumentiert wurde oder wenn ein Incident-Response-Team nicht rekonstruieren kann, was passiert ist, weil nie Aufzeichnungen geführt wurden.

Die Lösung von Transparenzproblemen erfordert, dass die Dokumentation an die Systeme selbst angehängt wird: eine Modellkarte, die den vorgesehenen Verwendungszweck und die bekannten Einschränkungen des Modells benennt, ein Data Sheet, das erklärt, woher die Trainingsdaten stammen und welche Lücken verbleiben, ein System-Prompt oder eine Guardrail-Aufzeichnung, die zeigt, wie eine generative Anwendung angewiesen wurde, sich zu verhalten, und ein Audit-Log, das aufzeichnet, welche:r Nutzer:in, welcher Dienst oder welche Anwendung zur Laufzeit auf welche Daten, welchen Prompt oder welche Ausgabe zugegriffen hat.

KI-Transparenz erfordert nicht, dass jede:r Nutzer:in jeden Parameter, jedes Embedding oder jede Feature-Interaktion versteht – aber sie erfordert genügend Kontext für Entwickler:innen, Business-Owner:innen, Aufsichtsbehörden und betroffene Nutzer:innen, um zu verstehen, was ein KI-System tun soll, wie es entwickelt wurde, wann es nicht verwendet werden sollte und welche Beweise vorliegen, wenn etwas schiefgeht.

KI-Transparenz ist der Grad, in dem die Eingaben, die Mechanismen, der vorgesehene Verwendungszweck und die Einschränkungen eines Systems der künstlichen Intelligenz für die davon betroffenen Personen – einschließlich Entwickler:innen, Nutzer:innen, Aufsichtsbehörden und der Öffentlichkeit – verständlich und zugänglich sind.

In der Praxis ist Transparenz eine Disziplin auf Systemebene. Sie beantwortet Fragen wie: Was ist dieses System? Welches Modell verwendet es? Welche Daten haben es geprägt? Für welche Aufgabe ist es konzipiert? Welche Verwendungszwecke liegen außerhalb des Anwendungsbereichs? Welche Hinweise sollten Nutzer:innen sehen, bevor sie sich auf dessen Ausgabe verlassen? Welche Aufzeichnungen existieren, wenn ein:e Prüfer:in, ein Steward oder ein Incident-Response-Team rekonstruieren muss, was passiert ist?

KI-Transparenz unterscheidet sich von Erklärbarkeit. Erklärbarkeit setzt in der Regel auf der Entscheidungsebene an: Warum hat dieses Modell diesen Score, dieses Ranking, diese Klassifizierung oder diese Antwort generiert? Transparenz setzt eine Ebene höher an. Sie beschreibt den Zweck, den Designkontext, die Dokumentation, das Laufzeitverhalten und die Governance-Grenzen des Systems.

Ein transparentes KI-System umfasst in der Regel Artefakte wie Modellkarten, Data Sheets, Dokumentationen von System-Prompts, Erklärungen zum vorgesehenen Verwendungszweck, Erklärungen zu nicht vorgesehenen Verwendungszwecken, Offenlegungshinweise, Audit-Logs und Lineage-Aufzeichnungen. Zusammen helfen diese Artefakte den Teams, sowohl das KI-System als auch die Bedingungen zu verstehen, unter denen seinen Outputs vertraut werden kann.

KI-Transparenz ist wichtig, da KI-Systeme zunehmend an Entscheidungen, Workflows und Interaktionen beteiligt sind, bei denen die betroffene Person möglicherweise nicht diejenige ist, die das System entwickelt hat.

Durch Vorschriften wird es immer schwieriger, diesen Kontext als optional zu betrachten. Gemäß dem EU AI Act schreibt Artikel 13 vor, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden müssen, dass Betreiber die Outputs interpretieren und das System angemessen nutzen können, einschließlich Gebrauchsanweisungen, die die Fähigkeiten, Einschränkungen und die erwartete Genauigkeit des Systems umfassen. Artikel 50 legt Transparenzpflichten für bestimmte KI-Systeme fest, einschließlich der Anforderung, Personen in bestimmten Kontexten darüber zu informieren, dass sie mit KI-Systemen interagieren, sowie bestimmte synthetische oder manipulierte Inhalte offenzulegen oder zu kennzeichnen.

In Deutschland hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) im Jahr 2024 ein Whitepaper zur Transparenz von KI-Systemen veröffentlicht, das Unternehmen einen praxisorientierten Rahmen für die Umsetzung von Transparenzanforderungen bietet.

Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck führt der EU AI Act ebenfalls Dokumentationspflichten ein. Artikel 53 enthält Anforderungen zur Pflege technischer Dokumentationen und zur Bereitstellung von Informationen für nachgelagerte Anbieter, während die Materialien der Europäischen Kommission eine öffentliche Zusammenfassung der Trainingsinhalte für KI-Modelle mit allgemeinem Verwendungszweck beschreiben.

Transparenz ist jedoch nicht nur eine Compliance-Aufgabe. Sie ist auch der Weg, wie Unternehmen KI in der Produktion nutzbar machen. Ein Vertriebsteam wird beispielsweise ein Empfehlungssystem eher nutzen, wenn es den Umfang und die Grenzen des Systems versteht. Ein Risk-Team kann schneller reagieren, wenn es einen unerwarteten Output auf eine Modellversion, eine Prompt-Vorlage, eine Datenquelle oder eine Richtlinienänderung zurückführen kann. Ein Data-Science-Team kann ein Modell sicherer verbessern, wenn es die aktuelle Performance mit den beim Release festgehaltenen Annahmen vergleichen kann.

KI-Transparenz zeigt sich in der Praxis in Form konkreter Artefakte, die mit Modellen, Datasets, Prompts, Anwendungen und Laufzeitereignissen verknüpft sind. Das eigentliche Ziel ist Verständlichkeit: Es muss genau so viel Kontext bereitgestellt werden, dass die zuständige Person das System vor dem Deployment fundiert bewerten, es im jeweiligen Kontext sachgemäß anwenden und im Nachgang detailliert analysieren kann.

Diese Artefakte bilden auch das operative Rückgrat von Verantwortungsvolle KI. Prinzipien wie Fairness, Sicherheit und Verantwortlichkeit sind auf Dokumentation, Offenlegung und Überprüfbarkeit angewiesen, um in der Praxis durchgesetzt zu werden. Ohne diese Aufzeichnungen bleibt Responsible AI eher ein erstrebenswertes Ziel als in der Praxis umsetzbar.

Modellkarten

Eine Modellkarte ist ein strukturiertes Dokument, das den bestimmungsgemäßen Gebrauch, den Trainingskontext, die Performance-Eigenschaften, die Einschränkungen und die Fairness-Überlegungen eines Modells beschreibt. Das ursprüngliche Modellkarten-Framework wurde vorgeschlagen, um ein transparentes Modell-Reporting zu unterstützen, insbesondere für Systeme in Bereichen mit großen Auswirkungen, in denen die aggregierte Genauigkeit eine ungleiche Performance über Gruppen oder Kontexte hinweg verschleiern kann.

Für KI-Teams in Unternehmen ist eine Modellkarte oft das grundlegende Mindesttransparenz-Artefakt. Sie sollte das Modell, die Modellversion, den Eigentümer, den vorgesehenen Verwendungszweck, nicht vorgesehene Verwendungszwecke, Bewertungsmetriken, Testdaten, bekannte Einschränkungen, den Genehmigungsstatus und die Erwartungen an das Monitoring benennen. Bei generativer KI kann sie auch Informationen über die Prompting-Strategie, den Retrieval-Kontext, Sicherheitsbewertungen und erwartete Fehlermodi enthalten.

Eine nützliche Modellkarte muss keine proprietären Implementierungsdetails preisgeben, sollte aber Entwickler:innen, Prüfer:innen und nachgelagerten Teams genügend Kontext bieten, um zu entscheiden, ob das Modell für einen bestimmten Workload geeignet ist.

Data Sheets für Datasets

Das Verhalten eines Modells hängt von den Daten ab, die es geprägt haben. Data Sheets für Datasets dokumentieren die Herkunft, Zusammensetzung, den Erfassungsprozess, die Vorverarbeitungsschritte, empfohlene Verwendungszwecke und bekannte Einschränkungen eines Datasets. Das Dieses Konzept wurde entwickelt, um die Kommunikation zwischen den Ersteller:innen und den Konsument:innen von Datasets zu verbessern, insbesondere wenn Daten später außerhalb ihres ursprünglichen Erfassungskontexts wiederverwendet werden könnten.

In KI-Data-Governance- und Transparenzprogrammen helfen Data Sheets bei der Beantwortung von Fragen, die eine Modelldokumentation allein nicht beantworten kann: Umfassten die Trainingsdaten die für die aktuelle Bereitstellung relevanten Bevölkerungsgruppen, geografischen Regionen oder Zeiträume? Wurden sensible Attribute entfernt, transformiert oder für die Auswertung verwendet? Wurden Labels von Menschen, einem anderen Modell oder einem Drittanbieter erstellt? Welche Vorverarbeitungsschritte haben die Originaldaten verändert?

Solche Details sind von zentraler Bedeutung, sobald ein Modell teamübergreifend wiederverwendet wird — etwa wenn eine Datentabelle für ein neues Feature umgewidmet wird, die Owner einer Datenquelle wechseln oder ein Datenfeld, das ursprünglich als solider Proxy diente, nicht mehr mit dem eigentlich zu repräsentierenden Geschäftskonzept übereinstimmt. Ohne eine Dataset-Dokumentation fallen solche Verschiebungen oft erst auf, wenn sich die Performance verschlechtert oder ein:e Nutzer:in einen Output infrage stellt.

Dokumentation von System-Prompts und Guardrails

Bei der Governance für generative KI hängt die Transparenz auch vom Application Layer rund um das Modell ab. Ein System-Prompt kann die Rolle des Assistenten, den Antwortstil, das Retrieval-Verhalten, Ablehnungsregeln, den Eskalationspfad und Einschränkungen bei der Tool-Nutzung definieren. Guardrails können definieren, was das System blockieren, schwärzen, zur Überprüfung weiterleiten oder für Audits protokollieren soll.

Die Dokumentation dieser Kontrollen hilft Teams, zwischen Modellverhalten und Anwendungsverhalten zu unterscheiden. Wenn ein Kundensupport-Assistent eine Antwort gibt, die nicht den Richtlinien entspricht, kann das Problem im Basismodell, in der Retrieval-Quelle, im System-Prompt, in der Guardrail-Konfiguration oder in der Orchestrierungslogik liegen, die ein Tool ausgewählt hat. Ein Transparenznachweis sollte diese Schichten für eine Überprüfung ausreichend sichtbar machen.

Auch Offenlegungspflichten greifen direkt auf dieser Anwendungsebene. Ein an die Nutzer:innen gerichteter Hinweis sollte das Verhalten des Systems verdeutlichen, bevor sich jemand darauf verlässt: Dazu gehört auch die Information, ob sie mit KI interagieren, ob Inhalte KI-generiert sind, ob sensible Features verwendet werden oder ob ein menschlicher Überprüfungspfad verfügbar ist.

Nutzerorientierte Offenlegungen

Einige Transparenz-Artefakte sind intern, während andere die Nutzer:innen erreichen müssen. Eine Offenlegung kann Nutzer:innen darüber informieren, dass sie mit einem Chatbot interagieren, dass ein Bild oder Video durch KI generiert oder verändert wurde oder dass ein System Emotionserkennung oder biometrische Kategorisierung nutzt.

Bei generierten Medien kann eine sichtbare Kennzeichnung mit einer maschinenlesbaren Herkunftsnachverfolgung kombiniert werden. Die Coalition for Content Provenance and Authenticity (C2PA) bietet einen offenen technischen Standard zur Feststellung der Herkunft und des Bearbeitungsverlaufs digitaler Inhalte, und ihr Content Credentials-Ansatz speichert diese Herkunftsdaten in einer kryptografisch abgesicherten Struktur.

Offenlegungen sollten von vornherein in das System integriert und nicht erst am Ende hinzugefügt werden. Die Offenlegung eines Chatbots, die Kennzeichnung synthetischer Inhalte und der Hinweis auf eine risikoreiche Entscheidung richten sich jeweils an eine andere Zielgruppe und sollten in dem Moment erscheinen, in dem die Information die Interpretation des Systems durch die Nutzer:innen verändert.

Zusammenfassungen von Trainingsdaten

Die Transparenz von Trainingsdaten wird für Anbieter von Allzweck-KI-Modellen zunehmend formalisiert. Der EU AI Act verpflichtet Anbieter von General-Purpose-KI-Modellen zur Führung einer technischen Dokumentation, und die Europäische Kommission hat in Artikel 53 eine öffentliche Zusammenfassung der Trainingsinhalte für diese Modelle beschrieben.

Für Unternehmen, die Foundation-Modelle von Drittanbietern nutzen, entsteht dadurch ein nachgelagertes Beschaffungs- und Governance-Problem. Teams haben möglicherweise keinen direkten Zugriff auf die vollständigen Trainingsdaten, können aber im Rahmen der Anbieterprüfung vom Anbieter bereitgestellte Dokumentationen, Zusammenfassungen, Richtlinien zur zulässigen Nutzung, Erklärungen zu bekannten Einschränkungen und Update-Benachrichtigungen verlangen.

Das gleiche Prinzip gilt für intern entwickelte Modelle. Eine Zusammenfassung der Trainingsdaten sollte Datenkategorien, Quellsysteme, Erfassungszeiträume, Vorverarbeitungsschritte, Ausschlüsse, bekannte Lücken sowie relevante Rechte oder Einschränkungen auflisten.

Audit-Logs und Access History

Die Dokumentation hält die Designabsicht fest. Ein Audit-Trail zeichnet auf, was das System tatsächlich getan hat: Modellversionen, Prompt- und Antwort-Paare, Tool-Aufrufe, Retrieval-Quellen, Nutzerzugriffe, Richtlinienentscheidungen und Datenbewegungen. Bei der Reaktion auf Vorfälle kann dieser Laufzeitdatensatz den Unterschied zwischen einer vagen Vermutung und einer spezifischen Rekonstruktion ausmachen – welche Modellversion ausgeführt wurde, welcher Kontext abgerufen wurde, welche Richtlinie angewendet wurde, welche Nutzer:innen auf welche Ausgabe zugegriffen haben und welche nachgelagerte Anwendung sie verarbeitet hat.

In Snowflake kann beispielsweise die Ansicht ACCESS_HISTORY verwendet werden, um die Access History für Snowflake-Objekte – einschließlich Tabellen, Ansichten und Spalten – innerhalb eines Zeitraums von 365 Tagen abzufragen. Die Lineage-Funktionen von Snowflake speichern den Lineage-Verlauf von Objekten und Spalten für ein Jahr. Diese Aufzeichnungen ersetzen nicht die Modelldokumentation, aber sie liefern Governance- und Sicherheitsteams Nachweise, die sie überprüfen können, wenn ein KI-Workload geregelte Daten verwendet.

KI-Transparenz, Erklärbarkeit und Traceability überschneiden sich, sind aber nicht austauschbar.

• Transparenz steht für die nutzerseitige Offenlegung auf Systemebene. Sie beschreibt den Zweck, die Eigentümer:innen, die beabsichtigte Nutzung, die Grenzen, die Dokumentation und die an Nutzer:innen gerichteten Hinweise des KI-Systems. Eine Modellkarte, ein Data Sheet, eine Zusammenfassung der Trainingsdaten und die Offenlegung eines Chatbots sind allesamt Transparenz-Artefakte. Sie helfen Anwendern dabei, die Natur des Systems und dessen bestimmungsgemäße Nutzung zu verstehen.
• Erklärbarkeit ist die Begründung auf Entscheidungsebene. Sie hilft dabei zu verstehen, warum ein Modell eine bestimmte Ausgabe, einen bestimmten Score oder eine bestimmte Empfehlung generiert hat. Bei einem prädiktiven Modell kann die Erklärbarkeit Feature-Attribution, kontrafaktische Beispiele oder Post-hoc-Erklärungsmethoden umfassen. In einem generativen KI-System kann sie abgerufenen Kontext, zitierte Quellen, Prompt-Traces oder Zusammenfassungen der Schlussfolgerungen umfassen, die Prüfer:innen dabei helfen zu bewerten, wie die Antwort generiert wurde.
• Traceability ist die Lineage von den Daten über das Modell bis zur Ausgabe. Sie verbindet ein Feature mit einer Quellspalte, eine Modellversion mit einem Trainingslauf, eine Prompt-Antwort mit einem Retrieval Set oder eine generierte Empfehlung mit dem Workflow, der sie verarbeitet hat. Nachvollziehbarkeit ist wichtig, da Transparenz ohne Laufzeitnachweise zu einer statischen Dokumentation werden kann, während Erklärbarkeit ohne Lineage eine Ausgabe begründen kann, ohne festzustellen, ob die zugrunde liegenden Daten angemessen waren.

Ein ausgereiftes KI-Governance-Programm benötigt alle drei. Transparenz beschreibt, was das System ist und wie es genutzt werden sollte. Erklärbarkeit behandelt die Frage, warum bestimmte Ausgaben generiert wurden. Nachvollziehbarkeit führt diese Ausgaben auf die Daten, Modellversionen und Prompt-Konfigurationen zurück, die sie geprägt haben – und wird unerlässlich, wenn eine Ausgabe rekonstruiert oder angefochten werden muss.

Die häufigsten Lücken in der KI-Transparenz entstehen, wenn sich Modelle, Datenstrukturen und Applikationen schneller weiterentwickeln als die sie umschließenden Dokumentations- und Governance-Prozesse.

Eine systematische KI-Transparenz gelingt besser, wenn alle Transparenz-Artefakte – Modellkarten, Data Sheets, Prompt-Dokumentationen, Audit-Logs und Offenlegungshinweise – an einem zentralen Ort verwaltet werden. Einige Unternehmen bauen dazu ein internes KI-Transparenzregister auf, das Modellversionen und ihre zugehörigen Governance-Nachweise miteinander verbindet und so die Grundlage für eine prüfbare KI-Praxis schafft.

KI-Transparenz hängt von Metadaten, Datenherkunft, Zugriffsprotokollen und Governance-Kontrollen ab, die nah an den Daten und Workloads bleiben, die sie beschreiben. Bei Snowflake unterstützen mehrere Funktionen diese Grundlage über die Modellentwicklung, den Zugriff auf kontrollierte Daten und die Laufzeitprüfung hinweg.

Die Snowflake Model Registry speichert und verwaltet Modellversionen, Modellmetriken und Modell-Metadaten und unterstützt gleichzeitig das Modell-Lebenszyklusmanagement, Modellzugriffskontrollen und Performance-Monitoring durch Snowflake ML Observability. Die Registry ist ein praktischer Anker für die Dokumentation von Model Cards, da Modelleinträge Version, Metriken, Eigentümer:innen, Signaturen und die Metadaten erfassen können, die zur Dokumentation eines genehmigten Releases erforderlich sind.

Snowflake Horizon Catalog bietet Teams einen zentralen Ort, um Datenressourcen mit konsistenten Metadaten über Snowflake-Daten, Apache Iceberg-Daten, externe relationale Quellen und BI-Tools hinweg zu finden. Für die KI-Transparenz hilft der Katalogkontext den Teams zu erkennen, welche Datenprodukte genehmigt sind, wem sie gehören, wie sie klassifiziert sind und wie sie mit nachgelagerten KI-Workloads zusammenhängen.

Access History und Datenherkunft fügen die Laufzeit-Beweisebene hinzu. Access History kann zeigen, auf welche Snowflake-Objekte zugegriffen wurde, einschließlich Tabellen-, View- und Spaltenreferenzen, während die Datenherkunft Teams dabei hilft, Objekt- und Spaltenbeziehungen zu untersuchen.

Für agentische und generative KI-Workloads erweitert das Laufzeit-Monitoring diese Beweise noch weiter. Snowflake Cortex Agents können detaillierte Traces von Konversationen für Auditing und Debugging protokollieren, einschließlich Konversationsverlauf, Planung, Tool-Auswahl, Ausführungsergebnissen und der Generierung der endgültigen Antwort. Die Dokumentation zu Snowflake Cortex AI Guardrails empfiehlt die Überprüfung von Guardrail-Protokollen, um Muster in markierten Prompts zu identifizieren.

Das Compliance Center von Snowflake hilft Teams dabei, potenzielle Sicherheitsrisiken in Snowflake-Konten basierend auf Scanner-Ergebnissen und -Empfehlungen zu bewerten, zu überwachen und zu reduzieren. KI-Governance steht nicht losgelöst von Sicherheits-, Datenschutz- und Zugriffs-Governance. Dieselben Kontokontrollen, die Daten schützen, helfen dabei festzustellen, ob ein KI-Workload in einer geregelten Umgebung ausgeführt wird.

Erfahren Sie, was zwei Top-Führungskräfte von Snowflake, EVP of Product Christian Kleinerman und Principal Data Strategist Jennifer Belissent, über generative KI und Ethik zu sagen haben:

KI-Transparenz lässt sich am einfachsten herstellen, bevor ein System weit verbreitet ist. Sobald ein Modell in einen Workflow eingebettet ist, ein Chatbot Kund:innen antwortet oder eine generierte Zusammenfassung eine Entscheidung beeinflusst, wird es schwieriger, fehlende Dokumentation zu rekonstruieren und ihr zu vertrauen.

Der praktische Weg besteht darin, Transparenz an die Objekte zu knüpfen, die Teams bereits verwalten: die Modellversion, das Trainings-Dataset, den System-Prompt, die Zugriffsrichtlinie, die Lineage-Verbindung, der Offenlegungspunkt und das Audit-Log. Wenn diese Datensätze miteinander verbunden bleiben, sind die Beweise da, bevor sie benötigt werden – verfügbar für Entwickler:innen, die ein Release überprüfen, für Nutzer:innen, die sich auf eine Ausgabe verlassen, oder für ein Governance-Team, das das Verhalten des Systems erklärt.