{"templateName":"base-page-template54","cssClassNames":"page basicpage summit-page","allowedRenditionsWidth":["320","480","640","768","960","1200","1440","1920"],"description":"Algorithmic Bias (algorithmische Verzerrung) in KI-Systemen: Ursachen, Erkennung und Minimierung – von historischen Trainingsdaten bis Proxy-Variablen.","language":"de","title":"Algorithmic Bias: Erkennung, Messung & Risikominderung | Snowflake","analyticsPageType":"homepage","analyticsCategory":"general","analyticsSubCategory":"","excludeFromAnalytics":false,":mappedPath":"/de/artificial-intelligence/ai-governance/algorithmic-bias/",":type":"snowflake-site/components/structure/page",":items":{"root":{"columnCount":12,"gridClassNames":"aem-Grid aem-Grid--12 aem-Grid--default--12","columnClassNames":{"markup_editor_928258845":"aem-GridColumn aem-GridColumn--default--12","experiencefragment-banner":"aem-GridColumn aem-GridColumn--default--12","experiencefragment-header":"aem-GridColumn aem-GridColumn--default--12","responsivegrid":"aem-GridColumn aem-GridColumn--default--12","markup_editor_597730182":"aem-GridColumn aem-GridColumn--default--12","experiencefragment-footer":"aem-GridColumn aem-GridColumn--default--12","experiencefragment":"aem-GridColumn aem-GridColumn--default--12","modal_container":"aem-GridColumn aem-GridColumn--default--12","markup_editor":"aem-GridColumn aem-GridColumn--default--12"},":items":{"experiencefragment-banner":{"id":"experiencefragment-012e057c85","localizedFragmentVariationPath":"/content/experience-fragments/snowflake-site/language-masters/de/site/pushdown-banner/master/jcr:content","configured":true,":type":"snowflake-site/components/experiencefragment","xfModelPath":"/content/experience-fragments/snowflake-site/language-masters/de/site/pushdown-banner/master.xfmodel.json?callerPage=/content/snowflake-site/global/de/artificial-intelligence/ai-governance/algorithmic-bias"},"experiencefragment-header":{"id":"experiencefragment-edbf139ab0","localizedFragmentVariationPath":"/content/experience-fragments/snowflake-site/language-masters/de/site/mega-nav-header/master/jcr:content","configured":true,":type":"snowflake-site/components/experiencefragment","xfModelPath":"/content/experience-fragments/snowflake-site/language-masters/de/site/mega-nav-header/master.xfmodel.json?callerPage=/content/snowflake-site/global/de/artificial-intelligence/ai-governance/algorithmic-bias"},"responsivegrid":{"columnCount":12,"gridClassNames":"aem-Grid aem-Grid--12 aem-Grid--default--12","columnClassNames":{"flexible_column_cont_939100716":"aem-GridColumn aem-GridColumn--default--12","flexible_column_cont":"aem-GridColumn aem-GridColumn--default--12","flexible_column_cont_1158003461":"aem-GridColumn aem-GridColumn--default--12","flexible_column_cont_663228916":"aem-GridColumn aem-GridColumn--default--12","flexible_column_cont_912630531":"aem-GridColumn aem-GridColumn--default--12","flexible_column_cont_1398138236":"aem-GridColumn aem-GridColumn--default--12","flexible_column_cont_1786318617":"aem-GridColumn aem-GridColumn--default--12","flexible_column_cont_1467213961":"aem-GridColumn aem-GridColumn--default--12","flexible_column_cont_1377146023":"aem-GridColumn aem-GridColumn--default--12"},":items":{"flexible_column_cont":{"id":"flexible-column-container-caaa63d266","propertiesId":"hub-hero-breadcrumbs","type":"1-column","alignColumns":"top","containerMaxWidth":"extra-large","topPadding":"small","bottomPadding":"none","spaceBetween":"small","reverseOnMobile":false,"carouselOnMobile":false,"propertiesCSSClasses":"page-section","backgroundImageOption":"none","flexible_column_content_container_1":{"layout":"SIMPLE","id":"container-923f5a2ff4",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"breadcrumb":{"id":"breadcrumb-0acc50e647","items":[{"id":"breadcrumb-0acc50e647-item-b4dc78da23","link":{"valid":true,"url":"/de/artificial-intelligence/"},"active":false,"current":false,"title":"Künstliche Intelligenz",":type":"snowflake-site/components/structure/page","appliedCssClassNames":"summit-page"},{"id":"breadcrumb-0acc50e647-item-b569776521","link":{"valid":true,"url":"/de/artificial-intelligence/ai-governance/"},"active":false,"current":false,"title":"KI-Governance",":type":"snowflake-site/components/structure/page","appliedCssClassNames":"summit-page"},{"id":"breadcrumb-0acc50e647-item-781d9309d5","link":{"valid":true,"url":"/de/artificial-intelligence/ai-governance/algorithmic-bias/"},"active":true,"current":true,"title":"Algorithmic Bias",":type":"snowflake-site/components/structure/page","appliedCssClassNames":"summit-page"}],":type":"snowflake-site/components/breadcrumb"}},":itemsOrder":["breadcrumb"]},":type":"snowflake-site/components/flexible-column-container","isBlogPage":false,"isActiveTOC":false,"appliedCssClassNames":"snowflake-flexible-column-container-gray-10-bg"},"flexible_column_cont_939100716":{"id":"flexible-column-container-993c7afe3a","propertiesId":"hub-hero","type":"2-column-even","alignColumns":"center","containerMaxWidth":"extra-large","topPadding":"extra-small","bottomPadding":"extra-small","spaceBetween":"small","reverseOnMobile":false,"carouselOnMobile":false,"propertiesCSSClasses":"page-section","backgroundImageOption":"none","flexible_column_content_container_1":{"layout":"SIMPLE","id":"container-6f336f75d4",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"title_v2":{"id":"title-v2-136417360e","additionalClasses":"hub-hero__headline","type":"heading1","lines":["Algorithmic Bias erklärt: Kategorien, Erkennung und Techniken zur Risikominderung"],":type":"snowflake-site/components/title-v2","appliedCssClassNames":"left-alignment"},"text":{"id":"text-ebaab9e37a","additionalClasses":"hub-hero__subheadline","text":"\u003Cp style=\"padding-top: 8.0px;\"\u003EAlgorithmic Bias kann lange vor der Ausgabe eines Modells entstehen – in den Trainingsdaten, Labels, Proxy-Variablen und im Bereitstellungskontext, die beeinflussen, wie KI-Systeme Entscheidungen treffen. Dieser Artikel erklärt die wichtigsten Arten von Bias, wie Unternehmen ungleiche Auswirkungen erkennen und messen und warum eine effektive Eindämmung von kontrollierten Daten, Modell-Monitoring und revisionssicheren Nachweisen abhängt.\u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-size-regular text-color-text-05"},"container":{"additionalClasses":"hub-hero__authors","layout":"RESPONSIVE_GRID","columnCount":12,"gridClassNames":"aem-Grid aem-Grid--12 aem-Grid--default--12","columnClassNames":{"content_chip_copy":"aem-GridColumn aem-GridColumn--default--12","content_chip":"aem-GridColumn aem-GridColumn--default--12"},"id":"container-c6c9dd0c93",":type":"snowflake-site/components/container",":items":{"content_chip_copy":{"id":"content-chip-fb448e6dc6","cta":{"id":"cta","showOutboundIcon":false,"linkTargetContentType":"GENERIC",":type":"snowflake-site/components/button","linkType":"SNOWFLAKE_INTERNAL","text":"Biografie lesen"},"image":{"id":"image","height":"800","src":"https://www.snowflake.com/adobe/dynamicmedia/deliver/dm-aid--d2c1126d-3244-486b-9007-1d2bc56e1893/laurie-macpherson.jpg?preferwebp=true&quality=85","alt":"Laurie MacPherson","lazyEnabled":true,"width":"800",":type":"snowflake-site/components/image"},"headline":{"id":"title","type":"heading5","lines":["Laurie MacPherson","Technical Writer, Snowflake"],":type":"snowflake-site/components/title-v2"},":type":"snowflake-site/components/content-chip"},"content_chip":{"id":"content-chip-95bc9ad895","cta":{"id":"cta","showOutboundIcon":false,"buttonLink":{"valid":true,"url":"https://www.snowflake.com/en/blog/authors/gulnaz-sharipova/"},"linkTargetContentType":"GENERIC",":type":"snowflake-site/components/button","linkType":"SNOWFLAKE_EXTERNAL","text":"Biografie lesen"},"image":{"id":"image","height":"512","src":"https://www.snowflake.com/adobe/dynamicmedia/deliver/dm-aid--f7c921fe-d10f-4d90-ac38-c79aff7cf132/gulnaz-photo.jpg?preferwebp=true&quality=85","alt":"Gulnaz Sharipova","lazyEnabled":true,"width":"512",":type":"snowflake-site/components/image"},"headline":{"id":"title","type":"heading5","lines":["Gulnaz Sharipova","Lokale Redakteurin, Snowflake"],":type":"snowflake-site/components/title-v2"},":type":"snowflake-site/components/content-chip"}},":itemsOrder":["content_chip_copy","content_chip"],"appliedCssClassNames":"snowflake-responsive-container-inner-padding-small"}},":itemsOrder":["title_v2","text","container"],"appliedCssClassNames":"snowflake-responsive-container-inner-padding-extra-small"},"flexible_column_content_container_2":{"additionalClasses":"hub-hero__video-column","layout":"SIMPLE","id":"container-dce2e2f97e",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"youtube":{"id":"embed-8f42cccdfd","youtubeVideoId":"DPs8nz59kss","layout":"responsive","youtubeAspectRatio":"56.25","youtubeAutoPlay":false,"youtubeLoop":false,"youtubeMute":false,"youtubePlaysInline":false,"youtubeRel":false,"embeddableResourceType":"core/wcm/components/embed/v1/embed/embeddable/youtube","type":"EMBEDDABLE",":type":"snowflake-site/components/youtube"}},":itemsOrder":["youtube"]},":type":"snowflake-site/components/flexible-column-container","isBlogPage":false,"isActiveTOC":false,"appliedCssClassNames":"snowflake-flexible-column-container-gray-10-bg"},"flexible_column_cont_1398138236":{"id":"flexible-column-container-1a7ca1ab50","propertiesId":"hub-hero-related-topics","type":"1-column","alignColumns":"top","containerMaxWidth":"extra-large","topPadding":"extra-small","bottomPadding":"medium","spaceBetween":"small","reverseOnMobile":false,"carouselOnMobile":false,"propertiesCSSClasses":"page-section","backgroundImageOption":"none","flexible_column_content_container_1":{"additionalClasses":"related-topics-outer-container border-top","layout":"SIMPLE","id":"container-e69c44b985",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"text_894059747":{"id":"text-fb389676a6","additionalClasses":"seo-hub-hero__related-topic-label","text":"\u003Cp\u003EThemen der KI-Governance:\u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-size-regular text-color-text-05"},"text":{"id":"text-03d3e8d547","additionalClasses":"related-topics ","text":"\u003Cul\u003E\r\n\u003Cli\u003E\u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/ai-governance/ai-compliance/\"\u003EKI-Compliance\u003C/a\u003E\u003C/li\u003E\r\n\u003Cli\u003E\u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/ai-governance/ai-ethics/\"\u003EKI-Ethik\u003C/a\u003E\u003C/li\u003E\r\n\u003Cli\u003E\u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/ai-governance/ai-risk-management/\"\u003EKI-Risikomanagement\u003C/a\u003E\u003C/li\u003E\r\n\u003Cli\u003E\u003Ca href=\"https://www.snowflake.com/en/artificial-intelligence/ai-governance/ai-traceability/\"\u003EKI-Nachverfolgbarkeit\u003C/a\u003E\u003C/li\u003E\r\n\u003Cli\u003E\u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/ai-governance/ai-transparency/\"\u003EKI-Transparenz\u003C/a\u003E\u003C/li\u003E\r\n\u003Cli\u003E\u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/ai-governance/eu-ai-act/\"\u003EEU AI Act\u003C/a\u003E\u003C/li\u003E\r\n\u003Cli\u003E\u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/ai-governance/iso-42001/\"\u003EISO 42001\u003C/a\u003E\u003C/li\u003E\r\n\u003Cli\u003E\u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/ai-governance/responsible-ai/\"\u003EVerantwortungsvolle KI\u003C/a\u003E\u003C/li\u003E\r\n\u003C/ul\u003E\r\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-size-small"}},":itemsOrder":["text_894059747","text"]},":type":"snowflake-site/components/flexible-column-container","isBlogPage":false,"isActiveTOC":false,"appliedCssClassNames":"snowflake-flexible-column-container-gray-10-bg"},"flexible_column_cont_663228916":{"id":"flexible-column-container-08b68aa825","propertiesId":"hub-body","type":"2-column-60-40","alignColumns":"top","containerMaxWidth":"extra-large","topPadding":"medium","bottomPadding":"medium","spaceBetween":"small","reverseOnMobile":false,"carouselOnMobile":false,"propertiesCSSClasses":"page-section","backgroundImageOption":"none","flexible_column_content_container_1":{"additionalClasses":"longform-content","layout":"SIMPLE","id":"hub-body-content",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"text":{"id":"text-bf2b13b0f7","additionalClasses":"callout callout--general","text":"\u003Cp\u003E\u003Cb\u003EDEFINITION VON ALGORITHMIC BIAS\u003C/b\u003E\u003C/p\u003E\r\n\u003Cp\u003EAlgorithmic Bias (auf Deutsch: algorithmische Verzerrung) ist das Risiko, dass ein KI-System ungleiche oder ungerechte Ergebnisse für verschiedene Gruppen liefert. Er kann in jeder Phase des KI-Lebenszyklus auftreten – von der Datenerfassung und dem Modelltraining bis hin zur Bereitstellung und fortlaufenden Nutzung.\u003C/p\u003E\r\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-size-regular text-color-text-05"},"text_intro_0":{"id":"text-eb82b03a7b","text":"\u003Cp\u003EDa \u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/\"\u003Ekünstliche Intelligenz\u003C/a\u003E zunehmend in Workflows mit weitreichenden Folgen wie Kreditentscheidungen, klinische Risikobewertungen und Bewerbungsprüfungen integriert wird, ist Algorithmic Bias zu einem operativen Risiko mit rechtlichen, ethischen und rufschädigenden Konsequenzen geworden. Das Modell wendet ein erlerntes Muster auf eine Entscheidung an, die sich auf Zugang, Chancen oder Behandlung auswirkt.\u003C/p\u003E\r\n\u003Cp\u003EAlgorithmic Bias tritt ein, wenn diese erlernten Muster systematisch unfaire oder verzerrende Ergebnisse für ganz bestimmte Gruppen generieren. Die Probleme haben ihren Ursprung oft in den Trainingsdaten, Labels, Proxy-Variablen, Zielfunktionen oder im Deployment-Kontext, die zusammen vorgeben, was das Modell lernt und wie seine Outputs verwendet werden. Unternehmen benötigen \u003Ca href=\"https://www.snowflake.com/de/data-governance/\"\u003EData Governance\u003C/a\u003E, Modellevaluierung, Monitoring und menschliche Verantwortlichkeit, um zu verstehen, wo Bias in das System gelangt und welche Kontrollen seine Auswirkungen verringern können. Diese Praktiken bilden das Fundament für \u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/ai-governance/responsible-ai/\"\u003EVerantwortungsvolle KI,\u003C/a\u003E bei der Systeme unter Berücksichtigung von Fairness, Verantwortlichkeit und Risikomanagement entwickelt, evaluiert und gesteuert werden.\u003C/p\u003E\r\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"},"title_what-is-algorithmic-bias":{"id":"title-v2-bf3ffb8233","additionalClasses":"anchor-title anchor-title--what-is-algorithmic-bias","type":"heading2","lines":["Was ist Algorithmic Bias?"],":type":"snowflake-site/components/title-v2"},"text_what-is-algorithmic-bias_0":{"id":"text-fb6c2cc761","text":"\u003Cp\u003EAlgorithmischer Bias bezeichnet einen systematischer Fehler in einem System für KI oder Machine Learning (\u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/machine-learning/\"\u003Emaschinelles Lernen\u003C/a\u003E, ML), der unfaire Vor- oder Nachteile für bestimmte Gruppen schafft. Die betroffene Gruppe wird dabei häufig über ein gesetzlich geschütztes Merkmal wie ethnische Zugehörigkeit, Geschlecht, Alter oder eine Behinderung definiert. Der Bias kann jedoch ebenso über Proxy-Variablen vermittelt werden, die indirekt als Indikator für ein geschütztes Merkmal dienen — wie etwa Postleitzahlen, besuchte Bildungseinrichtungen, Einkommensstrukturen, Gesundheitskosten oder der berufliche Werdegang.\u003C/p\u003E\r\n\u003Cp\u003EDies unterscheidet sich von zufälligen Fehlern, bei denen die Fehler in etwa gleichmäßig auf die Gruppen verteilt sind. Ein Betrugsmodell, das Transaktionen über alle Kundensegmente hinweg mit einer ähnlich hohen Fehlerrate übersieht, hat möglicherweise ein Genauigkeitsproblem, aber nicht zwangsläufig ein Fairnessproblem. Liefert ein Modell jedoch für eine bestimmte Teilgruppe signifikant höhere False-Positive-Raten — selbst wenn die Gesamtgenauigkeit akzeptabel erscheint —, wirft dies ein ganz anderes Problem auf: Die aggregierte, durchschnittliche Metrik verschleiert hierbei Performance-Defizite in Bezug auf diese spezifische Gruppe.\u003C/p\u003E\r\n\u003Cp\u003EAlgorithmic Bias ist auch weiter gefasst als statistischer Bias, ein Fachbegriff, der sich in der Regel auf die Differenz zwischen dem Erwartungswert eines Schätzers und dem wahren Wert, den er zu schätzen versucht, bezieht. In der angewandten Praxis umfasst Algorithmic Bias auch den gesamten sozialen und operativen Kontext des Modells: die Repräsentativität der Trainingsdaten, die Aussagekraft der gewählten Labels, die mathematische Definition der Zielfunktion sowie die Art und Weise, wie Anwender den Output nutzen.\u003C/p\u003E\r\n\u003Cp\u003EEin solcher Bias kann dabei beabsichtigt, unbeabsichtigt oder emergent sein. Ein Modell kann eine absichtliche diskriminierende Regel widerspiegeln, aber häufiger lernt es aus historischen Daten, die durch ungleichen Zugang, inkonsistente Messungen oder institutionelle Prozesse geprägt sind, die nie für eine algorithmische Wiederverwendung konzipiert wurden. Eine Tabelle mit früheren Einstellungsentscheidungen kann beispielsweise wie neutrale Geschäftsdaten aussehen, bis ein Modell sie nutzt, um Muster zu reproduzieren, die durch frühere Rekrutierungsnetzwerke, Beförderungspraktiken oder Auswahlkriterien entstanden sind, die bestimmte Bewerber:innen gegenüber anderen bevorzugten – ein Beispiel für unabsichtlichen Bias. In anderen Fällen kann Bias auch ohne voreingenommene Eingaben oder explizite Regeln entstehen, wenn Wechselwirkungen zwischen Variablen zu systematisch ungleichen Ergebnissen führen.\u003C/p\u003E\r\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"},"title_sources-of-algorithmic-bias":{"id":"title-v2-eb4bc0f095","additionalClasses":"anchor-title anchor-title--sources-of-algorithmic-bias","type":"heading2","lines":["Ursachen für Algorithmic Bias"],":type":"snowflake-site/components/title-v2"},"text_sources-of-algorithmic-bias_0":{"id":"text-e00e195551","text":"\u003Cp\u003EAlgorithmic Bias kann an fast jedem Punkt im KI-Lebenszyklus auftreten, von der Datenerfassung bis zur Modellbereitstellung. Organisationen müssen nicht nur erkennen können, ob ein Modell einen Bias enthält, sondern auch, aus welcher Quelle dieser stammt und über welche Kontrollmechanismen er sich effektiv steuern lässt.\u003C/p\u003E\n\u003Ch3\u003EHistorical Bias (Historische Verzerrung)\u003C/h3\u003E\n\u003Cp\u003EEin Historical Bias tritt auf, wenn die zugrundeliegenden Trainingsdaten historische Diskriminierung oder Ungleichbehandlungen widerspiegeln. Ein Kreditmodell, das auf historischen Daten zu Hypothekenfreigaben trainiert wurde, lernt möglicherweise Muster, die durch Redlining, Wohlstandsgefälle oder frühere Vergabepraktiken geprägt sind. Selbst wenn geschützte Attribute entfernt werden, können verwandte Variablen wie Wohngegend, Einkommensstabilität oder Bonitätshistorie das Muster aufrechterhalten.\u003C/p\u003E\n\u003Cp\u003EDies ist deshalb so kritisch, weil eine „präzise“ historische Vorhersage keineswegs automatisch eine faire Grundlage für zukünftige Entscheidungsprozesse darstellt. Ein Modell kann die Vergangenheit originalgetreu erlernen und dennoch Ergebnisse liefern, die ein Unternehmen nicht wiederholen sollte.\u003C/p\u003E\n\u003Ch3\u003ERepresentation Bias (Repräsentationsbias)\u003C/h3\u003E\n\u003Cp\u003EEin Representation Bias entsteht, wenn bestimmte Bevölkerungsgruppen in den historischen Trainingsdaten systematisch unterrepräsentiert sind. Wenn ein Modell weniger Beispiele einer Untergruppe sieht, hat es in der Regel weniger Informationen, um die für diese Untergruppe geltenden Muster zu erlernen.\u003C/p\u003E\n\u003Cp\u003EGesichtsanalyse-Systeme sind ein bekanntes Beispiel dafür. In der Studie „\u003Ca rel=\"noopener noreferrer\" href=\"https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf\" target=\"_blank\"\u003EGender Shades\u003C/a\u003E“ wiesen die Forscherinnen Joy Buolamwini und Timnit Gebru nach, dass kommerzielle Systeme zur Geschlechterklassifizierung bei hellhäutigen Männern eine drastisch höhere Genauigkeit erzielten als bei dunkelhäutigen Frauen — mit den weitaus höchsten Fehlklassifizierungsraten bei Frauen mit dunklerem Hautton.\u003C/p\u003E\n\u003Cp\u003EDiese Genauigkeitslücken können besonders schädlich werden, wenn Gesichtserkennung in der Strafverfolgung eingesetzt wird: In Detroit wurde Porcha Woodruff, eine Schwarze Frau, die im achten Monat schwanger war, \u003Ca rel=\"noopener noreferrer\" href=\"https://apnews.com/article/detroit-facial-recognition-arrest-821d260e932a4582a6a912dd61fde157\" target=\"_blank\"\u003Everhaftet, nachdem eine Gesichtserkennungs-Technologie\u003C/a\u003E sie bei Ermittlungen zu einem Carjacking als möglichen Treffer ausgab; der Fall wurde später fallengelassen.\u003C/p\u003E\n\u003Ch3\u003EMeasurement Bias (Messverzerrung)\u003C/h3\u003E\n\u003Cp\u003EMeasurement Bias entsteht, wenn ein Feature oder Label das Zielkonzept nicht wirklich misst. Verhaftungsraten messen beispielsweise nicht die Kriminalitätsraten. Sie spiegeln auch Polizeimuster, Meldepraktiken und Prioritäten bei der Strafverfolgung wider. Gesundheitsausgaben messen nicht den gesundheitlichen Bedarf. Sie spiegeln den Zugang zur Versorgung, den Versicherungsschutz, die Zahlungsfähigkeit und das Verhalten bei der Inanspruchnahme von Gesundheitsleistungen wider.\u003C/p\u003E\n\u003Cp\u003EDiese Unterscheidung stand im Mittelpunkt einer \u003Ca rel=\"noopener noreferrer\" href=\"https://www.science.org/doi/10.1126/science.aax2342\" target=\"_blank\"\u003EScience-Studie aus dem Jahr 2019\u003C/a\u003E von Ziad Obermeyer und Co-Autoren, die einen rassistischen Bias in einem weit verbreiteten Gesundheitsrisiko-Algorithmus feststellte, da das Modell die Gesundheitskosten als Proxy für den gesundheitlichen Bedarf verwendete. Obwohl sie denselben Risk Score aufwiesen, waren Schwarze Patient:innen häufig deutlich kränker als weiße Patient:innen — bedingt durch den ungleichen Zugang zum Gesundheitssystem war historisch schlichtweg weniger Geld in ihre medizinische Versorgung geflossen.\u003C/p\u003E\n\u003Ch3\u003EAggregation Bias (Aggregationsbias)\u003C/h3\u003E\n\u003Cp\u003EAggregation Bias tritt auf, wenn ein Modell auf heterogene Populationen angewendet wird, obwohl verschiedene Untergruppen unterschiedliche zugrunde liegende Muster aufweisen. So liefert ein standardisiertes klinisches Modell mitunter mangelhafte Ergebnisse, wenn kritische Biomarker, das Baseline-Risiko oder das klinische Krankheitsbild stark zwischen verschiedenen ethnischen Gruppen, Altersklassen oder medizinischen Versorgungsumgebungen variieren.\u003C/p\u003E\n\u003Cp\u003EDas Ziel ist keineswegs, dass für jede Teilgruppe ein separates Modell entwickelt werden muss. Vielmehr müssen Unternehmen testen, ob das gemeinsame Modell zu der Population passt, für die es eingesetzt wird. Ohne die Evaluierung von Untergruppen kann das Modell im Durchschnitt akzeptabel erscheinen, während es bei den Personen versagt, die in der Gesamtheit am wenigsten repräsentiert sind.\u003C/p\u003E\n\u003Ch3\u003EEvaluation Bias (Evaluierungsbias)\u003C/h3\u003E\n\u003Cp\u003EEin Evaluation Bias entsteht, wenn die genutzten Benchmarks oder Testdaten nicht der tatsächlichen Population in der Produktivumgebung entsprechen. Ein Modell, das mit der Patientenpopulation eines Krankenhauses, dem Bewerberpool eines Arbeitgebers oder den Finanzdaten einer Region trainiert und getestet wurde, kann starke Validierungsergebnisse zeigen und sich dann bei der Bereitstellung an einem anderen Ort anders verhalten.\u003C/p\u003E\n\u003Cp\u003EAus diesem Grund muss die Modellevaluierung zwingend kontext- und deployment-spezifische Datenschnitte berücksichtigen. Ein Betrugsmodell, das beispielsweise für eine Produktlinie trainiert wurde, sollte nicht nur nach globaler Präzision und Recall beurteilt werden, wenn es über Regionen, Kundensegmente und Transaktionskanäle mit unterschiedlichen Verhaltensmustern hinweg eingesetzt wird.\u003C/p\u003E\n\u003Ch3\u003EDeployment Bias\u003C/h3\u003E\n\u003Cp\u003EEin Deployment Bias tritt ein, wenn ein Modell in einem operativen Kontext oder Umfeld eingesetzt wird, für den es ursprünglich gar nicht konzipiert oder optimiert wurde. Ein klinischer Risikowert, der zur Optimierung der Ressourcenallokation in einem bestimmten Krankenhaus entwickelt wurde, funktioniert in einem anderen Krankenhaus mit anderen Patientendemografien, Abrechnungsmodalitäten oder Behandlungspfaden möglicherweise nicht auf die gleiche Weise.\u003C/p\u003E\n\u003Cp\u003EDer Model Output kann für den ursprünglichen Kontext technisch absolut korrekt sein, in einer neuen Umgebung jedoch zu völlig irreführenden Ergebnissen führen. Deshalb müssen Deployment-Entscheidungen lückenlos dokumentiert werden: beabsichtigte Nutzung, ausgeschlossene Nutzungen, Trainings- und Validierungspopulation, bekannte Einschränkungen und erforderliche menschliche Überprüfung.\u003C/p\u003E\n\u003Ch3\u003EFeedback-Loop Bias\u003C/h3\u003E\n\u003Cp\u003EEin Feedback-Loop Bias entsteht, wenn die generierten Outputs eines Modells nachfolgend die Datenbasis verzerren, die zum Training oder zur Aktualisierung zukünftiger Modellversionen herangezogen wird. Predictive Policing ist das klassische Beispiel: Wenn ein Modell mehr Polizei in ein Viertel schickt, werden dort möglicherweise mehr Vorfälle registriert, was die Annahme des Modells verstärkt, dass es sich um ein Hochrisikogebiet handelt.\u003C/p\u003E\n\u003Cp\u003EDasselbe verzerrende Muster lässt sich ebenso in der Betrugsprävention, bei Kreditprüfungen, im Recruiting-Prozess oder im Gesundheitswesen beobachten. Ein Modell, das weniger Bewerber:innen, Kund:innen oder Patient:innen in einen Prozess leitet, kann die zukünftig verfügbaren Daten über diese Gruppen reduzieren, wodurch die nächste Version des Systems für sie noch unzuverlässiger wird.\u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"},"title_detecting-and-measuring-algorithmic-bias":{"id":"title-v2-15ee72c27b","additionalClasses":"anchor-title anchor-title--detecting-and-measuring-algorithmic-bias","type":"heading2","lines":["Erkennung und Messung von algorithmischem Bias"],":type":"snowflake-site/components/title-v2"},"text_457901047":{"id":"text-1f8f34ead0","text":"\u003Cp\u003EDie Bias-Erkennung beginnt bei den Daten und setzt sich über die Modellevaluierung, das Deployment-Monitoring und das Audit fort. Ein Modell kann Standard-Performance-Tests bestehen und dennoch unverhältnismäßige Auswirkungen haben, wenn Teams die Ergebnisse nicht über relevante Gruppen hinweg messen.\u003C/p\u003E\n\u003Cp\u003EDie Performance-Analyse von Untergruppen bildet dafür die Grundlage. Teams vergleichen Genauigkeit, Präzision, Recall, Falsch-Positiv-Raten, Falsch-Negativ-Raten und Kalibrierung über demografische Segmente oder andere relevante Gruppen hinweg. Für ein Einstellungsmodell könnte das bedeuten, die Auswahlquoten nach Geschlecht, ethnischer Zugehörigkeit und Altersgruppe zu vergleichen. Für ein klinisches Modell könnte es bedeuten, den Recall über Krankenhäuser, Versicherungsarten, Sprachgruppen oder Krankheitssubtypen hinweg zu messen.\u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"},"quote_item":{"id":"quote-item-70526c028d","alignment":"left","layout":"simple","showQuoteIcon":true,"quote":"Ein Modell kann Standard-Performance-Tests bestehen und dennoch unverhältnismäßige Auswirkungen haben, wenn Teams die Ergebnisse nicht über relevante Gruppen hinweg messen.","showHangingPunctuation":false,":type":"snowflake-site/components/quote-item"},"text_detecting-and-measuring-algorithmic-bias_0":{"id":"text-4c915ea153","text":"\u003Cp\u003EEs werden häufig verschiedene KI-Fairness-Metriken verwendet:\u003C/p\u003E\n\u003Cul\u003E\n\u003Cli\u003E\u003Cb\u003EDemografische Parität:\u003C/b\u003E Ein Modell erfüllt die demografische Parität, wenn die positiven Vorhersagequoten über alle Gruppen hinweg ähnlich sind. Bei einer Bewerberauswahl bedeutet das, dass verschiedene Gruppen in ähnlichem Maße weiterkommen. Dies kann hilfreich sein, um ungleiche Auswirkungen zu erkennen, berücksichtigt jedoch keine Unterschiede in der zugrunde liegenden Qualifikation oder Risikoverteilung.\u003C/li\u003E\n\u003Cli\u003E\u003Cb\u003EChancengleichheit und Equalized Odds:\u003C/b\u003E Chancengleichheit konzentriert sich auf gleiche Richtig-Positiv-Raten über alle Gruppen hinweg. Equalized Odds erweitert dies sowohl auf Richtig-Positiv- als auch auf Falsch-Positiv-Raten. Diese Metriken sind oft nützlich, wenn sich die Kosten für ein verpasstes positives Ergebnis oder einen Fehlalarm zwischen den Gruppen unterscheiden.\u003C/li\u003E\n\u003Cli\u003E\u003Cb\u003EKalibrierung innerhalb von Gruppen:\u003C/b\u003E Ein Modell gilt innerhalb der Gruppen als kalibriert, wenn eine prognostizierte Wahrscheinlichkeit für jede einzelne Teilgruppe denselben empirischen Aussagewert besitzt. Wenn zwei Bewerber:innen eine Rückzahlungswahrscheinlichkeit von 0,8 erhalten, sollte die beobachtete Rückzahlungsquote über die Gruppen hinweg ähnlich sein. Die Kalibrierung ist besonders wichtig bei der Risikobewertung, bei der die Ausgabe als Wahrscheinlichkeit und nicht als einfache Ja/Nein-Entscheidung verwendet wird.\u003C/li\u003E\n\u003Cli\u003E\u003Cb\u003ECounterfactual Fairness (Kontrafaktische Fairness):\u003C/b\u003E Counterfactual Fairness untersucht, ob sich die Modellprognose ändern würde, wenn ein geschütztes Merkmal hypothetisch variiert, während die zugrundeliegende kausale Struktur ansonsten absolut unverändert bleibt. Dies ist konzeptionell stark, erfordert jedoch sorgfältige kausale Annahmen und lässt sich nicht auf eine einfache Dashboard-Metrik reduzieren.\u003C/li\u003E\n\u003C/ul\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"},"text_1305005855":{"id":"text-cab92975c7","text":"\u003Ctable\u003E\n\u003Cthead\u003E\u003Ctr\u003E\u003Cth\u003EFairness-Metrik\u003C/th\u003E\n\u003Cth\u003EDefinition\u003C/th\u003E\n\u003Cth\u003EIdealer Anwendungsfall\u003C/th\u003E\n\u003C/tr\u003E\u003C/thead\u003E\u003Ctbody\u003E\u003Ctr\u003E\u003Ctd\u003E\u003Cb\u003EDemografische Parität\u003C/b\u003E\u003C/td\u003E\n\u003Ctd\u003EStellt sicher, dass der \u003Cb\u003EProzentsatz positiver Ergebnisse\u003C/b\u003E (e.g., angebotene Stellen) über alle geschützten Gruppen hinweg gleich ist.\u003C/td\u003E\n\u003Ctd\u003E\u003Cp\u003EÜbergeordnete Prüfung auf unverhältnismäßige Auswirkungen bei Einstellungs- oder Zulassungsverfahren.\u003C/p\u003E\n\u003C/td\u003E\n\u003C/tr\u003E\u003Ctr\u003E\u003Ctd\u003E\u003Cb\u003EChancengleichheit\u003C/b\u003E\u003C/td\u003E\n\u003Ctd\u003EStellt sicher, dass die \u003Cb\u003ERichtig-Positiv-Raten\u003C/b\u003E gleich sind; qualifizierte Kandidat:innen aus allen Gruppen haben die gleichen Erfolgschancen.\u003C/td\u003E\n\u003Ctd\u003ESzenarien, in denen die „Kosten“ einer verpassten Chance hoch sind (e.g., Kreditgenehmigungen).\u003C/td\u003E\n\u003C/tr\u003E\u003Ctr\u003E\u003Ctd\u003E\u003Cb\u003EEqualized Odds\u003C/b\u003E\u003C/td\u003E\n\u003Ctd\u003EEine strengere Version der Chancengleichheit, die sowohl \u003Cb\u003ERichtig-Positiv-\u003C/b\u003E als auch \u003Cb\u003EFalsch-Positiv-Raten\u003C/b\u003E ausgleicht.\u003C/td\u003E\n\u003Ctd\u003EKritische Risikobewertung, bei der sowohl „Fehlalarme“ als auch „Übersehene Fälle“ gesellschaftliches Gewicht haben.\u003C/td\u003E\n\u003C/tr\u003E\u003Ctr\u003E\u003Ctd\u003E\u003Cb\u003EKalibrierung\u003C/b\u003E\u003C/td\u003E\n\u003Ctd\u003EStellt sicher, dass eine \u003Cb\u003Evorhergesagte Wahrscheinlichkeit\u003C/b\u003E (e.g., 80 % Risiko) über alle Untergruppen hinweg dasselbe bedeutet.\u003C/td\u003E\n\u003Ctd\u003ERisikobasierte Preisgestaltung, Risikoprüfung bei Versicherungen und klinische Entscheidungsunterstützung.\u003C/td\u003E\n\u003C/tr\u003E\u003Ctr\u003E\u003Ctd\u003E\u003Cb\u003ECounterfactual Fairness\u003C/b\u003E\u003C/td\u003E\n\u003Ctd\u003EPrüft, ob sich eine Entscheidung \u003Cb\u003Eändern\u003C/b\u003E würde, wenn nur ein geschütztes Merkmal (wie das Geschlecht) geändert würde.\u003C/td\u003E\n\u003Ctd\u003ETiefe kausale Analyse und „Fairness by Design“ während der Modellarchitektur.\u003C/td\u003E\n\u003C/tr\u003E\u003C/tbody\u003E\u003C/table\u003E\n","richText":true,":type":"snowflake-site/components/text"},"text_458894213":{"id":"text-5131fb3ddb","text":"\u003Cp\u003EFairness-Metriken beinhalten auch Kompromisse. Studien von \u003Ca rel=\"noopener noreferrer\" href=\"https://www.researchgate.net/publication/314153531_Fair_prediction_with_disparate_impact_A_study_of_bias_in_recidivism_prediction_instruments\" target=\"_blank\"\u003EAlexandra Chouldechova\u003C/a\u003E und \u003Ca rel=\"noopener noreferrer\" href=\"https://arxiv.org/abs/1609.05807\" target=\"_blank\"\u003EJon Kleinberg et al.\u003C/a\u003E haben gezeigt, dass gängige Fairness-Kriterien außer unter begrenzten Bedingungen nicht alle gleichzeitig erfüllt werden können, insbesondere wenn sich die Basisraten zwischen den Gruppen unterscheiden. Das bedeutet, dass die Bias-Erkennung nicht nur eine technische Bewertungsaufgabe ist. Unternehmen müssen entscheiden, welche Fairness-Kriterien zum Entscheidungskontext, zu den gesetzlichen Anforderungen und zu den Schäden passen, die sie reduzieren möchten.\u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"},"quote_item_1172670388":{"id":"quote-item-df32d1e513","alignment":"left","layout":"simple","showQuoteIcon":true,"quote":"Bias-Erkennung ist keine rein technische Bewertungsaufgabe – Unternehmen müssen entscheiden, welche Fairness-Kriterien zum Entscheidungskontext, zu den rechtlichen Anforderungen und zu den Schäden passen, die sie reduzieren möchten.","showHangingPunctuation":false,":type":"snowflake-site/components/quote-item"},"text_1686063074":{"id":"text-79ee3c3a1a","text":"\u003Cp\u003ETools können dabei helfen, diese Arbeit wiederholbar zu machen. \u003Ca rel=\"noopener noreferrer\" target=\"_blank\" href=\"https://ai-fairness-360.org/\"\u003EAI Fairness 360\u003C/a\u003E (AIF360) ist ein Open-Source-Toolkit, das ursprünglich von IBM Research entwickelt wurde, um Bias über den gesamten ML-Lebenszyklus hinweg zu untersuchen, zu dokumentieren und zu minimieren. \u003Ca rel=\"noopener noreferrer\" target=\"_blank\" href=\"https://fairlearn.org/\"\u003EFairlearn\u003C/a\u003E hilft Fachleuten bei der Bewertung und Minderung von Fairness-Problemen in KI-Systemen, unter anderem durch Metriken und Minderungsalgorithmen. Mit dem \u003Ca href=\"https://pair-code.github.io/what-if-tool/\" target=\"_blank\"\u003EWhat-If Tool von Google und PAIR\u003C/a\u003E können Teams das Modellverhalten über Eingaben, Teilmengen und Fairness-Metriken hinweg testen. Feature-Attribution-Tools wie SHAP können Teams auch dabei helfen, zu untersuchen, welche Variablen die Vorhersagen beeinflussen, obwohl die Feature Importance allein keine Fairness beweist.\u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"},"text_87988342":{"id":"text-57b060b744","additionalClasses":"callout callout--general","text":"\u003Cp\u003E\u003Cb\u003EHÄUFIGER FALLSTRICK\u003C/b\u003E\u003C/p\u003E\n\u003Cp\u003ESchließen Sie niemals blind von einer hohen globalen Gesamt-Performance auf die Fairness eines Modells. Bewerten Sie die Ergebnisse über verschiedene Gruppen hinweg, um Disparitäten aufzudecken, die durch aggregierte Metriken verborgen bleiben können.\u003C/p\u003E\n\u003Cp\u003E \u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-size-regular text-color-text-05"},"title_mitigating-algorithmic-bias":{"id":"title-v2-ff78927655","additionalClasses":"anchor-title anchor-title--mitigating-algorithmic-bias","type":"heading2","lines":["Minimierung von Algorithmic Bias"],":type":"snowflake-site/components/title-v2"},"text_mitigating-algorithmic-bias_0":{"id":"text-af5cf8fedd","text":"\u003Cp\u003EDie Minderung hängt davon ab, wo der Bias in das System gelangt. Einige Probleme erfordern Datenänderungen, andere Modelländerungen, wieder andere Schwellenwert- oder Richtlinienänderungen und manche erfordern eine organisatorische Überprüfung, bevor ein Modell überhaupt verwendet werden sollte.\u003C/p\u003E\r\n\u003Ch3\u003EPre-Processing-Interventionen\u003C/h3\u003E\r\n\u003Cp\u003EPre-Processing-Techniken modifizieren die Trainingsdaten vor dem Modelltraining. Teams können Beispiele neu gewichten, damit unterrepräsentierte Gruppen mehr Einfluss haben, Resampling der Daten durchführen, um die Repräsentation von Untergruppen auszugleichen, Data Augmentation nutzen, um Beispiele für unterrepräsentierte Gruppen hinzuzufügen, oder faire Repräsentationen erlernen, die die Fähigkeit des Modells verringern, geschützte Attribute zu kodieren.\u003C/p\u003E\r\n\u003Cp\u003EDiese Techniken können helfen, wenn das Dataset unausgewogen ist oder bestimmte Gruppen unterrepräsentiert sind, aber sie lösen nicht jedes Problem. Wenn das Label selbst verzerrt ist, wird ein Resampling der Tabelle die Bedeutung der Zielvariablen nicht korrigieren.\u003C/p\u003E\r\n\u003Ch3\u003EIn-Processing-Interventionen\u003C/h3\u003E\r\n\u003Cp\u003EIn-Processing-Techniken verändern das Modelltraining. Ein Team könnte der Verlustfunktion Fairness-Beschränkungen hinzufügen, Adversarial Debiasing verwenden, um das Signal geschützter Attribute in erlernten Repräsentationen zu reduzieren, oder einen Reduktionsansatz nutzen, der durch Fairness-Beschränkungen gesteuertes Lernen in eine Abfolge kostensensitiver Klassifizierungsprobleme verwandelt.\u003C/p\u003E\r\n\u003Cp\u003EDiese Methoden sind nützlich, wenn Fairness während des Trainings neben der Genauigkeit optimiert werden muss. Sie erfordern auch, dass Teams eine Fairness-Beschränkung explizit auswählen, da die Optimierung auf demografische Parität ein anderes Verhalten hervorrufen kann als die Optimierung auf Chancengleichheit.\u003C/p\u003E\r\n\u003Ch3\u003EPost-Processing-Interventionen\u003C/h3\u003E\r\n\u003Cp\u003EPost-Processing-Techniken passen die Modellausgaben nach dem Training an. Ein Team kann eine Schwellenwertanpassung pro Gruppe verwenden, um bestimmte Fehlerraten anzugleichen, oder Calibrated Equalized Odds Post-Processing anwenden, um Vorhersagen zu ändern und gleichzeitig Aspekte der Kalibrierung beizubehalten.\u003C/p\u003E\r\n\u003Cp\u003EDiese Methoden können praktisch sein, wenn ein Modell bereits trainiert ist oder wenn Teams keinen Zugriff auf die gesamte Trainings-Pipeline haben. Sie erfordern zudem eine sorgfältige Governance, da unterschiedliche Schwellenwerte je nach Gruppe rechtliche, ethische und Kommunikationsfragen aufwerfen können – abhängig vom jeweiligen Anwendungsbereich.\u003C/p\u003E\r\n\u003Ch3\u003EData-Pipeline-Interventionen\u003C/h3\u003E\r\n\u003Cp\u003EViele Bias-Probleme sind Data-Pipeline-Probleme. Teams müssen möglicherweise Labels korrigieren, Erfassungspraktiken verbessern, die Datenherkunft dokumentieren, Proxy-Variablen prüfen oder fehlende Untergruppenattribute für Tests unter kontrolliertem Zugriff hinzufügen. Eine für das Modelltraining verwendete Tabelle sollte zeigen, woher das Label stammt, welche Transformationen jedes Feature erstellt haben, wie die Aktualität überwacht wird und wer für Qualitätsausnahmen verantwortlich ist.\u003C/p\u003E\r\n\u003Cp\u003EKönnen Entwicklungsteams ein Feature nicht bis zu seiner Quelle zurückverfolgen, nicht eindeutig feststellen, ob ein gesetzlich geschütztes Merkmal oder ein Proxy einfloss, oder die genauen Trainingsdaten einer Modellversion nicht reproduzieren, ist eine verlässliche Erklärung oder Minimierung von Algorithmic Bias unmöglich.\u003C/p\u003E\r\n\u003Ch3\u003EOrganisatorische Interventionen\u003C/h3\u003E\r\n\u003Cp\u003EDie Minderung von Bias hängt auch von menschlicher Beteiligung ab. Diverse Review-Teams, Stakeholder-Konsultationen, \u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/ai-governance/ai-ethics/\"\u003EKI-Ethik\u003C/a\u003E-Prüfungen, Bias-Impact-Statements und Eskalationspfade helfen Unternehmen dabei, Schäden zu bewerten, die in Modellmetriken allein nicht sichtbar werden.\u003C/p\u003E\r\n\u003Cp\u003EInsbesondere bei kritischen KI-Systemen mit hohem Risikoprofil müssen Teams den exakten Einsatzzweck, betroffene Zielpopulationen, bekannte Limitierungen, gewählte Fairness-Kriterien, getroffene Mitigation-Entscheidungen sowie den fortlaufenden Monitoring-Plan lückenlos dokumentieren. Das Ziel ist nicht, zu behaupten, dass Bias eliminiert wurde. Es geht darum, zu zeigen, dass das Unternehmen plausible Risiken identifiziert, auf diese getestet, angemessene Kontrollen ausgewählt und Nachweise für Überprüfungen aufbewahrt hat.\u003C/p\u003E\r\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"},"title_regulatory-expectations-on-algorithmic-bias":{"id":"title-v2-de9145d6d2","additionalClasses":"anchor-title anchor-title--regulatory-expectations-on-algorithmic-bias","type":"heading2","lines":["Regulatorische Anforderungen an algorithmischen Bias"],":type":"snowflake-site/components/title-v2"},"text_regulatory-expectations-on-algorithmic-bias_0":{"id":"text-864c97c265","text":"\u003Cp\u003EAufsichtsbehörden erwarten zunehmend, dass Unternehmen nachweisen, wie sie algorithmische Entscheidungen testen, dokumentieren und steuern – insbesondere in den Bereichen Beschäftigung, Kreditvergabe, Wohnungswesen, Gesundheitswesen, Bildungswesen und anderen Bereichen mit hohen gesellschaftlichen Auswirkungen.\u003C/p\u003E\r\n\u003Cp\u003E\u003Ca href=\"https://www.snowflake.com/en/artificial-intelligence/ai-governance/eu-ai-act/\"\u003EDer EU AI Act\u003C/a\u003E verlangt, dass Hochrisiko-KI-Systeme, die Trainings-, Validierungs- und Testdaten verwenden, die Anforderungen an Data Governance und Datenqualität erfüllen. Artikel 10 befasst sich mit Datenerfassung, -aufbereitung, -relevanz, -repräsentativität, Fehlern, Vollständigkeit, Bias und dem beabsichtigten Zweck des Systems.\u003C/p\u003E\r\n\u003Cp\u003EDas Bundesamt für Sicherheit in der Informationstechnik (BSI) hat 2025 ein \u003Ca rel=\"noopener noreferrer\" target=\"_blank\" href=\"https://www.bsi.bund.de/DE/Service-Navi/Presse/Alle-Meldungen-News/Meldungen/Whitepaper_Bias_KI_250724.html\"\u003EWhitepaper zu Bias in der künstlichen Intelligenz\u003C/a\u003E veröffentlicht, das Unternehmen einen Überblick über Bias-Typen, Ursachen und Gegenmaßnahmen aus Sicht der deutschen Informationssicherheit bietet.\u003C/p\u003E\r\n\u003Cp\u003EIn den USA sind bestehende Antidiskriminierungsgesetze weiterhin anwendbar, wenn eine Entscheidung algorithmisch getroffen wird. Der Equal Credit Opportunity Act, Title VII und der Fair Housing Act können greifen, wenn automatisierte Systeme Entscheidungen in den Bereichen Kreditvergabe, Beschäftigung oder Wohnungswesen beeinflussen. Für KI-gestützte Einstellungen hat die Equal Employment Opportunity Commission technische Leitlinien herausgegeben, die erklären, wie Personalauswahl-Tools Bedenken hinsichtlich Disparate Impact (unverhältnismäßige Auswirkungen) gemäß Title VII aufwerfen können.\u003C/p\u003E\r\n\u003Cp\u003ENeuere staatliche und lokale Vorschriften fügen explizitere Anforderungen an die \u003Ca href=\"https://www.snowflake.com/de/artificial-intelligence/ai-governance/\"\u003EKI-Governance\u003C/a\u003E hinzu. Das Local Law 144 von New York City verbietet Arbeitgebern und Arbeitsvermittlungen die Verwendung automatisierter Tools für Beschäftigungsentscheidungen, es sei denn, das Tool wurde innerhalb eines Jahres einem Bias-Audit unterzogen, die Audit-Informationen sind öffentlich zugänglich und Bewerber:innen oder Mitarbeiter:innen wurden entsprechend informiert. Der AI Act von Colorado verlangt von Entwicklern und Betreibern von Hochrisiko-KI-Systemen, angemessene Sorgfalt walten zu lassen, um Verbraucher:innen vor bekannten oder vernünftigerweise vorhersehbaren Risiken algorithmischer Diskriminierung zu schützen. Diese Anforderungen treten am 1. Februar 2026 in Kraft.\u003C/p\u003E\r\n\u003Cp\u003EFür Unternehmen weisen KI-Compliance-Anforderungen auf dasselbe Betriebsmodell hin: Folgenabschätzungen, Bias-Audits, Nachweise über nachteilige Maßnahmen, Modelldokumentation, Monitoring und klare Verantwortlichkeit für Entscheidungen, die Menschen betreffen.\u003C/p\u003E\r\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"},"title_how-snowflake-helps-organizations-address-algorithmic-bias":{"id":"title-v2-b6245cc7ee","additionalClasses":"anchor-title anchor-title--how-snowflake-helps-organizations-address-algorithmic-bias","type":"heading2","lines":["Wie Snowflake Unternehmen dabei hilft, algorithmischen Bias zu adressieren"],":type":"snowflake-site/components/title-v2"},"text_how-snowflake-helps-organizations-address-algorithmic-bias_0":{"id":"text-6acf6fd5e4","text":"\u003Cp\u003EDie Minderung von algorithmischem Bias und das Risikomanagement hängen von einer geregelten Daten- und KI-Grundlage ab. Teams müssen wissen, welche Daten für das Training verwendet wurden, welche Spalten geschützte Attribute oder Proxy-Variablen enthalten könnten, welche Transformationen Modell-Features erstellt haben, welche Modellversion eine Ausgabe erzeugt hat und welche Kontrollen den Zugriff auf sensible Daten einschränken.\u003C/p\u003E\r\n\u003Cp\u003ESnowflake bietet Funktionen, die diesen Workflow innerhalb der \u003Ca href=\"https://www.snowflake.com/de/why-snowflake/what-is-data-cloud/\"\u003EAI Data Cloud\u003C/a\u003E unterstützen können. \u003Ca href=\"https://www.snowflake.com/de/product/features/horizon/\"\u003ESnowflake Horizon Catalog\u003C/a\u003E hilft Unternehmen dabei, sensible Daten zu klassifizieren, Tags anzuwenden, Zugriffskontrollen durchzusetzen, sensible Felder mit Dynamic Data Masking zu schützen und Row Access Policies anzuwenden. Diese Kontrollen sind nützlich für Bias-Audit-Workflows, da geschützte Attribute oft für kontrollierte Tests verfügbar sein müssen, während sie für die allgemeine Modellentwicklung oder geschäftliche Nutzung weiterhin gesperrt bleiben.\u003C/p\u003E\r\n\u003Cp\u003ESnowpark ML und Cortex AI können Bias-Erkennungs-Workflows direkt für Trainings-, Validierungs- und Inferenzdaten in Snowflake unterstützen, einschließlich Workflows, die bei Bedarf Open-Source-Bibliotheken wie Fairlearn oder AIF360 verwenden. Die Arbeit nahe an kontrollierten Daten zu halten hilft, unnötige Datenbewegungen sensibler Attribute, Vorhersagen und Evaluierungsergebnisse zu reduzieren.\u003C/p\u003E\r\n\u003Cp\u003EMit der Snowflake Model Registry können Teams Modelle und zugehörige Metadaten in Snowflake verwalten, und ihre API unterstützt Metriken, die mit Modellversionen verknüpft sind. Teams können Untergruppenmetriken neben Standard-Performance-Metriken protokollieren, sodass eine Modellversion nicht nur anhand der aggregierten Genauigkeit oder des F1-Scores bewertet wird. Snowflake ML Observability unterstützt zudem das Monitoring von Produktionsmodellen über Dimensionen wie Performance, Drift und Volumen hinweg.\u003C/p\u003E\r\n\u003Cp\u003EAccess History, Masking Policies und Tag-based Masking Policies können helfen, die Auditierbarkeit zu erhalten und gleichzeitig die Offenlegung einzuschränken. Snowflake Access History zeichnet Vorgänge wie Richtlinienaktualisierungen und Tag-Änderungen auf, während Tag-based Masking Policies getaggte Spalten, die sensible Daten enthalten, automatisch schützen können. Für die Bias-Governance bedeutet das, dass Teams Kontrollen mit den in KI-Workflows verwendeten Datenobjekten verknüpfen, den Zugriff auf sensible Attribute nachverfolgen und Nachweise für Modellüberprüfungen, Audits und behördliche Anfragen aufbewahren können.\u003C/p\u003E\r\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"},"title_bias-control-starts-before-the-model":{"id":"title-v2-2dfc619961","additionalClasses":"anchor-title anchor-title--bias-control-starts-before-the-model","type":"heading2","lines":["Die Bias-Kontrolle beginnt vor dem Modell"],":type":"snowflake-site/components/title-v2"},"text_bias-control-starts-before-the-model_0":{"id":"text-90495b10a2","text":"\u003Cp\u003EAlgorithmischer Bias wird oft in der Modellausgabe entdeckt, beginnt aber meist früher: in der für das Training ausgewählten Tabelle, dem als Ground Truth gewählten Label, der scheinbar praktischen Proxy-Variablen, dem Benchmark, der eine Untergruppe übersehen hat, oder dem Bereitstellungskontext, der sich nach der Validierung geändert hat. Die Bewältigung dieser Risiken erfordert algorithmische Verantwortlichkeit, bei der Unternehmen Entscheidungen über Daten, Modelle und Prozesse hinweg zurückverfolgen und nachweisen können, wie Ergebnisse erzielt und kontrolliert wurden.\u003C/p\u003E\n\u003Cp\u003EDie Reduzierung von Bias erfordert, dass Unternehmen über geregelte Daten, dokumentierte Datenherkunft, kontrollierten Zugriff auf geschützte Attribute, Untergruppenauswertungen, Nachweise von Modellversionen, Monitoring und einen Überprüfungsprozess verfügen, der technische Erkenntnisse mit rechtlichen, ethischen und operativen Entscheidungen verknüpfen kann. In diesem Sinne ist die Minderung von algorithmischem Bias keine einmalige Modellkorrektur. Es handelt sich um eine KI-Governance-Praxis, die das System von der Datensammlung über die Bereitstellung bis hin zum Audit begleitet.\u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"},"text_1773318063":{"id":"text-a199878c3f","additionalClasses":"callout callout--general","text":"\u003Cp\u003E\u003Cb\u003EWICHTIGSTE ERKENNTNIS\u003C/b\u003E\u003C/p\u003E\n\u003Cp\u003EAlgorithmischer Bias kann aus den Daten, Labels, Bewertungsmethoden und Bereitstellungsentscheidungen entstehen, die die Funktionsweise von KI-Systemen prägen. Die Reduzierung von Bias erfordert fortlaufende Governance, Tests und Monitoring, um sicherzustellen, dass Modelle im Laufe der Zeit fairere und zuverlässigere Ergebnisse liefern.\u003C/p\u003E\n\u003Cp\u003E \u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-size-regular text-color-text-05"}},":itemsOrder":["text","text_intro_0","title_what-is-algorithmic-bias","text_what-is-algorithmic-bias_0","title_sources-of-algorithmic-bias","text_sources-of-algorithmic-bias_0","title_detecting-and-measuring-algorithmic-bias","text_457901047","quote_item","text_detecting-and-measuring-algorithmic-bias_0","text_1305005855","text_458894213","quote_item_1172670388","text_1686063074","text_87988342","title_mitigating-algorithmic-bias","text_mitigating-algorithmic-bias_0","title_regulatory-expectations-on-algorithmic-bias","text_regulatory-expectations-on-algorithmic-bias_0","title_how-snowflake-helps-organizations-address-algorithmic-bias","text_how-snowflake-helps-organizations-address-algorithmic-bias_0","title_bias-control-starts-before-the-model","text_bias-control-starts-before-the-model_0","text_1773318063"],"appliedCssClassNames":"snowflake-responsive-container-inner-padding-medium"},"flexible_column_content_container_2":{"additionalClasses":"hub-sidebar","layout":"SIMPLE","id":"hub-body-aside",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"container":{"additionalClasses":"sticky-sidebar","layout":"RESPONSIVE_GRID","columnCount":12,"gridClassNames":"aem-Grid aem-Grid--12 aem-Grid--default--12","columnClassNames":{"text_943981956_copy_":"aem-GridColumn aem-GridColumn--default--12","text_copy":"aem-GridColumn aem-GridColumn--default--12"},"id":"container-2a584073e8",":type":"snowflake-site/components/container",":items":{"text_943981956_copy_":{"id":"text-126bd09ded","additionalClasses":"eyebrow-text","text":"\u003Cp\u003EIn diesen Grundlagen\u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-size-regular"},"text_copy":{"id":"text-5b7a394297","additionalClasses":"page-toc","text":"\u003Cul\u003E\n\u003Cli data-anchor=\"what-is-algorithmic-bias\"\u003EWas ist Algorithmic Bias?\u003C/li\u003E\n\u003Cli data-anchor=\"sources-of-algorithmic-bias\"\u003EUrsachen für Algorithmic Bias\u003C/li\u003E\n\u003Cli data-anchor=\"detecting-and-measuring-algorithmic-bias\"\u003EErkennung und Messung von algorithmischem Bias\u003C/li\u003E\n\u003Cli data-anchor=\"mitigating-algorithmic-bias\"\u003EMinimierung von Algorithmic Bias\u003C/li\u003E\n\u003Cli data-anchor=\"regulatory-expectations-on-algorithmic-bias\"\u003ERegulatorische Anforderungen an algorithmischen Bias\u003C/li\u003E\n\u003Cli data-anchor=\"how-snowflake-helps-organizations-address-algorithmic-bias\"\u003EWie Snowflake Unternehmen dabei hilft, algorithmischen Bias zu adressieren\u003C/li\u003E\n\u003Cli data-anchor=\"bias-control-starts-before-the-model\"\u003EDie Bias-Kontrolle beginnt vor dem Modell\u003C/li\u003E\n\u003C/ul\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-size-small text-color-text-05"}},":itemsOrder":["text_943981956_copy_","text_copy"],"appliedCssClassNames":"snowflake-responsive-container-inner-padding-medium"}},":itemsOrder":["container"],"appliedCssClassNames":"snowflake-responsive-container-inner-padding-small"},":type":"snowflake-site/components/flexible-column-container","isBlogPage":false,"isActiveTOC":false},"flexible_column_cont_1786318617":{"id":"flexible-column-container-cd2c9fc7d3","propertiesId":"hub-faq","type":"2-column-40-60","alignColumns":"top","containerMaxWidth":"extra-large","topPadding":"large","bottomPadding":"large","spaceBetween":"small","reverseOnMobile":false,"carouselOnMobile":false,"backgroundImageOption":"none","flexible_column_content_container_1":{"layout":"SIMPLE","id":"hub-faq-intro",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"title_v2_copy":{"id":"title-v2-92d9c6dc96","additionalClasses":"hub-faq__headline","type":"heading2","lines":["Häufig gestellte Fragen"],":type":"snowflake-site/components/title-v2","appliedCssClassNames":"left-alignment"},"text_copy":{"id":"text-7c6ad24192","additionalClasses":"hub-faq__subheadline","text":"\u003Cp\u003EIhre häufig gestellten Fragen zu algorithmischem Bias, beantwortet von Snowflake-Expert:innen.\u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"}},":itemsOrder":["title_v2_copy","text_copy"],"appliedCssClassNames":"snowflake-responsive-container-inner-padding-extra-small"},"flexible_column_content_container_2":{"layout":"SIMPLE","id":"hub-faq-accordions",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"simple_snowflake_acc":{"id":"simple-snowflake-accordion-a069ec8c2b","additionalClasses":"seo-hub__faqs","showDivider":false,"accordionItemsList":[{"title":"Was verursacht algorithmischen Bias?","richText":"\u003Cp\u003EAlgorithmischer Bias kann durch voreingenommene Trainingsdaten, historische Diskriminierung, Unterrepräsentation, fehlerhafte Labels, Proxy-Variablen, Aggregation über ungleiche Populationen hinweg, Bewertungslücken und Unstimmigkeiten bei der Bereitstellung entstehen. Es ist nicht nur ein Problem mit „schlechten Daten\". Ein Dataset kann korrekt, vollständig und gut strukturiert sein und dennoch ungleichen Zugang, inkonsistente Messungen oder frühere institutionelle Entscheidungen widerspiegeln.\u003C/p\u003E"},{"title":"Was sind bekannte Beispiele für algorithmischen Bias?","richText":"\u003Cp\u003EZu den bekannten Beispielen gehören die COMPAS-Risikobewertungen für Rückfälligkeit, der von Amazon abgesetzte experimentelle Algorithmus zur Personalauswahl, die von Obermeyer und Mitautoren dokumentierte Risikobewertung im Gesundheitswesen, die von Buolamwini und Gebru dokumentierten Genauigkeitslücken bei der Gesichtserkennung sowie Diskrepanzen bei der Hypothekenvergabe durch algorithmische oder Fintech-Kreditvergabe.\u003C/p\u003E"},{"title":"Kann algorithmischer Bias eliminiert werden?","richText":"\u003Cp\u003ENicht vollständig. Fairness-Metriken können miteinander in Konflikt geraten, und Unternehmen können demografische Parität, Kalibrierung und angeglichene Fehlerraten oft nicht gleichzeitig erfüllen, außer unter begrenzten Bedingungen. Die Minderung von Bias ist daher ein Governance-Prozess: Wählen Sie die Fairness-Kriterien, die zum Entscheidungskontext passen, testen Sie die Ergebnisse von Untergruppen, dokumentieren Sie Kompromisse, wenden Sie Kontrollen an und überwachen Sie die Performance nach der Bereitstellung.\u003C/p\u003E"},{"title":"Wie wird algorithmischer Bias reguliert?","richText":"\u003Cp\u003EAlgorithmischer Bias wird durch eine Mischung aus KI-spezifischen Regeln und bestehenden Antidiskriminierungsgesetzen reguliert. Das \u003Ca href=\"https://artificialintelligenceact.eu/\" target=\"_blank\"\u003EEU-KI-Gesetz\u003C/a\u003E beinhaltet Data-Governance- und Bias-bezogene Anforderungen für Hochrisiko-KI-Systeme. Das New York City Local Law 144 schreibt Bias-Audits für bestimmte automatisierte Tools für Einstellungsentscheidungen vor. Der Colorado AI Act befasst sich mit algorithmischer Diskriminierung in Hochrisiko-KI-Systemen. Bestehende Gesetze wie der Equal Credit Opportunity Act, Title VII und der Fair Housing Act können ebenfalls Anwendung finden, wenn algorithmische Systeme Kredit-, Beschäftigungs- oder Wohnungsentscheidungen beeinflussen.\u003C/p\u003E"}],":type":"snowflake-site/components/simple-snowflake-accordion"}},":itemsOrder":["simple_snowflake_acc"]},":type":"snowflake-site/components/flexible-column-container","isBlogPage":false,"isActiveTOC":false,"appliedCssClassNames":"snowflake-flexible-column-container-gray-10-bg"},"flexible_column_cont_1467213961":{"id":"flexible-column-container-dde4f8a9a6","propertiesId":"hub-explore-resources-header","type":"1-column","alignColumns":"top","containerMaxWidth":"extra-large","topPadding":"large","bottomPadding":"none","spaceBetween":"small","reverseOnMobile":false,"carouselOnMobile":false,"backgroundImageOption":"none","flexible_column_content_container_1":{"layout":"SIMPLE","id":"container-a43159a3c2",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"title_v2":{"id":"title-v2-22576f8b86","additionalClasses":"hub-explore-resources-header__headline","type":"heading2","lines":["KI-Ressourcen entdecken"],":type":"snowflake-site/components/title-v2","appliedCssClassNames":"left-alignment"}},":itemsOrder":["title_v2"]},":type":"snowflake-site/components/flexible-column-container","isBlogPage":false,"isActiveTOC":false,"appliedCssClassNames":"snowflake-flexible-column-container-gray-10-bg"},"flexible_column_cont_912630531":{"id":"flexible-column-container-20c7764513","propertiesId":"hub-explore-resources-grid","type":"1-column","alignColumns":"top","containerMaxWidth":"extra-large","topPadding":"medium","bottomPadding":"large","spaceBetween":"small","reverseOnMobile":false,"carouselOnMobile":false,"backgroundImageOption":"none","flexible_column_content_container_1":{"layout":"SIMPLE","id":"hub-explore-resources-grid-inner",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"resource_chip_0":{"id":"content-chip-c8fe1dbc92","tagText":"BERICHT","tagColor":"#C6EDF1","cta":{"id":"cta","showOutboundIcon":false,"buttonLink":{"valid":true,"url":"https://www.snowflake.com/en/lp/radical-roi-generative-ai/"},"linkTargetContentType":"GENERIC",":type":"snowflake-site/components/button","linkType":"SNOWFLAKE_EXTERNAL","text":"Weiterlesen"},"headline":{"id":"title-v2-ba2d88f223","type":"heading5","lines":["Der ROI von generativer KI und KI-Agenten 2026"],":type":"snowflake-site/components/title-v2"},":type":"snowflake-site/components/content-chip","appliedCssClassNames":"snowflake-content-chip-white-bg"},"resource_chip_1":{"id":"content-chip-9a572ecd2d","tagText":"E-BOOK","tagColor":"#71D3DC","cta":{"id":"cta","showOutboundIcon":false,"buttonLink":{"valid":true,"url":"https://www.snowflake.com/en/resources/ebook/building-the-interoperable-lakehouse-data-strategies-for-ai-leaders/"},"linkTargetContentType":"GENERIC",":type":"snowflake-site/components/button","linkType":"SNOWFLAKE_EXTERNAL","text":"E-Book lesen"},"headline":{"id":"title-v2-0f859e5f7c","type":"heading5","lines":["Aufbau eines interoperablen Lakehouse: Data Strategies for AI Leaders"],":type":"snowflake-site/components/title-v2"},":type":"snowflake-site/components/content-chip","appliedCssClassNames":"snowflake-content-chip-white-bg"},"resource_chip_2":{"id":"content-chip-4a7598b88b","tagText":"WHITEPAPER","tagColor":"#C6EDF1","cta":{"id":"cta","showOutboundIcon":false,"buttonLink":{"valid":true,"url":"https://www.snowflake.com/en/resources/white-paper/from-prompt-to-purpose-unlocking-business-value-with-agentic-ai/"},"linkTargetContentType":"GENERIC",":type":"snowflake-site/components/button","linkType":"SNOWFLAKE_EXTERNAL","text":"Weiterlesen"},"headline":{"id":"title-v2-509e31c03a","type":"heading5","lines":["Vom Prompt zum Ziel: Unternehmerischen Mehrwert mit Agentic AI erschließen"],":type":"snowflake-site/components/title-v2"},":type":"snowflake-site/components/content-chip","appliedCssClassNames":"snowflake-content-chip-white-bg"},"resource_chip_3":{"id":"content-chip-2a2de3f14e","tagText":"BERICHT","tagColor":"#C6EDF1","cta":{"id":"cta","showOutboundIcon":false,"buttonLink":{"valid":true,"url":"https://www.snowflake.com/en/redefining-data-engineering-in-the-age-of-ai/"},"linkTargetContentType":"GENERIC",":type":"snowflake-site/components/button","linkType":"SNOWFLAKE_EXTERNAL","text":"Weiterlesen"},"headline":{"id":"title-v2-299e4e74ab","type":"heading5","lines":["Redefining Data Engineering in the Age of AI"],":type":"snowflake-site/components/title-v2"},":type":"snowflake-site/components/content-chip","appliedCssClassNames":"snowflake-content-chip-white-bg"}},":itemsOrder":["resource_chip_0","resource_chip_1","resource_chip_2","resource_chip_3"]},":type":"snowflake-site/components/flexible-column-container","isBlogPage":false,"isActiveTOC":false,"appliedCssClassNames":"snowflake-flexible-column-container-gray-10-bg"},"flexible_column_cont_1158003461":{"id":"flexible-column-container-46e3c44ed4","propertiesId":"hub-explore-topics-header","type":"1-column","alignColumns":"top","containerMaxWidth":"extra-large","topPadding":"large","bottomPadding":"none","spaceBetween":"small","reverseOnMobile":false,"carouselOnMobile":false,"backgroundImageOption":"none","flexible_column_content_container_1":{"layout":"SIMPLE","id":"container-0e312e20de",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"title_v2_copy_copy":{"id":"title-v2-c4b778a41c","additionalClasses":"hub-explore-topics-header__headline","type":"heading2","lines":["KI-Themen entdecken"],":type":"snowflake-site/components/title-v2","appliedCssClassNames":"left-alignment"},"text_copy_copy":{"id":"text-744694094b","additionalClasses":"hub-explore-topics-header__subheadline","text":"\u003Cp\u003EDetaillierte Einblicke in jeden Aspekt der künstlichen Intelligenz\u003C/p\u003E\n","richText":true,":type":"snowflake-site/components/text","appliedCssClassNames":"text-color-text-05"}},":itemsOrder":["title_v2_copy_copy","text_copy_copy"],"appliedCssClassNames":"snowflake-responsive-container-inner-padding-extra-small"},":type":"snowflake-site/components/flexible-column-container","isBlogPage":false,"isActiveTOC":false,"appliedCssClassNames":"snowflake-flexible-column-container-white-bg"},"flexible_column_cont_1377146023":{"id":"flexible-column-container-f6d9f2b9f3","propertiesId":"hub-explore-topics-grid","type":"3-column-even","alignColumns":"top","containerMaxWidth":"extra-large","topPadding":"small","bottomPadding":"large","spaceBetween":"small","reverseOnMobile":false,"carouselOnMobile":false,"backgroundImageOption":"none","flexible_column_content_container_1":{"layout":"SIMPLE","id":"container-a49090688c",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"topic_card_0":{"id":"card-v2-bf93f815a9","configurationStatus":{"configured":true,"message":""},":type":"snowflake-site/components/card-v2","title":{"id":"title","type":"heading4","lines":["KI-Transparenz"],":type":"snowflake-site/components/title-v2"},"button":{"id":"button","showOutboundIcon":false,"buttonLink":{"valid":true,"url":"https://www.snowflake.com/de/artificial-intelligence/ai-governance/ai-transparency/"},"linkTargetContentType":"GENERIC",":type":"snowflake-site/components/button","linkType":"SNOWFLAKE_EXTERNAL","text":"Hier mehr erfahren"},"type":"content-card","text":{"id":"text","text":"\u003Cp\u003EMachen Sie KI-Entscheidungen durch klare Dokumentation, Erklärbarkeit und Governance-Kontrollen verständlich.\u003C/p\u003E\r\n","richText":true,":type":"snowflake-site/components/text"},"layoutStyle":"vertical"}},":itemsOrder":["topic_card_0"]},"flexible_column_content_container_2":{"layout":"SIMPLE","id":"container-b5471442bf",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"topic_card_1":{"id":"card-v2-6b87cee1c5","configurationStatus":{"configured":true,"message":""},":type":"snowflake-site/components/card-v2","title":{"id":"title","type":"heading4","lines":["EU AI Act"],":type":"snowflake-site/components/title-v2"},"button":{"id":"button","showOutboundIcon":false,"buttonLink":{"valid":true,"url":"https://www.snowflake.com/de/artificial-intelligence/ai-governance/eu-ai-act/"},"linkTargetContentType":"GENERIC",":type":"snowflake-site/components/button","linkType":"SNOWFLAKE_EXTERNAL","text":"Hier mehr erfahren"},"type":"content-card","text":{"id":"text","text":"\u003Cp\u003EVerstehen Sie die risikobasierte KI-Verordnung der EU und die Anforderungen an eine konforme Entwicklung und Nutzung von KI.\u003C/p\u003E\r\n","richText":true,":type":"snowflake-site/components/text"},"layoutStyle":"vertical"}},":itemsOrder":["topic_card_1"]},"flexible_column_content_container_3":{"layout":"SIMPLE","id":"container-d746381bdd",":type":"snowflake-site/components/flexible-column-container/flexible-column-content-container",":items":{"topic_card_2":{"id":"card-v2-db2b287c64","configurationStatus":{"configured":true,"message":""},":type":"snowflake-site/components/card-v2","title":{"id":"title","type":"heading4","lines":["Verantwortungsvolle KI"],":type":"snowflake-site/components/title-v2"},"button":{"id":"button","showOutboundIcon":false,"buttonLink":{"valid":true,"url":"https://www.snowflake.com/de/artificial-intelligence/ai-governance/responsible-ai/"},"linkTargetContentType":"GENERIC",":type":"snowflake-site/components/button","linkType":"SNOWFLAKE_EXTERNAL","text":"Hier mehr erfahren"},"type":"content-card","text":{"id":"text","text":"\u003Cp\u003EStellen Sie sicher, dass KI-Systeme fair, rechenschaftspflichtig und sicher sind und mit den Unternehmenswerten und -vorschriften übereinstimmen.\u003C/p\u003E\r\n","richText":true,":type":"snowflake-site/components/text"},"layoutStyle":"vertical"}},":itemsOrder":["topic_card_2"]},":type":"snowflake-site/components/flexible-column-container","isBlogPage":false,"isActiveTOC":false,"appliedCssClassNames":"snowflake-flexible-column-container-white-bg"}},":itemsOrder":["flexible_column_cont","flexible_column_cont_939100716","flexible_column_cont_1398138236","flexible_column_cont_663228916","flexible_column_cont_1786318617","flexible_column_cont_1467213961","flexible_column_cont_912630531","flexible_column_cont_1158003461","flexible_column_cont_1377146023"],":type":"wcm/foundation/components/responsivegrid"},"modal_container":{"layout":"SIMPLE","id":"container-e1a88ade2f",":type":"snowflake-site/components/modal/modal-container",":items":{},":itemsOrder":[]},"markup_editor_928258845":{"id":"markup-editor-abfae00ef5","title":" ","cssContent":".snowflake-flexible-column-container-gray-10-bg\u003E.snowflake-flexible-column-container{background-color:var(--ui-background-05) !important}.text-size-regular:has(.seo-hub-hero__related-topic-label){display:flex;align-items:center}.hub-hero__headline span{text-transform:none !important}.hub-hero__subheadline p{max-width:70ch;margin-top:8px}.hub-hero__authors \u003E .container \u003E .cmp-container \u003E .aem-container{display:flex;flex-direction:row}.hub-hero__authors \u003E .container \u003E .cmp-container \u003E .aem-container \u003E div{width:auto !important;margin:24px 48px 0 0 !important}.hub-hero__authors .heading-5-v2{gap:var(--spacing-00)}.hub-hero__authors .snowflake-content-chip-button{display:none !important}.hub-hero__authors .snowflake-person-chip-content .body-2,.hub-hero__authors .snowflake-content-chip-content .snowflake-title-v2-line{font-size:16px !important;line-height:20px !important;font-family:\"Lato\",sans-serif !important;color:#000 !important;font-weight:600 !important}.hub-hero__authors .snowflake-person-chip-content .body-3,.hub-hero__authors .snowflake-content-chip-content .snowflake-title-v2-line:not(:first-child){font-weight:400 !important;color:var(--text-05) !important;font-size:16px !important}.hub-hero__authors .snowflake-image-container img{aspect-ratio:1 !important;border-radius:100%;overflow:hidden}.hub-hero__authors .snowflake-person-chip-avatar{width:56px;height:56px}.hub-hero__authors .snowflake-content-chip{align-items:center;display:inline-flex}.hub-hero__authors .snowflake-content-chip-image{max-width:56px;line-height:0;margin-right:var(--spacing-03)}.hub-hero__authors .snowflake-person-chip-inner-horizontal{gap:var(--spacing-03)}@media screen and (min-width:1367px){.hub-hero__headline .heading-1-v2{font-size:48px;line-height:44px}}#hub-explore-resources-grid-inner\u003E.container\u003E.cmp-container\u003E.aem-container{display:flex;flex-direction:row;flex-wrap:wrap;gap:24px}#hub-explore-resources-grid-inner\u003E.container\u003E.cmp-container\u003E.aem-container::before,#hub-explore-resources-grid-inner\u003E.container\u003E.cmp-container\u003E.aem-container::after{display:none}#hub-explore-resources-grid-inner\u003E.container\u003E.cmp-container\u003E.aem-container\u003Ediv{width:calc(25% - 18px)}.text-color-text-05 .snowflake-text h2,.text-color-text-05.cq-Editable-dom h2,.text-color-text-05 .snowflake-text h3,.text-color-text-05.cq-Editable-dom h3,.text-color-text-05 .snowflake-text h4,.text-color-text-05.cq-Editable-dom h4,.text-color-text-05 .snowflake-text h5,.text-color-text-05.cq-Editable-dom h5,.text-color-text-05 .snowflake-text h6,.text-color-text-05.cq-Editable-dom h6{color:#000 !important}",":type":"snowflake-site/components/markup-editor","isGSAPEnabled":false},"markup_editor_597730182":{"id":"markup-editor-913cc8a8cd","title":" ","cssContent":".sf-copy-markdown [data-copy-md]{display:inline-flex;align-items:center;gap:6px;padding:8px 16px;font-family:'Texta',sans-serif;text-transform:uppercase;font-weight:800 !important;font-size:14px;font-weight:500;color:#11567f;background:#f0faff;border:1px solid #b8e6f9;border-radius:24px;cursor:pointer;transition:background .2s ease,border-color .2s ease,color .2s ease}.sf-copy-markdown [data-copy-md]:hover{background:#ddf3fc;border-color:#29b5e8}.sf-copy-markdown [data-copy-md][data-copied=\"1\"]{color:#0f7b3e;background:#ecfdf5;border-color:#6ee7a0;pointer-events:none}.sf-copy-markdown [data-copy-md] svg{flex-shrink:0}.longform-conten .snowflake-content-chip-white-bg .snowflake-content-chip{box-shadow:0 0 24px 4px rgba(0,0,0,.02),0 4px 8px 0 rgba(0,0,0,.04);flex-direction:row-reverse;align-items:center}.longform-conten .snowflake-content-chip-button{display:none}.longform-conten .snowflake-content-chip-image__inner{aspect-ratio:5 / 3;display:flex;justify-content:center;align-items:center;background-color:var(--ui-01);border-radius:4px}.longform-conten .snowflake-content-chip-image{margin-right:0;margin-left:48px}.longform-conten .snowflake-content-chip-image img{width:50%;border-radius:0 !important;object-fit:contain}.longform-content .black-blue-text-color .snowflake-title-v2-line:not(:first-child){font-size:14px !important;font-weight:400 !important;color:rgba(0,0,0,.6) !important;margin-top:8px !important}.page-toc ul li:first-child{padding-top:0 !important}.page-toc ul li:last-child{padding-bottom:0 !important}.seo-hub__top-bar \u003E .container \u003E .cmp-container \u003E .aem-container \u003E div:first-child{flex-grow:1}.sf-copy-markdown{margin-top:40px !important}.page-toc ul{margin-top:16px !important}.seo-hub__top-bar \u003E .container \u003E .cmp-container \u003E .aem-container{display:flex;justify-content:space-between}.sf-copy-markdown{}.callout.snowflake-text p:not(:first-child){margin-top:var(--spacing-01)}.callout \u003E span \u003E p:first-child \u003E strong,.callout \u003E span \u003E p:first-child \u003E b{text-transform:uppercase;font-family:'Texta',sans-serif;font-size:16px !important;color:var(--ui-01) !important}.seo-hub-hero__subheadline p{max-width:50ch}.tag-group ul{list-style-type:none;padding:0;margin:0;display:flex;flex-direction:row;row-gap:12px;column-gap:8px;align-items:center;flex-wrap:wrap}.tag-group ul li:first-child{flex-shrink:0}.tag-group ul li a{display:inline-block;padding:2px 12px;border-radius:48px;background-color:#ededed;color:#666;font-size:14px !important}@media screen and (min-width:1367px){.seo-hub-hero__headline span.snowflake-title-v2-line{font-size:56px !important}}.callout.snowflake-text p:not(:first-child){margin-top:var(--spacing-01)}.callout \u003E span \u003E p:first-child \u003E b{text-transform:uppercase;font-family:'Texta',sans-serif;font-size:16px !important;color:var(--ui-01) !important}.seo-hub-hero__subheadline p{max-width:80ch}#hero:has(.snowflake-youtube-lite) .seo-hub-hero__subheadline p{max-width:50ch}.tag-group ul{list-style-type:none;padding:0;margin:0;display:flex;flex-direction:row;row-gap:12px;column-gap:8px;align-items:center;flex-wrap:wrap}.tag-group ul li:first-child{width:100%;flex-shrink:0}.tag-group ul li a{display:inline-block;padding:2px 12px;border-radius:48px;background-color:#ededed;color:#666;font-size:14px !important}@media screen and (min-width:1367px){.seo-hub-hero__headline span.snowflake-title-v2-line{font-size:56px !important}}",":type":"snowflake-site/components/markup-editor","isGSAPEnabled":false},"markup_editor":{"id":"markup-editor-7dced970f4","title":" ","cssContent":"div.snowflake-breadcrumb a.snowflake-breadcrumb-item,.snowflake-breadcrumb div.snowflake-breadcrumb-item{text-transform:none;font-weight:500}.snowflake-breadcrumb svg{display:none !important}.snowflake-breadcrumb a:has(svg)::after{content:'/';margin:0 12px;color:#666}.hub-sidebar{padding:0 40px}.sticky-sidebar{max-width:340px;margin-left:auto}.page-toc ul{list-style-type:none;padding:0}.page-toc li{padding:8px 16px;border-left:4px solid var(--ui-01);cursor:pointer;transition:300ms ease all}.page-toc li:hover{color:var(--ui-01);border-color:#7fd3f1;transition:300ms ease all}.callout,.customer-card{background-color:#eef9fd;border-left:4px solid var(--ui-01);padding:24px 24px 24px 32px;border-radius:4px}.logo-container{max-width:180px}.longform-content li{margin-top:1rem !important}div.longform-content p{max-width:80ch}.bolder .snowflake-title-v2-line{font-weight:900 !important}.border-top\u003Ediv{border-top:1px solid #ccc;padding-top:48px}.related-topics ul{list-style-type:none;padding:0;margin:0;display:flex;gap:8px;flex-wrap:wrap}.related-topics li{display:inline-block;border:1px solid #ccc;padding:4px 12px;border-radius:24px}div.longform-content .snowflake-text h2,div.longform-content .snowflake-text .heading-2-v2,div.longform-content .snowflake-text h3,div.longform-content .snowflake-text .heading-3-v2,div.longform-content .snowflake-title-v2 .heading-3-v2,div.longform-content .snowflake-text h4,div.longform-content .snowflake-text .heading-4-v2,div.longform-content .snowflake-title-v2 .heading-4-v2,div.longform-content .snowflake-text h5,div.longform-content .snowflake-text .heading-5-v2,div.longform-content .snowflake-title-v2 .heading-5-v2,div.longform-content .snowflake-text h6,div.longform-content .snowflake-title-v2 .heading-6-v2,div.longform-content .snowflake-text .heading-6-v2{text-transform:none !important}div.longform-content .snowflake-text h2,div.longform-content .snowflake-text .heading-2-v2,div.longform-content .snowflake-text h3,div.longform-content .snowflake-text .heading-3-v2,div.longform-content .snowflake-text h4,div.longform-content .snowflake-text .heading-4-v2,div.longform-content .snowflake-text h5,div.longform-content .snowflake-text .heading-5-v2,div.longform-content .snowflake-text h6,div.longform-content .snowflake-text .heading-6-v2{margin-top:1.5rem !important;line-height:1.1 !important}div.longform-content .snowflake-text h3,div.longform-content .snowflake-text .heading-3-v2,div.longform-content .snowflake-title-v2 .heading-3-v2,div.longform-content .snowflake-text h4,div.longform-content .snowflake-text .heading-4-v2,div.longform-content .snowflake-title-v2 .heading-4-v2,div.longform-content .snowflake-text h5,div.longform-content .snowflake-text .heading-5-v2,div.longform-content .snowflake-title-v2 .heading-5-v2,div.longform-content .snowflake-text h6,div.longform-content .snowflake-text .heading-6-v2,div.longform-content .snowflake-title-v2 .heading-6-v2{font-family:Lato,sans-serif !important;font-weight:800 !important}div.longform-content .snowflake-text h2,div.longform-content .snowflake-text .heading-2-v2,div.longform-content .snowflake-title-v2 .heading-2-v2{text-transform:none !important;font-size:28px !important}div.longform-content .snowflake-text h3,div.longform-content .snowflake-text .heading-3-v2,div.longform-content .snowflake-title-v2 .heading-3-v2{font-size:22px !important}div.longform-content .snowflake-text h4,div.longform-content .snowflake-text .heading-4-v2,div.longform-content .snowflake-title-v2 .heading-4-v2{font-size:18px !important}div.longform-content .snowflake-text h5,div.longform-content .snowflake-text .heading-5-v2,div.longform-content .snowflake-title-v2 .heading-5-v2{font-size:16px !important}div.longform-content .snowflake-text h6,div.longform-content .snowflake-text .heading-6-v2,div.longform-content .snowflake-title-v2 .heading-6-v2{font-size:14px !important}@media screen and (min-width:992px){div.longform-content .snowflake-text h2,div.longform-content .snowflake-text .heading-2-v2,div.longform-content .snowflake-title-v2 .heading-2-v2{font-size:38px !important}div.longform-content .snowflake-text h3,div.longform-content .snowflake-text .heading-3-v2,div.longform-content .snowflake-title-v2 .heading-3-v2{font-size:26px !important}div.longform-content .snowflake-text h4,div.longform-content .snowflake-text .heading-4-v2,div.longform-content .snowflake-title-v2 .heading-4-v2{font-size:22px !important}div.longform-content .snowflake-text h5,div.longform-content .snowflake-text .heading-5-v2,div.longform-content .snowflake-title-v2 .heading-5-v2{font-size:18px !important}div.longform-content .snowflake-text h6,div.longform-content .snowflake-text .heading-6-v2,div.longform-content .snowflake-title-v2 .heading-6-v2{font-size:16px !important}}.sticky-sidebar .page-toc li.is-active{font-weight:600;color:var(--snow-blue,#29b5e8)}.sticky-sidebar .page-toc li[data-anchor]{cursor:pointer}.longform-content table{margin-top:24px;margin-bottom:24px;width:100%;background-color:var(--ui-background-01);border-collapse:collapse;border:2px solid var(--ui-background-09);font-family:'Lato',sans-serif;color:var(--ui-background-09)}.longform-content table thead{background-color:var(--ui-01)}.longform-content th,.longform-content td{min-width:120px;border:2px solid var(--ui-background-09);padding:var(--spacing-01)}.longform-content ol{margin-top:0 !important}.longform-content ol li{margin-bottom:1rem !important}.longform-content ul li{margin:0;padding:0 0 0 32px;position:relative}.longform-content ul{list-style-type:none}.longform-content ul li::before{content:\"\";display:block;border-radius:100%;background:#29b5e8;width:18px;height:18px;position:absolute;top:4px;left:0;border:5px solid #e5f2f7;box-sizing:border-box}.seo-customer.snowflake-card-v2-advanced-horizontal .snowflake-card-v2-advanced-image-container{max-width:200px}.seo-customer.snowflake-card-v2-advanced-horizontal .snowflake-card-v2-advanced-image-container img{object-fit:contain}.related-topics-outer-container \u003E .container \u003E .cmp-container \u003E .aem-container{display:flex;flex-direction:row}.related-topics-outer-container \u003E .container \u003E .cmp-container \u003E .aem-container \u003E div{width:auto !important;margin:0 !important}.related-topics-outer-container \u003E .container \u003E .cmp-container \u003E .aem-container \u003E div:first-child{margin-right:16px !important;flex-shrink:0}","jsContent":"(function(){var OFFSET=100;if(window.gsap&&window.ScrollTrigger){gsap.registerPlugin(ScrollTrigger);var sidebar=document.querySelector('.sticky-sidebar');var body=document.querySelector('.longform-content');if(sidebar&&body){ScrollTrigger.create({trigger:sidebar,start:'top 100px',endTrigger:body,end:'bottom bottom',pin:sidebar,pinSpacing:false});}}document.addEventListener('click',function(e){var li=e.target.closest('li[data-anchor]');if(!li)return;var slug=li.getAttribute('data-anchor');var heading=document.querySelector('.anchor-title--'+CSS.escape(slug));if(!heading)return;e.preventDefault();var top=heading.getBoundingClientRect().top+window.pageYOffset-OFFSET;window.scrollTo({top:top,behavior:'smooth'});history.replaceState(null,'','#'+slug);},false);var headings=document.querySelectorAll('[class*=\"anchor-title--\"]');if(headings.length&&'IntersectionObserver'in window){var io=new IntersectionObserver(function(entries){entries.forEach(function(entry){if(!entry.isIntersecting)return;var cls=Array.from(entry.target.classList).find(function(c){return c.indexOf('anchor-title--')===0;});if(!cls)return;var slug=cls.replace('anchor-title--','');document.querySelectorAll('li[data-anchor]').forEach(function(li){li.classList.toggle('is-active',li.getAttribute('data-anchor')===slug);});});},{rootMargin:'-20% 0px -70% 0px',threshold:0});headings.forEach(function(h){io.observe(h);});}})();",":type":"snowflake-site/components/markup-editor","isGSAPEnabled":true},"experiencefragment-footer":{"id":"experiencefragment-f27eba8164","localizedFragmentVariationPath":"/content/experience-fragments/snowflake-site/language-masters/de/site/footer/master/jcr:content","configured":true,":type":"snowflake-site/components/experiencefragment","xfModelPath":"/content/experience-fragments/snowflake-site/language-masters/de/site/footer/master.xfmodel.json?callerPage=/content/snowflake-site/global/de/artificial-intelligence/ai-governance/algorithmic-bias"},"experiencefragment":{"id":"experiencefragment-a637670083","localizedFragmentVariationPath":"/content/experience-fragments/snowflake-site/language-masters/de/site/footer-legal-disclaimers/master/jcr:content","configured":true,":type":"snowflake-site/components/experiencefragment","xfModelPath":"/content/experience-fragments/snowflake-site/language-masters/de/site/footer-legal-disclaimers/master.xfmodel.json?callerPage=/content/snowflake-site/global/de/artificial-intelligence/ai-governance/algorithmic-bias"}},":itemsOrder":["experiencefragment-banner","experiencefragment-header","responsivegrid","modal_container","markup_editor_928258845","markup_editor_597730182","markup_editor","experiencefragment-footer","experiencefragment"],":type":"wcm/foundation/components/responsivegrid"}},":itemsOrder":["root"],":hierarchyType":"page",":path":"/content/snowflake-site/global/de/artificial-intelligence/ai-governance/algorithmic-bias","isPasswordProtected":false,"analyticsContentTags":["snowflake-site:taxonomy/content-type/fundamentals"],"analyticsEnabled":true,"coveoConfig":{"searchHub":"snowflake.com","organizationId":"snowflakecomputingproduction8neljofn","apiKey":"xx335921a6-2a0a-40f2-a167-e390b4766c3d","pipeline":"snowflake.com"},"analyticsDebugMode":false,"analyticsData":{"excludeFromAnalytics":false,"subCategory":"","pageType":"homepage","templateName":"base-page-template54","siteName":"snowflake","pageUrl":"/content/snowflake-site/global/de/artificial-intelligence/ai-governance/algorithmic-bias","language":"de","category":"general","pageName":"Algorithmic Bias erklärt: Kategorien, Erkennung und Techniken zur Risikominderung","contentTags":["snowflake-site:taxonomy/content-type/fundamentals"]},"locale":"de"}