Feature Engineering: Die Entscheidungen, die die Qualität von ML-Modellen prägen

Montagmorgen geht ein neues Modell für maschinelles Lernen live, und bis zum Mittagessen ertrinken die Analyst:innen in falsch-positiven Ergebnissen. Fälle mit hoher Priorität werden übersehen, Routinefälle werden eskaliert, und niemand kann erklären, warum die reale Performance des Modells so stark von seinen Validierungsergebnissen abweicht.

Das Problem ist nicht unbedingt der Algorithmus. Es könnte die Art und Weise sein, wie die Daten dargestellt wurden. Vielleicht wurden Transaktionsbeträge als Rohwerte verwendet, aber das Modell hat nie erkannt, wie ungewöhnlich ein Kauf für diese:n spezielle:n Kund:in war. Oder vielleicht wurden Kategorien so codiert, dass irreführende Beziehungen entstanden sind. Das Modell wurde möglicherweise mit genauen Daten trainiert, aber die Signale innerhalb dieser Daten wurden nicht richtig übersetzt.

Das ist die Aufgabe von Feature Engineering: Rohdaten in Eingaben zu verwandeln, die ein Modell für maschinelles Lernen tatsächlich nutzen kann. Es umfasst vertraute Datenaufbereitungs-Tasks wie den Umgang mit fehlenden Werten, die Codierung von Kategorien und die Skalierung numerischer Felder, beinhaltet aber auch tiefere Darstellungsentscheidungen darüber, was das Modell wissen sollte und in welcher Form. Diese Entscheidungen bestimmen, wie viel nützliches Signal das Modell erreicht – und wie gut das Modell abschneidet, wenn es auf reale Daten trifft.

Feature Engineering ist der Prozess, bei dem Domänenwissen genutzt wird, um Eingabevariablen – sogenannte Features – aus Rohdaten zu erstellen, zu transformieren und auszuwählen, damit ein Modell für maschinelles Lernen genauere Vorhersagen treffen kann.

Ein Feature kann eine direkt verwendete Quellspalte sein, wie der Transaktionsbetrag oder das Kontoalter in Tagen, oder es kann abgeleitet sein, wie der durchschnittliche Bestellwert einer Kund:in in den letzten 90 Tagen, die Anzahl der fehlgeschlagenen Authentifizierungsversuche in der letzten Stunde oder ein Verhältnis zwischen zwei Kennzahlen, die einzeln weniger aussagekräftig sind als zusammen.

Feature Engineering ist zwischen Rohdaten und Modelltraining angesiedelt. Teams extrahieren Signale aus Quellsystemen, transformieren sie in modellfertige Eingaben, bewerten, welche davon die Validierungs-Performance verbessern, und übertragen die genehmigte Logik zur Wiederverwendung in Feature-Pipelines oder einen Feature Store. Die Entscheidung, welche Features ein Modell benötigt, beinhaltet die Entscheidung, was das Modell über die Domäne verstehen muss.

Feature Engineering erfordert die Zusammenarbeit von Data Scientists, Data Engineers und Domänenexpert:innen, da es das Verständnis des Teams für das Geschäftsproblem in das Modell codiert. Wenn es gut gemacht ist, gehört es zu den wirkungsvollsten Aktivitäten im Lebenszyklus für maschinelles Lernen.

Die Qualität eines Modells wird durch seine Eingabedaten begrenzt. Keine noch so gute Algorithmusauswahl, Hyperparameter-Anpassung oder Rechenressource kann ein Signal wiederherstellen, das im Feature-Set von vornherein nicht vorhanden war. Beim Feature Engineering wird diese Obergrenze festgelegt – und hier haben Teams eine direktere Kontrolle über die Modellqualität als an fast jedem anderen Punkt im ML-Lebenszyklus.

Eine Möglichkeit, diese Obergrenze festzulegen, ist die Repräsentation. Dieselben zugrunde liegenden Daten, unterschiedlich ausgedrückt, vermitteln dem Modell ein grundlegend anderes Bild des Problems. Betrachten wir ein Churn-Modell, das auf Produktnutzungsdaten basiert. Die reine Anzahl der Logins in den letzten 30 Tagen verrät dem Modell, wie aktiv ein:e Kund:in war. Was die Abwanderung jedoch tatsächlich vorhersagt, ist oft die Veränderung dieser Aktivität – wenn sich ein:e Kund:in nur noch halb so oft anmeldet wie vor 60 Tagen, ist das eine andere Situation als bei jemandem, der sich schon immer in dieser Häufigkeit angemeldet hat. Die zugrunde liegenden Daten sind dieselben. Als Trend und nicht als bloße Anzahl ausgedrückt, enthalten sie ein Signal, das der Rohwert allein nicht bietet.

Pedro Domingos’ grundlegender Artikel „A Few Useful Things to Know About Machine Learning“ (Einige nützliche Dinge über maschinelles Lernen) identifiziert die Repräsentation als eines der zentralen Probleme in diesem Bereich. Diese Beobachtung gilt nach wie vor: Wenn die verfügbaren Features die Struktur des Problems nicht erfassen, hat der Algorithmus weniger Informationen, mit denen er arbeiten kann – unabhängig davon, wie gut er angepasst ist.

Feature Engineering wirkt sich auch auf die Generalisierung aus. Ein Modell, das mit Features trainiert wurde, die echte, dauerhafte Muster in den Daten widerspiegeln, liefert mit größerer Wahrscheinlichkeit genaue Vorhersagen, wenn es auf neue Kund:innen, neue Produkte oder eine andere Betriebsumgebung trifft. Ein Modell, das mit Features trainiert wurde, die in der Trainingsphase zufällig mit dem Ziel korrelieren – aber aus nebensächlichen Gründen –, wird in der Produktion schneller an Leistung verlieren.

Sehen Sie sich an, wie Sie Feature Engineering mit Agentic ML vereinfachen können:

Feature Engineering beginnt in der Regel mit dem Vorhersageproblem und arbeitet sich dann rückwärts in die Daten vor. Ein Team, das eine Nachfrageprognose erstellt, benötigt beispielsweise andere Signale als ein Team, das Support-Tickets klassifiziert, selbst wenn beide Teams Kunden-, Produkt- und Zeitreihendaten verwenden.

Ein praktischer Prozess umfasst in der Regel die folgenden Schritte:

1. Die Daten und das Problem verstehen: Definieren Sie das Vorhersageziel, die Entscheidung, die das Modell unterstützen soll, sowie die Einschränkungen in Bezug auf Latenz, Erklärbarkeit und Datenzugriff.
2. Rohdaten erkunden und analysieren: Untersuchen Sie Verteilungen, fehlende Werte, Ausreißer, Korrelationen, Kategorienkardinalität und zeitbasierte Muster.
3. Features erstellen und transformieren: Leiten Sie Kennzahlen wie Verhältnisse, rollierende Zeitfenster, Anzahlen, Flags, Interaktionen und normalisierte Werte ab.
4. Feature-Relevanz bewerten: Nutzen Sie statistische Tests, modellbasierte Wichtigkeitsmaße, fachliche Überprüfungen und Validierungsergebnisse, um zu ermitteln, welche Features ein nützliches Signal enthalten.
5. Anhand der Modell-Performance validieren: Trainieren und testen Sie Modelle mithilfe kontrollierter Experimente und achten Sie dabei auf Leakage, Overfitting und Drift zwischen Trainings- und Produktionsdaten.

Der Prozess ist iterativ. Ein:e Data Scientist könnte Verhältnisse, Anzahlen, rollierende Aggregate, Lag-Features, Flags, kategoriale Kodierungen oder Interaktionsterme ableiten und dann testen, ob diese Eingaben die Performance bei zurückgehaltenen Daten verbessern. Einige Features erweisen sich sofort als nützlich. Andere fallen weg, weil sie Informationen aus dem Feature preisgeben, sich über Zeiträume hinweg zu stark verschieben oder von Daten abhängen, die bei der Inferenz nicht verfügbar sind.

Der Prozess erfordert Disziplin, da sich die Feature-Logik ausbreiten und voneinander abweichen kann. Eine in einem Notebook getestete, in einer Trainings-Pipeline neu formulierte und für einen Echtzeit-Scoring-Dienst ein drittes Mal umgeschriebene Berechnung kann drei leicht unterschiedliche Werte für dasselbe zugrunde liegende Konzept liefern. Reproduzierbare Feature-Pipelines und Feature Stores existieren, um diese Art von Drift zu verhindern – sie bewahren die während des Trainings verwendeten Definitionen und stellen sie konsistent für die Batch- oder Echtzeit-Inferenz zur Verfügung.

Das Feature Engineering stützt sich auf eine Vielzahl von Techniken. Einige bereiten Rohdaten für die Modellierung vor. Andere konstruieren neue Signale aus bestehenden Feldern. Die richtige Kombination hängt vom Datentyp, der Modellfamilie und der Entscheidung ab, die das Modell unterstützen soll.

Imputation und Umgang mit Ausreißern

Fehlende Werte erfordern eine Interpretation, bevor sie behandelt werden können. Ein leeres Feld kann darauf hinweisen, dass ein Wert unbekannt, optional, zurückgehalten, zum Zeitpunkt der Erfassung nicht verfügbar oder schlichtweg nicht vorhanden war. Die Imputation füllt Lücken mithilfe von Methoden wie Mittelwert, Median, Modus, konstanten Werten oder modellbasierten Schätzungen. In vielen Fällen fügen Teams auch einen binären Indikator für das Fehlen von Werten hinzu, sodass das Modell lernen kann, ob das Fehlen eines Wertes an sich informativ ist – was oft der Fall ist.

Auch Ausreißer erfordern Urteilsvermögen. Eine ungewöhnlich große Transaktion könnte Betrug, ein legitimer Unternehmenskauf oder ein Dateneingabefehler sein. Teams können Werte bei einem bestimmten Schwellenwert kappen, eine Transformation zur Reduzierung der Schiefe anwenden, eindeutig fehlerhafte Datensätze entfernen oder Extremwerte beibehalten, wenn sie ein aussagekräftiges Verhalten widerspiegeln, das vom Modell erkannt werden soll. Die Behandlung von Ausreißern ist eine Repräsentationsentscheidung, da sie die Version der Realität definiert, mit der das Modell trainiert wird.

Skalierung und Normalisierung

Die Skalierung passt den Bereich numerischer Features an, sodass Größenunterschiede keine künstlichen Unterschiede im Modellverhalten erzeugen. Die Min-Max-Skalierung bildet Werte auf ein festes Intervall ab. Die Z-Score-Standardisierung drückt Werte relativ zum Mittelwert und zur Standardabweichung der Verteilung aus. Die robuste Skalierung verwendet den Median und den Interquartilsabstand, was gegenüber Ausreißern weniger anfällig ist als mittelwertbasierte Methoden.

Die Empfindlichkeit gegenüber der Skalierung variiert je nach Modelltyp. Lineare Modelle, neuronale Netze und distanzbasierte Algorithmen sind stärker von unskalierten Features betroffen. Baumbasierte Modelle sind im Allgemeinen weniger empfindlich, obwohl Teams die Vorverarbeitung standardisieren können, wenn dasselbe Feature-Set mehrere nachgelagerte Modelle oder Systeme speist.

Codierung kategorialer Variablen

Die meisten ML-Modelle erfordern, dass kategoriale Werte numerisch ausgedrückt werden. One-Hot-Encoding erstellt eine binäre Indikatorspalte für jede Kategorie – unkompliziert, wenn die Kardinalität niedrig ist. Ordinales Encoding bewahrt eine sinnvolle Reihenfolge, wie z. B. niedrig, mittel und hoch. Label-Encoding weist Kategorien ganzzahlige IDs zu, kann aber unbeabsichtigt eine Reihenfolge implizieren, wo keine existiert.

Felder mit hoher Kardinalität wie Händlerkennungen, Produkt-SKUs oder geografische Codes erfordern mehr Sorgfalt. Eine Kategorie mit Tausenden von Ausprägungen macht One-Hot-Encoding unpraktisch. Target-Encoding und Mean-Encoding können helfen, indem sie Kategorie-Labels durch Statistiken ersetzen, die aus dem Vorhersageziel abgeleitet werden. Diese Ansätze erfordern jedoch eine strenge Validierung, um Data Leakage aus dem Holdout-Set zu verhindern.

Transformation, Binning und Diskretisierung

Transformationen passen die Verteilung eines Features oder seine Beziehung zum Ziel an. Eine Log-Transformation kann den Einfluss von Long-Tail-Werten wie Umsatz, Sitzungsdauer oder Kontostand reduzieren. Box-Cox und verwandte Transformationen können numerische Features besser für Modelle geeignet machen, die Verteilungsannahmen treffen, obwohl Box-Cox selbst streng positive Werte erfordert.

Binning gruppiert kontinuierliche Werte in diskrete Intervalle. Ein Modell könnte Altersgruppen anstelle des genauen Alters, Zugehörigkeitsintervalle anstelle der genauen Tage seit der Anmeldung oder Ausgabenstufen anstelle von Transaktionsbeträgen erhalten. Binning kann einige Muster leichter erlernbar und in regulierten Kontexten leichter erklärbar machen. Wenn Domänen-Schwellenwerte bereits eine Rolle spielen – regulatorische Grenzwerte, Produktstufengrenzen, klinische Bereiche –, erzeugen Bins, die an diesen Schwellenwerten ausgerichtet sind, oft aussagekräftigere Features als rohe numerische Werte.

Feature-Erstellung

Bei der Feature-Erstellung hat Domänenwissen die direkteste Auswirkung. Ein Händler, der die Nachfrage prognostiziert, benötigt möglicherweise Features für die jüngste Verkaufsgeschwindigkeit, den Lagerbestand, das Timing von Werbeaktionen und die Nähe zu lokalen Ereignissen. Ein Sicherheitsmodell benötigt möglicherweise die Rate fehlgeschlagener Anmeldungen, Scores für die Neuheit von Geräten, Indikatoren für unmögliche Reisen und Verhaltensabweichungen von der eigenen Baseline des Kontos. Ein Customer-Health-Modell benötigt möglicherweise Trends beim Produkt-Engagement, Muster bei Support-Interaktionen und Änderungen des Vertragsstatus.

Feature-Crossing kombiniert Felder, um Interaktionen zu erfassen: Produktkategorie nach Region, Kundensegment nach Kanal, Gerätetyp nach Tageszeit. Polynomielle Features helfen einigen Modellfamilien, nichtlineare Beziehungen darzustellen. Temporale Features extrahieren Struktur aus Zeitstempeln: Tageszeit, Wochentag, verstrichene Zeit seit dem letzten Ereignis, gleitende Durchschnitte, verzögerte Werte und zyklische Codierungen für sich wiederholende Muster.

Dimensionalitätsreduktion

Wenn ein Dataset breit, verrauscht oder stark korreliert ist, können Methoden zur Dimensionalitätsreduktion den Feature-Raum verdichten und gleichzeitig nützliche Informationen erhalten. Die Hauptkomponentenanalyse projiziert korrelierte numerische Features auf eine kleinere Menge von Komponenten. Autoencoder und ähnliche Methoden können kompakte Repräsentationen aus komplexeren Eingaben lernen.

Der Kompromiss ist die Interpretierbarkeit. Eine reduzierte Repräsentation kann die Modelleffizienz und manchmal die Performance verbessern, aber die resultierenden Komponenten entsprechen möglicherweise nichts, was für Domänenexpert:innen nachvollziehbar ist. Bei Use Cases mit hohem Risiko oder in regulierten Bereichen hat dieser Verlust an Transparenz reale Konsequenzen, und Teams müssen den Nutzen gegen das abwägen, was aufgegeben wird.

Diese Begriffe tauchen häufig zusammen auf, da sie im ML-Workflow eng beieinanderliegen. Hier ist ein kurzer Überblick über die einzelnen Begriffe.

Feature Engineering

Feature Engineering ist die umfassende Praxis der Vorbereitung von Modelleingaben aus Rohdaten. Es umfasst das Erstellen von Features, das Transformieren von Werten, den Umgang mit fehlenden Daten, das Codieren von Kategorien, die Anwendung von Dimensionalitätsreduktion und die Festlegung, welche Features für das Training verwendet werden sollen. Die anderen unten aufgeführten Aktivitäten sind Teilmengen oder Ergänzungen dieser umfassenderen Arbeit.

Feature-Auswahl

Die Feature-Auswahl bestimmt, welche Features aus dem verfügbaren Satz in das Modell gehören. Teams entfernen Features, die redundant, instabil, nur schwach mit dem Ziel verbunden, in Produktionskontexten schwer zu erklären oder zur Inferenzzeit nicht verfügbar sind.

Die Auswahl kann Overfitting reduzieren und die Modelleffizienz verbessern. Sie bietet auch operative Vorteile. Ein Modell mit weniger stabilen, gut verstandenen Features ist in der Produktion in der Regel einfacher zu überwachen und leichter zu prüfen als eines, das von vielen schwachen oder sich überschneidenden Eingaben abhängt. Gängige Ansätze umfassen statistische Filtermethoden, Wrapper-Methoden, die Feature-Teilmengen anhand der Modell-Performance bewerten, und eingebettete Methoden, die Modellinterna wie Regularisierungskoeffizienten und baumbasierte Wichtigkeitswerte nutzen, um zu ermitteln, welche Features ins Gewicht fallen.

Feature-Extraktion

Die Feature-Extraktion leitet Strukturen aus rohen oder komplexen Daten ab. Ein Zeitstempel kann den Wochentag, den Monat oder die verstrichene Zeit seit einem Referenzereignis liefern. Ein Freitextfeld kann Begriffshäufigkeiten, Sentiment-Scores oder dichte Vektor-Embeddings erzeugen. Ein Bildmodell kann Kanten, Texturen oder erlernte Repräsentationen aus Zwischenschichten des Netzwerks extrahieren.

In der Praxis überschneidet sich die Extraktion stark mit der Feature-Erstellung. Der Unterschied liegt in der Schwerpunktsetzung: Die Extraktion konzentriert sich darauf, Strukturen aus Roheingaben herauszuziehen, während Feature Engineering den breiteren Workflow der Vorbereitung dieser Eingaben für die Modellierung abdeckt.

Feature Stores

Ein Feature Store ist ein verwaltetes Repository für Feature-Definitionen, berechnete Feature-Werte und zugehörige Metadaten. Er hilft Teams dabei, Features projektübergreifend wiederzuverwenden, duplizierte Pipeline-Logik zu reduzieren und Feature-Definitionen zur Trainingszeit mit denen zur Inferenzzeit konsistent zu halten.

Data Augmentation erweitert Trainingsdaten durch die Generierung modifizierter Versionen bestehender Beispiele. Sie ist am häufigsten in der Computer Vision und der Verarbeitung natürlicher Sprache anzutreffen, wo bestimmte Modifikationen die Vielfalt des Trainingssatzes erhöhen können, ohne das Label zu ändern.

Bei Bildern kann die Augmentation Spiegelungen, Rotationen, Zuschnitte, Helligkeitsanpassungen oder kleine Verschiebungen umfassen. Bei Text kann sie Synonymersetzung, Paraphrasierung oder kontrollierte Störungen beinhalten. Für tabellarische Daten mit Klassenungleichgewicht generieren Techniken wie SMOTE synthetische Beispiele für unterrepräsentierte Klassen.

Die Schlüsselfrage bei jeder Augmentation-Entscheidung ist, ob das modifizierte Beispiel immer noch dasselbe darstellt. Das Drehen eines Produktbildes kann das Label in einer E-Commerce-Klassifizierungsaufgabe erhalten. In einem Modell zur Fehlererkennung in der Fertigung kann die Ausrichtung Informationen über die Art des Fehlers enthalten. Augmentation ist nützlich, wenn sie Variationen widerspiegelt, gegen die das Modell robust sein sollte; sie ist kontraproduktiv, wenn sie das Signal zerstört.

Embeddings sind dichte Vektorrepräsentationen, die Beziehungen in Daten kodieren. Sie sind in Text-, Bild-, Empfehlungs- und kategorialen Workflows mit hoher Kardinalität üblich, in denen Rohwerte eine reichhaltigere numerische Form benötigen, als Kodierungsschemata bieten können.

Beispielsweise hat eine Produkt-ID als reine Ganzzahl wenig inhärente Bedeutung, aber ein Embedding kann dieses Produkt basierend auf Beschreibungen, gemeinsamem Kaufverhalten, visuellen Attributen oder Browsing-Mustern in der Nähe ähnlicher Produkte positionieren. Ein Text-Embedding kann semantisch verwandte Phrasen im Vektorraum nahe beieinander platzieren, was es nützlich für Suche, Klassifizierung, Empfehlungen und Retrieval-Augmented Generation (RAG) macht.

Embeddings nehmen eine interessante Position in Bezug auf Feature Engineering ein. Sie können als erlernte Features dienen, die an nachgelagerte Modelle weitergegeben werden, genau wie handgefertigte Features. Sie stellen auch eine andere Art der Feature-Entwicklung dar – eine, bei der Repräsentationen aus großen Datasets erlernt und nicht durch Domänenanalyse definiert werden. In der Praxis kombinieren viele Produktions-ML-Systeme beides: erlernte Embeddings für Inhalts- oder Identitäts-Features und entwickelte Features für verhaltensbezogene, zeitliche und kontextuelle Signale.

Automatisiertes Feature Engineering nutzt Software, um in großem Maßstab Kandidaten-Features aus Rohdaten zu generieren. Tools wie Featuretools verwenden Methoden wie Deep Feature Synthesis, um systematisch Features über verwandte Tabellen hinweg zu erstellen. AutoML-Systeme können Transformationen, Kodierungen und Interaktions-Features als Teil eines breiteren Modellentwicklungs-Workflows generieren.

Automatisierung ist am nützlichsten, wenn der Suchraum groß ist oder sich die Kandidatentransformationen wiederholen. Ein System kann rollierende Aggregate, aus Datumsangaben abgeleitete Felder, kategoriale Kodierungen und Zusammenfassungen auf Tabellenebene schneller generieren, als ein Team jedes Feature manuell schreiben kann.

Domänenwissen muss jedoch weiterhin die Arbeit leiten – Expertenprüfung, Validierung und Governance bestimmen, welche Features angemessen zu verwenden sind.

Feature Engineering für die Produktion erfordert mehr als nur Transformationscode. Teams benötigen kontrollierten Zugriff auf Quelldaten, skalierbare Verarbeitungskapazität für große Datasets, wiederverwendbare Feature-Definitionen, zuverlässige Feature-Aktualität und einen klaren Pfad von den Trainingsdaten zum bereitgestellten Modell.

Snowflake unterstützt diesen Workflow durch Snowflake ML, ein integriertes Set von Funktionen für End-to-End-ML auf Basis kontrollierter Daten, das Feature Engineering, Modelltraining und Inferenz abdeckt.

Mit Snowpark können Teams Feature-Transformationen in Python oder SQL schreiben und sie nah an den Daten ausführen, ohne diese in eine externe Umgebung verschieben zu müssen. Der Snowflake Feature Store bietet verwaltete Feature-Definitionen und Feature-Ansichten, mit denen Teams Feature-Pipelines innerhalb von Snowflake erstellen, materialisieren, abrufen und verwalten können. Feature-Ansichten können Python- oder SQL-Pipelines kapseln, die Rohdaten in modellfertige Features transformieren, und von Snowflake verwaltete Feature-Ansichten können nach einem definierten Zeitplan automatisch aktualisiert werden.

Dynamic Tables unterstützen inkrementelle Feature-Pipelines, bei denen SQL-definierte Transformationen aktuell bleiben müssen. Snowflake verwaltet Dynamic Tables als Pipeline, verfolgt Abhängigkeiten und koordiniert Aktualisierungen, sodass nachgelagerte Tabellen einen konsistenten Snapshot ihrer Eingaben widerspiegeln. Dynamic Tables unterstützen zudem Target Lag – eine Vorgabe dazu, wie aktuell die Daten sein sollen – und inkrementelle Aktualisierungen für unterstützte Transformationsmuster.

Für produktives ML kann der Snowflake Feature Store zusammen mit der Snowflake Model Registry verwendet werden. Die Registry speichert und verwaltet Modellversionen, Metriken und Metadaten, unterstützt Inferenz über Python-, SQL- oder REST-API-Endpunkte und verwaltet den Modellzugriff über rollenbasierte Zugriffskontrolle (Role-Based Access Control, RBAC).

Feature Engineering wird manchmal als die Vorbereitungsarbeit beschrieben, die vor der eigentlichen Modellierung stattfindet. Doch diese Darstellung verkennt die Bedeutung dieser Arbeit – und was sie tatsächlich beinhaltet. Jede Entscheidung darüber, wie eine Variable dargestellt, ein fehlender Wert behandelt, eine Kategorie codiert oder ein Lag-Feature konstruiert wird, ist eine Entscheidung darüber, was das Modell über die Domäne, in der es operiert, verstehen kann.

Auf Produktionsebene vervielfachen sich diese Darstellungsentscheidungen. Features werden modellübergreifend wiederverwendet, von verschiedenen Teams neu erstellt und in unterschiedlichen Umgebungen neu berechnet. Diese Definitionen konsistent zu halten – von der Exploration über das Training bis hin zur Inferenz – hat direkte Auswirkungen auf die Qualität des Modells.

Aus diesem Grund sind Feature Engineering und MLOps eng miteinander verbunden. Feature Engineering bestimmt, woraus das Modell lernt, während MLOps dabei hilft, sicherzustellen, dass diese Feature-Definitionen konsistent, beobachtbar und zuverlässig bleiben, wenn Modelle von der Entwicklung in die Produktion übergehen.