Blog/KI und ML/Bessere KI-Wirtschaftlichkeit für jede Aufgabe: Wie Dynamic Model Routing und offene Modelle Ihre Kosten pro Ergebnis senken
18. Aug. 2026/Lesezeit: 7 MinutenKI und ML

Bessere KI-Wirtschaftlichkeit für jede Aufgabe: Wie Dynamic Model Routing und offene Modelle Ihre Kosten pro Ergebnis senken

KI-Investitionen nehmen zu, aber der Business Value hält nicht immer Schritt. Da Unternehmen mehr Agenten und KI-Anwendungen einsetzen, kann die Nutzung des leistungsstärksten Modells für jede Anfrage die Kosten in die Höhe treiben, ohne die Ergebnisse nennenswert zu verbessern. Die eigentliche Frage ist nicht, welches Modell das beste ist. Vielmehr geht es darum, welches Modell für die jeweilige Aufgabe am besten geeignet ist und wie man diese Auswahl in großem Maßstab trifft.

Snowflake hilft Unternehmen, dieses Gleichgewicht mit zwei neuen Funktionen in Cortex AI zu erreichen. Dynamic Model Routing (bald in Private Preview) über das Cortex AI Gateway bietet eine einheitliche Grundlage für die Verwaltung von Agentenverbindungen, die intelligente Weiterleitung von Anfragen und die Optimierung des KI-Verbrauchs. Snowflake erweitert zudem sein Portfolio an offenen Modellen, darunter DeepSeek-V4-Flash (in Private Preview) und GLM-5.3 (bald verfügbar), was Unternehmen mehr Flexibilität gibt, um jeden Workload mit dem passenden Modell abzustimmen.

Eine bessere KI-Wirtschaftlichkeit beginnt mit dem richtigen Modell für die richtige Aufgabe

Die Wirtschaftlichkeit von KI verbessert sich, wenn Unternehmen nicht mehr für mehr Intelligenz bezahlen, als eine Aufgabe erfordert. Snowflake nennt dies Intelligenzeffizienz: die Fähigkeit, Rechenressource, Modelle, Daten und Kontext in messbaren Business Value zu verwandeln. Das Ziel ist es, jede Aufgabe mit dem Modell abzustimmen, das die erforderliche Qualität zu den niedrigsten angemessenen Kosten liefern kann, anstatt jede Anfrage standardmäßig an die teuerste Option weiterzuleiten.

Das Prinzip ist einfach: Nicht jede Aufgabe erfordert das leistungsstärkste verfügbare Modell. Die Erstellung einer wöchentlichen Statuszusammenfassung erfordert nicht das gleiche Maß an Intelligenz wie die Synthese von Risiken über ein gesamtes Portfolio hinweg. Die Herausforderung besteht darin, zu bestimmen, welches Modell für die jeweilige Aufgabe am besten geeignet ist, und diese Zuordnung aufrechtzuerhalten, während sich Dutzende von Modellen weiterentwickeln und verbessern.

Einführung von Dynamic Model Routing im Cortex AI Gateway

Mit Dynamic Model Routing wählt das Cortex AI Gateway bei jedem Schritt der Agentenausführung das kostengünstigste Modell aus, das die Aufgabe zuverlässig erledigen kann. Weniger komplexe und sich wiederholende Aufgaben können an effizientere Modelle weitergeleitet werden, während Workloads, die tiefere Überlegungen erfordern, an Frontier-Modelle geroutet werden können. Dies hilft Kund:innen, unnötige Ausgaben für Inferenzen zu reduzieren, ohne dass Entwicklungsteams eine Logik für die Modellauswahl entwickeln und pflegen müssen. Da sich Modellauswahl, Funktionen und Preise weiterentwickeln, können Routing-Entscheidungen angepasst werden, ohne dass Kund:innen ihre Anwendungen oder Agenten neu erstellen müssen.

Die Funktion arbeitet innerhalb der Governance-Kontrollen für Unternehmen, die bereits in Snowflake etabliert sind. Sie berücksichtigt nur von Administrator:innen genehmigte Modelle und respektiert die bestehenden Einstellungen zur Datenresidenz eines Unternehmens, um sicherzustellen, dass Anfragen innerhalb der genehmigten Compliance-Grenzen bleiben. Jede Routing-Entscheidung wird zudem protokolliert, sodass Administrator:innen und Compliance-Teams nachvollziehen können, welches Modell welche Anfrage bearbeitet hat.

Frühe Tests haben deutliche Effizienzgewinne gezeigt. In einer internen Evaluierung schloss Dynamic Model Routing einen Pipeline-Workload mit dem Data Build Tool (dbt) mit einer bis zu dreimal höheren Token-Effizienz ab als ein Ansatz, der nur auf Frontier-Modellen basiert, und lieferte dabei eine vergleichbare Qualität. In einem separaten Test für Coding-Workloads behielten die Engineering-Teams den gleichen Pull-Request-Durchsatz bei, während sie etwa 25 % weniger Token verwendeten.1

Da Snowflake die Routing-Schicht verwaltet, kann sich die Modellauswahl weiterentwickeln, wenn neue Modelle verfügbar werden und sich die relativen Stärken bestehender Modelle ändern. Kund:innen profitieren von einem sich kontinuierlich verbessernden Routing, ohne ihre Anwendungen neu gestalten oder komplexe Routing-Logik selbst verwalten zu müssen.

Erweiterung des Zugangs zu offenen Modellen: DeepSeek-V4-Flash 0731 und GLM-5.3

Ein Router ist nur so gut wie die ihm zur Verfügung stehenden Optionen. Dynamic Model Routing senkt die Kosten, indem jede Anfrage an das kostengünstigste Modell weitergeleitet wird, das die erforderlichen Qualitätsstandards noch erfüllt. Wenn der Pool an fähigen, effizienten Modellen wächst, verbessert sich die Wirtschaftlichkeit.  Mit jedem neuen Modell, das dem Pool hinzugefügt wird, erhalten Kund:innen eine bessere Performance zu geringeren Kosten.  Deshalb ist das Ökosystem offener Modelle heute noch wichtiger als noch vor wenigen Monaten.

Heute erweitern wir den Zugang unserer Kund:innen zu führenden offenen Modellen, darunter DeepSeek-V4-Flash 0731 (in Private Preview) und GLM-5.3 (Private Preview bald verfügbar, Änderungen je nach Modellverfügbarkeit vorbehalten3) in Cortex AI. Diese ergänzen ein bestehendes Portfolio, das Modelle von Anthropic, Google, OpenAI, SpaceXAI, Mistral AI und Meta umfasst, und geben Nutzer:innen mehr Optionen, um die richtige Kombination aus Qualität, Performance und Kosten für jeden Workload zu finden.

Bei der Evaluierung auf ADE-bench mit Snowflake CoCo als Agent-Harness erreicht DeepSeek-V4-Flash 74,4 %,2 und übertrifft damit das führende proprietäre Modell, das wir getestet haben. Das ist kein Rundungsfehler; es ist ein Signal, dass die OSS-Grenze dort aufgeholt hat, wo es für Datenteams am wichtigsten ist. Während wir heute GLM 5.3 ankündigen, erzählen die GLM-5.2-Ergebnisse aus vergangenen Tests eine überzeugende Geschichte: solide Data Engineering-Genauigkeit (66 % auf ADE-bench2) mit dem geringsten Token-Fußabdruck aller Modelle im Benchmark, was es zu einer starken Wahl für Teams macht, die hochvolumige, selbst gehostete Workloads ausführen, bei denen Kosten und Latenz wichtig sind. 

DeepSeek-V4-Flash 0731 ist heute in CoCo in Private Preview verfügbar und GLM-5.3 wird bald verfügbar sein, selbst hostbar und so konzipiert, dass Ihre Daten in Ihrer Umgebung bleiben.

Snowflake stellt diese offenen Modelle selbst bereit, anstatt eine API von Drittanbietern als Proxy zu verwenden, um sicherzustellen, dass die Inferenz innerhalb eines sicheren Perimeters stattfindet. Wir betreiben den gesamten Pfad von rohen Unternehmensdaten bis hin zu einer abgeschlossenen Agenten-Aufgabe: die Daten, die Rechenressource, die die Inferenz ausführt, die Modellgewichte und das Agent-Harness, das alles orchestriert. Daraus ergeben sich direkt mehrere Vorteile:

  • Die Inferenz läuft neben kontrollierte Daten, was Transferkosten und Latenz reduziert.

  • Die Kontrolle über den Stack ermöglicht es uns, für die Zugriffsmuster zu optimieren, die Unternehmens-Workloads tatsächlich erzeugen, anstatt das zu akzeptieren, was ein Allzweck-Endpunkt liefert.

  • Ihre Daten bleiben innerhalb der Governance-Grenze von Snowflake, sodass offene Modelle innerhalb derselben RBAC und desselben Audit-Trails arbeiten, die bereits Ihre Daten verwalten.

KI-Wirtschaftlichkeit, die sich im Laufe der Zeit summiert

Zusammen können Dynamic Model Routing und ein wachsendes Portfolio an offenen Modellen zu sich summierenden Gewinnen bei der Intelligenzeffizienz führen. Dynamisches Routing reduziert die unnötige Abhängigkeit von teuren Frontier-Modellen, indem Routine-Workloads an effizientere Alternativen weitergeleitet werden. Gleichzeitig bietet eine breitere Auswahl an fähigen offenen Modellen der Routing-Schicht mehr hochwertige, kostengünstige Optionen für jede Anfrage.

Die Wirtschaftlichkeit verbessert sich weiter, da das System aus der realen Nutzung lernt. Da Modelle über verschiedene Workloads hinweg evaluiert werden, werden Routing-Entscheidungen präziser. Aufgaben können basierend auf Qualitäts-, Latenz-, Kosten- und Governance-Anforderungen an das entsprechende Maß an Intelligenz angepasst werden. Wenn neue Modelle verfügbar werden und sich bestehende Modelle verbessern, kann ein größerer Teil der Workloads von effizienten Modellen bewältigt werden, ohne die vom Unternehmen geforderten Ergebnisse zu beeinträchtigen.

Das Ergebnis ist ein System, das darauf ausgelegt ist, im Laufe der Zeit effizienter zu werden, indem es Unternehmen ermöglicht, die durchschnittlichen Kosten für jedes Geschäftsergebnis schrittweise zu senken und gleichzeitig weiterhin von Fortschritten bei der Modell-Performance zu profitieren. Sie können dies tun, ohne Anwendungen neu zu erstellen, Modellauswahlen fest zu codieren oder komplexe Routing-Logik manuell zu verwalten. Enterprise-Governance trägt dazu bei, sicherzustellen, dass Anfragen innerhalb definierter Compliance-, Performance- und Kostenparameter bleiben, sodass Unternehmen KI mit größerer Kontrolle und nachhaltigerer Wirtschaftlichkeit skalieren können.

 

1 Ergebnisse basieren auf internen Tests von Snowflake; Methodik und Bedingungen sind auf Anfrage erhältlich. Individuelle Ergebnisse können je nach Workload und Konfiguration variieren.

2 Effizienzbewertung basierend auf internen Tests mit ADE-bench, einem Framework, das von dbt zur Evaluierung von KI-Agenten bei realen Analytics- und Data Engineering-Aufgaben erstellt wurde.

3 Dieser Inhalt enthält zukunftsgerichtete Aussagen, unter anderem über künftige Produktangebote. Diese Aussagen stellen keine Garantie dar, dass diese Angebote tatsächlich bereitgestellt werden. Die tatsächlichen Ergebnisse und Angebote können abweichen und unterliegen bekannten und unbekannten Risiken und Unsicherheiten. Weitere Informationen finden Sie in unserem jüngsten 10-Q-Formular.

Diesen Beitrag teilen

Subscribe to our blog newsletter

Get the best, coolest and latest delivered to your inbox each week

Where Data Does More