Blog/IA et ML/À chaque tâche son IA, au juste coût : routage dynamique et modèles ouverts pour optimiser chaque workload d’IA
18 août 2026/Lecture : 8 minIA et ML

À chaque tâche son IA, au juste coût : routage dynamique et modèles ouverts pour optimiser chaque workload d’IA

Photographie d’une réunion d’entreprise réunissant plusieurs collaborateurs autour d’une table dans un bureau vitré, avec des visualisations numériques superposées représentant graphiques, indicateurs et tableaux de données, illustrant une prise de décision collective appuyée par l’analyse de données.

Les entreprises investissent toujours plus dans l’IA, mais la valeur business ne suit pas toujours. À mesure que les organisations déploient toujours plus d’agents et d’applications d’IA, utiliser le modèle le plus puissant pour chaque requête peut faire grimper les coûts sans améliorer sensiblement les résultats. La vraie question n’est pas de savoir quel modèle est le meilleur. Elle consiste à déterminer quel modèle convient le mieux à chaque tâche et comment appliquer ce choix systématiquement pour chaque tâche exécutée dans l’entreprise.

Snowflake aide les organisations à atteindre cet équilibre grâce à deux nouvelles capacités dans Snowflake Cortex AI. Le routage dynamique des modèles (PrPr bientôt) via Cortex AI Gateway fournit une base unifiée pour gouverner les connexions des agents, orienter intelligemment les requêtes et optimiser la consommation d’IA. Snowflake élargit également son portefeuille de modèles ouverts, notamment DeepSeek-V4-Flash (PrPr) et GLM-5.3 (bientôt disponible), afin d’offrir aux organisations plus de flexibilité pour associer chaque workload au bon modèle.

Le bon modèle pour la bonne tâche : la clé d’une IA plus rentable

La rentabilité de l’IA s’améliore lorsque les organisations cessent de payer pour une intelligence supérieure à ce qu’exige une tâche. Snowflake appelle cela l’efficience de l’IA : la capacité à transformer calcul, modèles, données et contexte en valeur business mesurable. L’objectif est d’associer chaque tâche au modèle capable de fournir la qualité requise au coût le plus bas, plutôt que d’orienter par défaut chaque requête vers l’option la plus chère.

Le principe est simple : chaque tâche ne nécessite pas l’utilisation du modèle le plus puissant à disposition. Générer un rapport d’étape hebdomadaire ne demande pas le même niveau d’intelligence que synthétiser les risques à l’échelle d’un portefeuille entier. Le défi consiste à déterminer quel modèle convient le mieux à chaque tâche, puis à maintenir cette correspondance alors que des dizaines de modèles continuent d’évoluer et de s’améliorer.

Présentation du routage dynamique des modèles dans Cortex AI Gateway

Avec le routage dynamique des modèles, Cortex AI Gateway sélectionne le modèle le plus économique capable d’accomplir la tâche avec fiabilité à chaque étape de l’exécution de l’agent. Les tâches répétitives et moins complexes peuvent être confiées à des modèles plus efficaces, tandis que les charges de travail qui exigent un raisonnement plus approfondi peuvent être routées vers des modèles de pointe. Cela aide les clients à réduire les dépenses d’inférence inutiles, sans imposer aux équipes de développement de créer et de maintenir une logique de sélection des modèles. À mesure que les choix de modèles, les capacités et les tarifs évoluent, les décisions de routage peuvent s’adapter sans que les clients aient à reconstruire leurs applications ou leurs agents.

Cette capacité s’exécute dans le cadre des contrôles de gouvernance d’entreprise déjà établis dans Snowflake. Elle prend uniquement en compte les modèles approuvés par les administrateurs et respecte les paramètres existants de résidence des données de l’organisation, afin de contribuer à maintenir les requêtes dans les périmètres de conformité approuvés. Chaque décision de routage est également journalisée, ce qui donne aux administrateurs et aux équipes chargées de la conformité une visibilité sur le modèle qui a traité chaque requête.

Les premiers tests ont montré des gains d’efficacité significatifs. Lors d’une évaluation interne, le routage dynamique des modèles a exécuté un workload de pipeline data build tool (dbt) avec une efficacité en tokens jusqu’à trois fois supérieure à celle d’une approche reposant uniquement sur un modèle de pointe, tout en offrant une qualité comparable. Lors d’un autre test sur un workload de codage, les équipes d’ingénierie ont maintenu le même débit de pull requests tout en utilisant environ 25 % de tokens en moins.1

Snowflake prenant en charge la couche de routage, la sélection des modèles peut évoluer à mesure que de nouveaux modèles apparaissent et que les avantages comparatifs des modèles existants changent. Les clients bénéficient d’un routage qui s’améliore en continu, sans avoir à repenser leurs applications ni gérer eux-mêmes une logique de routage complexe.

Élargir l’accès aux modèles ouverts : DeepSeek-V4-Flash 0731 et GLM-5.3

Un routeur ne vaut que par les options dont il dispose. Le routage dynamique des modèles réduit les coûts en orientant chaque requête vers le modèle le moins cher qui atteint toujours le niveau de qualité requis. À mesure que le vivier de modèles performants et efficaces s’élargit, la rentabilité s’améliore.  Chaque nouveau modèle ajouté à ce vivier offre aux clients de meilleures performances à moindre coût.  C’est pourquoi l’écosystème des modèles ouverts compte encore plus aujourd’hui qu’il y a quelques mois à peine.

Aujourd’hui, nous élargissons l’accès des clients aux principaux modèles ouverts, dont DeepSeek-V4-Flash 0731 (en private preview) et GLM-5.3 (private preview bientôt disponible, sous réserve de modification selon la disponibilité du modèle3) dans Snowflake Cortex AI. Ils viennent enrichir un portefeuille existant qui comprend des modèles d’Anthropic, Google, OpenAI, SpaceXAI, Mistral AI et Meta, donnant aux utilisateurs plus d’options pour trouver la bonne combinaison de qualité, de performances et de coût pour chaque charge de travail.

Évalué sur ADE-bench avec Snowflake CoCo comme environnement d’orchestration d’agents, DeepSeek-V4-Flash obtient un score de 74,4 %,2 et dépasse le principal modèle propriétaire que nous avons testé. Ce n’est pas une erreur d’arrondi ; c’est le signe que la frontière OSS a rattrapé son retard là où cela compte le plus pour les équipes data. Même si nous annonçons GLM-5.3 aujourd’hui, les scores GLM-5.2 issus de tests précédents racontent déjà une histoire convaincante : une bonne précision en data engineering (66 % sur ADE-bench2) avec l’empreinte en tokens la plus faible de tous les modèles du benchmark, ce qui en fait un excellent choix pour les équipes qui exécutent des charges de travail auto-hébergées à fort volume, où coût et latence comptent. 

DeepSeek-V4-Flash 0731 est disponible dans CoCo dès aujourd’hui dans le cadre de la private preview, et GLM-5.3 arrive bientôt : il est auto-hébergeable et conçu pour garder vos données dans votre environnement.

Snowflake sert ces modèles ouverts lui-même plutôt que de relayer une API tierce via proxy, afin de garantir que l’inférence se déroule dans un périmètre sécurisé. Nous prenons en charge l’ensemble de la chaîne, depuis les données brutes de l’entreprise jusqu’à l’exécution complète d’une tâche agentique : les données, les ressources de calcul utilisées pour l’inférence, les poids du modèle et l’infrastructure qui orchestre le fonctionnement de l’agent. Plusieurs avantages en découlent directement :

  • L’inférence s’exécute au plus près des données gouvernées, ce qui réduit les coûts de transfert et la latence.

  • Le contrôle de la stack nous permet d’optimiser les schémas d’accès réellement générés par les charges de travail d’entreprise, au lieu de nous contenter des résultats d’un point de terminaison généraliste.

  • Vos données restent dans le périmètre de gouvernance de Snowflake, ce qui permet aux modèles ouverts de fonctionner avec le même contrôle d’accès basé sur les rôles et la même piste d’audit qui gouvernent déjà vos données.

Des économies sur l’utilisation de l’IA qui se renforcent avec le temps

Ensemble, le routage dynamique des modèles et un portefeuille croissant de modèles ouverts peuvent générer des gains cumulatifs d’efficacité en matière d’intelligence. Le routage dynamique évite d’avoir à recourir inutilement à des modèles de pointe coûteux en orientant les charges de travail courantes vers des alternatives plus efficaces. Dans le même temps, une sélection plus large de modèles ouverts performants offre à la couche de routage davantage d’options de haute qualité et à meilleur coût pour chaque requête.

L’équation économique s’améliore encore à mesure que le système apprend des usages réels. À mesure que les modèles sont évalués sur différentes charges de travail, les décisions de routage gagnent en précision. Les tâches peuvent être associées au niveau d’intelligence approprié, en fonction des exigences de qualité, de latence, de coût et de gouvernance. À mesure que de nouveaux modèles deviennent disponibles et que les modèles existants s’améliorent, une part croissante des charges de travail peut être prise en charge par des modèles efficaces, sans compromettre les résultats business dont l’entreprise a besoin.

Il en résulte un système conçu pour gagner en efficacité au fil du temps, en aidant les organisations à réduire progressivement le coût moyen de chaque résultat business, tout en continuant à bénéficier des progrès réalisés en matière de performance des modèles. Elles peuvent y parvenir sans reconstruire leurs applications, coder en dur leurs choix de modèles ni gérer manuellement une logique de routage complexe. La gouvernance d’entreprise contribue à garantir que les requêtes restent dans les paramètres définis de conformité, de performance et de coût. Les organisations peuvent ainsi faire évoluer l’IA avec davantage de contrôle et selon un modèle économique plus durable.

 

1 Résultats basés sur des tests internes de Snowflake ; méthodologie et conditions disponibles sur demande. Les résultats individuels peuvent varier selon la charge de travail et la configuration.

2 Score d’efficacité fondé sur des tests internes utilisant ADE-bench, un framework créé par dbt pour évaluer les agents d’IA sur des tâches réelles d’analytique et de data engineering.

3 Ce contenu contient des déclarations prospectives, notamment au sujet de nos futures offres de produits. Ces déclarations ne constituent pas un engagement à livrer une quelconque offre de produits. Les offres et résultats réels peuvent varier et faire l’objet de risques connus et inconnus, ainsi que d’incertitudes. Découvrez notre dernier 10‑Q pour en savoir plus.

Partager ce post

Subscribe to our blog newsletter

Get the best, coolest and latest delivered to your inbox each week

Where Data Does More

  • Essai gratuit de 30 jours
  • Aucune carte bancaire requise
  • Annulation à tout moment