Quand votre agent d’IA passe une mauvaise journée, quelle est votre dernière ligne de défense ?

Les entreprises s’appuient plus que jamais sur les agents d’IA pour stimuler leur productivité. Mais que se passe-t-il lorsque cette vitesse et cette autonomie se retournent contre nous ? Nous vivons à une époque où une seule erreur d’IA, pourtant bien intentionnée, peut supprimer une base de données de production entière et ses sauvegardes plus rapidement que les humains ne peuvent réagir. Ce risque ne vient pas du fait que les agents deviennent moins performants. Il tient au contraire à leur progression et à l’accès accru dont ils disposent aux systèmes stratégiques.

La question que chaque dirigeant doit se poser dès maintenant est la suivante : « Que se passe-t-il après l’erreur d’un agent d’IA ? »

Le pari collectif sur la productivité

L’IA agentique quitte le stade des démonstrations pour s’intégrer aux fonctions essentielles de l’entreprise moderne. Les agents écrivent du code, modifient des schémas, émettent des remboursements, rapprochent des comptes, rédigent des contrats et envoient des e-mails au nom de leurs utilisateurs. La raison pour laquelle les entreprises accélèrent leur adoption est simple : les gains de productivité sont bien réels. Un workflow qui nécessitait autrefois un ticket, l’intervention d’un spécialiste et un délai de trois jours s’exécute désormais en une minute.

Atteindre ce niveau de productivité exige d’accorder aux agents une véritable autonomie, un accès en écriture, un vaste périmètre opérationnel et l’autorité d’exécuter des tâches lourdes de conséquences, sans créer de goulot d’étranglement humain. L’autre solution consisterait à faire intervenir un humain à chaque action de l’agent, ce qui serait coûteux.

Mais dans l’entreprise humaine, l’autonomie et les actions lourdes de conséquences ont toujours eu un compagnon : les contrôles. Séparation des tâches. Gestion des modifications. Sauvegardes. Pistes d’audit. Nous ne les avons pas créés parce que nos collaborateurs humains ne seraient pas dignes de confiance. Nous les avons créés parce que même les meilleurs collaborateurs peuvent commettre des erreurs sous pression ou par accident, et que l’ampleur potentielle des conséquences est trop importante pour reposer uniquement sur les bonnes intentions.

Les agents autonomes ont besoin du même cadre rigoureux. Pourtant, même si la technologie est prête à être déployée, la plupart des organisations n’ont pas encore mis en place les garde-fous nécessaires pour la gérer en toute sécurité.

Pourquoi la situation va devenir plus difficile, et non plus facile

Il serait rassurant de croire que les difficultés auxquelles nous faisons face aujourd’hui sont dues à cette croissance débridée, et qu’elles disparaîtront à mesure que les modèles progresseront. Ce ne sera pas le cas, et il est important d’en comprendre honnêtement les raisons.

• Les agents gagnent en capacités, ce qui élargit leur surface d’exposition. L’élargissement des fenêtres de contexte, la meilleure intégration des outils et les capacités avancées de planification ont profondément changé la donne. Autrement dit, le même agent qui disposait l’an dernier d’un accès en lecture seule à votre entrepôt peut désormais aussi y écrire, orchestrer des opérations entre plusieurs systèmes et exécuter des actions en plusieurs étapes avec un minimum de supervision. Les capacités et l’ampleur des conséquences évoluent de concert.

• Les agents se multiplient au sein de l’entreprise. À mesure que l’adoption progresse, les entreprises pourraient compter des centaines d’agents, développés par différentes équipes, utilisant différents outils et disposant d’un accès qui se chevauche aux mêmes données sous-jacentes. La probabilité d’une défaillance système dépend désormais directement du nombre d’agents présents dans votre environnement. 

• La frontière entre « outil » et « acteur » s’estompe rapidement. L’assistant de codage par IA d’aujourd’hui deviendra demain un agent autonome de build et de déploiement. Le copilote analytique d’aujourd’hui deviendra demain un agent capable d’ajuster les règles tarifaires en production. À chaque avancée vers une autonomie complète, le profil de risque principal évolue : le mode de défaillance ne consiste plus à suggérer une mauvaise option, mais à exécuter la mauvaise action.

• L’injection de prompt et les attaques visant la chaîne logistique des agents constituent une catégorie de menaces en pleine expansion. Un agent qui lit des contenus sur le Web, des tickets partagés ou des e-mails clients consulte une surface contrôlable par un attaquant. Les workflows agentiques peuvent entraîner des actions dommageables si un adversaire contrôle une page web publique consultée par votre agent.

Rien de tout cela ne justifie de ralentir l’adoption de l’IA agentique. Les gains de productivité sont trop importants, et les organisations qui instaurent rapidement une discipline autour des agents progresseront plus vite que celles qui ne le font pas. En revanche, c’est une bonne raison de cesser de prétendre qu’une formulation de prompts rigoureuse et un choix judicieux de modèle constituent des contrôles suffisants pour un agent disposant d’un accès en écriture aux systèmes de référence.

La récupération doit être intégrée à la plateforme, pas reléguée à un runbook

Chez Snowflake, cette dernière ligne de défense explique pourquoi nous avons intégré directement à la plateforme des sauvegardes immuables en écriture unique et lectures multiples (WORM). Une fois les données capturées dans une sauvegarde WORM, aucun utilisateur, rôle ou agent ne peut les modifier ni les supprimer, pas même l’administrateur du compte. Si un agent, un humain ou un attaquant supprime, tronque ou corrompt une table qu’il était pleinement autorisé à modifier, une copie intègre, qui n’a jamais été exposée à ses actions, reste disponible.

C’est stratégique en raison de la conception même des agents modernes. Le périmètre d’autorité d’un agent est, par nécessité, suffisamment large pour lui permettre d’accomplir un travail utile. Ce même périmètre d’autorité rend les sauvegardes traditionnelles, celles qui résident dans le même compte et sont régies par les mêmes rôles, insuffisantes en dernier recours. Une couche immuable en dehors de ce périmètre n’est pas un luxe : c’est un choix architectural qui peut vous aider à accorder aux agents une véritable autonomie tout en réduisant les risques opérationnels.

Concevoir pour l’année à venir, pas pour celle qui vient de s’écouler

Dans un an, les entreprises qui réussiront avec les agents ne seront pas celles qui auront mené le plus de projets pilotes. Ce seront celles qui auront accordé le plus d’autonomie à leurs agents et qui dormiront sur leurs deux oreilles, sachant qu’elles disposent de solides protections de récupération, y compris pour des actions autrement difficiles à restaurer.

La question stratégique que doivent se poser les dirigeants n’est plus de savoir si un agent est digne de confiance, mais plutôt : « Quel sera l’état de mon architecture au moment où un agent commettra une erreur ? » Si votre plan actuel consiste simplement à croiser les doigts, vous savez clairement ce qu’il vous reste à construire.

Pour en savoir plus sur la façon dont Snowflake Backups peut vous aider à protéger votre entreprise contre les actions involontaires de l’intelligence artificielle et les attaques par ransomware, consultez notre page de documentation consacrée aux Sauvegardes pour la récupération après sinistre et le stockage immuable.