Pièges courants de l’IA dans les services financiers et comment les éviter

Dans les services financiers, l’IA ne se contente plus d’effectuer des analyses prédictives élémentaires. Elle prend des décisions complexes à partir de vastes ensembles de données. Les modèles de risque fonctionnent de manière autonome. Les agents répondent aux questions réglementaires. Les systèmes de trading agissent à partir de signaux générés par des modèles qui ne prennent jamais le temps de vérifier ce que signifient réellement les données sous-jacentes.

C’est bien là le problème. L’IA ne fonctionne pas uniquement à partir de données brutes et de grands modèles de langage. Elle s’appuie sur une couche sémantique, c’est-à-dire la représentation de la signification des données, des relations entre les concepts et des questions auxquelles il est légitime de chercher une réponse. Lorsque cette couche est fiable, l’IA est performante. Quand elle ne l’est pas, l’IA n’échoue pas de manière flagrante. Elle produit avec assurance des réponses incorrectes à des questions qu’elle n’a jamais été conçue pour résoudre.

Pour les entreprises de services financiers qui accélèrent l’adoption de l’IA, la couche sémantique n’est plus une simple note de bas de page architecturale. C’est une surface de risque.

Les normes ont fait d’énormes progrès, mais pas encore suffisamment

L’Open Semantic Interchange (OSI) vise à relever ce défi de longue date : permettre à différentes technologies de représenter et d’échanger des informations sémantiques. Pour la première fois, nous nous rapprochons d’un monde où la sémantique, et pas seulement les données, peut circuler entre les plateformes de manière homogène.

C’est une avancée significative. 

Mais les acteurs des services financiers ont appris, à maintes reprises, que s’accorder sur l’enveloppe ne revient pas à s’accorder sur ce qu’elle contient.

La moitié de l’interopérabilité dont personne ne parle

En clair : nous avons standardisé la manière dont les systèmes échangent des modèles sémantiques, pas la signification de ces modèles.

L’interopérabilité structurelle pose la question suivante : « Les systèmes peuvent-ils échanger des modèles dans un format que les deux parties savent lire ? » C’est un problème d’ingénierie. Il appelle une solution d’ingénierie. OSI le résout.

L’interopérabilité conceptuelle pose la question suivante : « Les deux parties s’accordent-elles sur la signification réelle du modèle ? » Ce n’est pas un problème d’ingénierie. C’est un problème de coordination qui exige que les institutions, les fournisseurs et les fournisseurs de données s’alignent sur des définitions communes avant même l’écriture de la première ligne de code.

OSI a délibérément commencé par traiter l’interopérabilité structurelle. C’était le bon ordre de progression. Mais le secteur découvre aujourd’hui que l’interopérabilité structurelle sans interopérabilité conceptuelle ne suffit pas.

Le problème que chaque institution résout discrètement, encore et encore

Passez suffisamment de temps au sein de banques, de sociétés de gestion d’actifs, d’assureurs ou chez des fournisseurs de données, et un schéma se dessine.

Chaque organisation modélise les mêmes concepts fondamentaux : transactions, positions, instruments, comptes, expositions au risque, plateforme d’investissement, FIBO et bien plus encore. Et chaque organisation les définit légèrement différemment. Pas radicalement, mais suffisamment pour que cela compte lorsque les données franchissent une frontière.

Prenons quelques exemples : 

1. « Position » Dans une grande banque, une position comprend les transactions non dénouées, c’est-à-dire les opérations convenues mais pas encore compensées, ainsi que les intérêts courus. Dans une autre, elle désigne uniquement les transactions dénouées, enregistrées sous la forme d’un instantané de fin de journée. 

2. FIBO : un instrument financier fongible et négociable, qui représente une forme quelconque de valeur financière.

Ces définitions sont concordantes en interne, mais la différence de formulation entraîne trois problèmes : 

1. Nous avons tous dupliqué nos efforts.

2. L’IA ne traitera pas ces éléments de la même manière sans intervention humaine.

3. Nous consacrerons du temps à mettre en correspondance et à normaliser nos couches sémantiques.

Mais lorsqu’un modèle d’agrégation des risques alimenté par l’IA s’appuie sur ces deux sources, il produit des niveaux d’exposition sensiblement différents pour un même portefeuille, sans avertissement, sans indicateur et sans aucun moyen de retracer la définition appliquée à chaque étape. Le modèle n’échoue pas. Il produit simplement, en toute discrétion, une réponse erronée.

Les concepts sont concordants. Les définitions des concepts sont incohérentes.

Ainsi, chaque fois que les données circulent entre les systèmes, en interne ou entre entreprises, les équipes doivent rapprocher les différences ou redéfinir la sémantique.

Ce travail reste rarement visible. Il n’apparaît ni dans les schémas d’architecture ni dans les démonstrations des prestataires. Il se cache dans les fils d’e-mails, les feuilles de calcul de rapprochement et la mémoire institutionnelle de l’analyste qui travaille dans l’organisation depuis assez longtemps pour se souvenir de la raison pour laquelle les chiffres ne correspondaient jamais tout à fait.

Mais il est partout. Et il coûte cher.

Pourquoi cet écart est aujourd’hui plus important qu’avant

Ce n’est pas un problème nouveau. Les services financiers ont toujours été marqués par une sémantique fragmentée : chaque entreprise, chaque système et chaque prestataire utilise ses propres définitions des mêmes concepts fondamentaux.

Ce qui est nouveau, c’est le coût de laisser cette situation sans réponse.

1. L’IA ne contient pas l’ambiguïté, elle la rend opérationnelle

Lorsqu’un analyste humain rencontre une divergence de définition, il s’arrête, la signale et la résout, ou la rapproche discrètement en traduisant une sémantique approximative pour en restituer le véritable sens. Le rapprochement est lent, mais il reste maîtrisé. Lorsqu’un système d’IA rencontre la même divergence, il ne s’arrête pas. Il intègre l’incohérence à ses résultats, la propage en aval, puis la recombine avec d’autres incohérences au fil de milliers de décisions, avant que quiconque ne remarque le problème. Et même s’il était capable d’effectuer ce rapprochement, tout comme dans sa version humaine, il introduirait une fragilité et ajouterait du travail (des tokens).

Le problème n’a pas changé. C’est la vitesse à laquelle il se multiplie qui a changé.

2. Chaque frontière entre les données est désormais une frontière sémantique

Les entreprises ne fonctionnent plus en vase clos. Aujourd’hui, un même workflow de gestion du risque de crédit peut faire intervenir un prestataire de données de marché, une plateforme de gestion des risques tierce, un service de création de rapports réglementaires et deux jeux de données internes, chacun ayant sa propre définition des mêmes concepts sous-jacents. Chaque intégration offre une nouvelle possibilité de dérive sémantique. Et cette dérive se cumule : un léger écart de définition au moment de l’ingestion devient une divergence significative lorsqu’il atteint la couche d’IA.

3. La vitesse d’intégration est désormais un facteur de compétitivité

Les entreprises qui concluent plus vite leurs contrats, intègrent plus rapidement leurs partenaires data et s’adaptent plus vite aux évolutions réglementaires sont celles qui disposent des fondations sémantiques les plus solides. Le désalignement sémantique crée ici des frictions. C’est la taxe invisible qui pèse sur chaque nouveau produit de données, chaque initiative d’IA et chaque collaboration entre entreprises.

Ce qui change, c’est l’ampleur et, par conséquent, l’urgence. 

Le secteur d’activité le sait déjà, mais il lui manque une solution concrète.

Le secteur d’activité connaît ce problème depuis des décennies. Les tentatives pour le résoudre sont sérieuses, correctement financées et animées de bonnes intentions.

L’ontologie business du secteur financier (Financial Industry Business Ontology, FIBO) en est l’exemple le plus emblématique. Développée par l’EDM Council et désormais gérée comme une norme ouverte, FIBO fournit un vocabulaire complet et formellement structuré des concepts financiers : des milliers de classes, de propriétés et de relations couvrant aussi bien les entités juridiques que les instruments dérivés.

L’ambition est parfaitement justifiée. La demande pour un vocabulaire partagé est bien réelle, mais le mécanisme de mise à disposition n’a pas fonctionné. Le cycle se répète donc, entreprise après entreprise, intégration après intégration, projet d’IA après projet d’IA.

De la prise de conscience à l’action

La fondation structurelle existe et l’OSI fournit le transport. Les significations sémantiques partagées décrites dans les sections précédentes sont la pièce manquante, et leur mise en place relève seulement en partie d’un problème de technologie. Il s’agit surtout d’un problème de coordination.

La voie à suivre ressemble donc moins à celle d’un organisme de normalisation qui produit une spécification qu’à celle d’un groupe de travail sectoriel qui élabore un outil immédiatement exploitable : un vocabulaire de référence.

Ce que ce travail implique :

• Commencer par s’accorder précisément et collectivement sur la nature du problème. Toutes les entreprises ne vivent pas le désalignement sémantique de la même manière. Le travail commence donc par l’identification des écarts les plus fréquents et les plus coûteux.

• Ensuite, il faut définir à quoi ressemble une solution, ce que couvre la couche partagée, ce qu’elle ne couvre pas et ce que signifie « terminé » pour la première itération.

• Puis, il faut progresser par étapes. Un concept après l’autre, un groupe de travail après l’autre, avec un élément exploitable à chaque étape plutôt qu’un environnement complet livré des années plus tard.

Qui doit participer :

• Fournisseurs de données qui distribuent des données financières entre les entreprises et supportent le coût du désalignement sémantique chaque fois que la définition d’un client diverge de la leur.

• Institutions financières dont les équipes d’architecture de données recréent les mêmes correspondances projet après projet et dont les programmes d’IA échouent discrètement en raison d’incohérences de définition qu’elles ne savent pas encore nommer.

• Fournisseurs de plateformes dont les outils de modélisation sémantique interviennent au point où sont créées les définitions propres à chaque entreprise et qui sont les mieux placés pour rendre la couche partagée consultable depuis les workflows existants.

Ce que permet réellement un alignement partiel :

l’objectif n’est pas de parvenir à un consensus sur tout. Il suffit de s’accorder sur l’essentiel. Même un alignement sur 20 concepts fondamentaux réduit la surface de chaque intégration ultérieure. Les équipes qui consacraient six mois à faire correspondre « position » entre trois systèmes n’y consacrent plus que deux semaines. Le modèle d’IA qui agrégeait silencieusement des définitions incompatibles dispose désormais d’une divergence déclarée avec laquelle travailler. La déclaration réglementaire qui nécessitait trois cycles de rapprochement est désormais envoyée sans erreur dès la première soumission.

L’effet cumulatif fonctionne dans les deux sens. Le désalignement se cumule jusqu’à produire des erreurs. L’alignement se cumule jusqu’à accélérer les opérations.

Si ce travail concerne votre rôle, que vous construisiez des modèles sémantiques, évaluiez des plateformes de données ou dirigiez un programme de données et d’IA au sein d’une entreprise du secteur des services financiers, la conversation a lieu dès maintenant.

Découvrez les dernières analyses sur l’évolution de l’IA. Rejoignez-nous au Snowflake Summit du 1er au 4 juin à San Francisco. 

Vous souhaitez participer à l’Open Semantic Interchange ? Découvrez comment vous impliquer.