Armadilhas comuns de IA em serviços financeiros e como evitá-las

Nos serviços financeiros, a IA não se limita mais a análises preditivas básicas: ela toma decisões complexas com base em grandes volumes de dados. Modelos de risco operam de forma autônoma. Agentes respondem a consultas regulatórias. Sistemas de negociação agem com base em sinais gerados por modelos que nunca param para questionar o que os dados subjacentes realmente significam.

Esse é o problema. A IA não opera apenas sobre dados brutos e grandes modelos de linguagem. Ela opera sobre uma camada semântica: a representação do que os dados significam, como os conceitos se relacionam e quais perguntas podem ser legitimamente feitas a eles. Quando essa camada é sólida, a IA performa. Quando não é, a IA não falha de forma evidente. Ela produz, com aparente confiança, respostas incorretas para perguntas que nunca foi capaz de responder.

Para empresas de serviços financeiros que aceleram a adoção de IA, a camada semântica deixou de ser uma nota de rodapé arquitetural. É uma superfície de risco.

Os padrões avançaram muito, mas ainda não o suficiente

O Open Semantic Interchange (OSI) tem como objetivo enfrentar esse desafio antigo: como diferentes tecnologias representam e trocam informações semânticas. Pela primeira vez, nos aproximamos de um mundo em que a semântica, e não apenas os dados, pode circular entre plataformas de forma consistente.

Isso representa um avanço significativo. 

Mas os serviços financeiros aprenderam, repetidamente, que concordar com o envelope não é o mesmo que concordar com o que está dentro dele.

A metade da interoperabilidade sobre a qual ninguém fala

Em outras palavras: padronizamos a forma como os sistemas trocam modelos semânticos, não o que esses modelos significam.

A interoperabilidade estrutural pergunta: "Os sistemas conseguem trocar modelos em um formato que ambos os lados consigam ler?" Esse é um problema de engenharia. Ele tem uma solução de engenharia. O OSI resolve isso.

A interoperabilidade conceitual pergunta: "Ambos os lados concordam com o que o modelo realmente significa?" Esse não é um problema de engenharia. É um problema de coordenação: um que exige que instituições, fornecedores e provedores de dados alinhem definições compartilhadas antes que a primeira linha de código seja escrita.

O OSI abordou intencionalmente a interoperabilidade estrutural primeiro. Essa foi a sequência correta. Mas o setor está descobrindo agora que a interoperabilidade estrutural sem interoperabilidade conceitual não é suficiente.

O problema que toda instituição resolve em silêncio, repetidamente

Passe tempo suficiente dentro de bancos, gestoras de ativos, seguradoras ou provedores de dados, e um padrão emerge.

Toda organização modela os mesmos conceitos centrais: negociações, posições, instrumentos, contas, exposições a risco, plataforma de investimento, FIBO e muito mais. E toda organização os define de forma ligeiramente diferente. Não de forma radical, mas o suficiente para importar quando os dados cruzam uma fronteira.

Considere alguns exemplos: 

1. "Posição." Em um grande banco, uma posição inclui negociações não liquidadas, ou seja, transações acordadas mas ainda não compensadas, além de juros acumulados. Em outro, são apenas negociações liquidadas, capturadas como um snapshot de fim de dia. 

2. FIBO: Um instrumento financeiro que é fungível, negociável e representa algum tipo de valor financeiro.

Essas definições são internamente consistentes, mas a diferença de redação gera três problemas: 

1. Todos nós duplicamos esforços.

2. A IA não tratará esses dados da mesma forma sem esforço adicional.

3. Gastaremos tempo mapeando e normalizando nossas camadas semânticas.

Mas quando um modelo de agregação de risco de IA extrai dados de ambas as fontes, ele produz números de exposição materialmente diferentes para o mesmo portfólio, sem nenhum aviso, nenhum alerta e nenhuma forma de rastrear qual definição foi aplicada em qual etapa. O modelo não falha. Ele simplesmente produz a resposta errada, em silêncio.

Os conceitos são consistentes. As definições dos conceitos são inconsistentes.

Assim, toda vez que os dados transitam entre sistemas, seja internamente ou entre empresas, as equipes são forçadas a reconciliar diferenças ou redefinir semânticas.

Esse trabalho raramente é visível. Ele não aparece em diagramas de arquitetura nem em demonstrações de fornecedores. Ele vive em threads de email, planilhas de reconciliação e na memória institucional do analista que está há tempo suficiente para lembrar por que os números nunca batiam.

Mas está em todo lugar. E tem um custo alto.

Por que essa lacuna importa mais agora do que antes

Esse não é um problema novo. Os serviços financeiros sempre tiveram semânticas fragmentadas: cada empresa, cada sistema, cada fornecedor com suas próprias definições dos mesmos conceitos centrais.

O que é novo é o custo de deixar isso sem solução.

1. A IA não contém a ambiguidade: ela a operacionaliza

Quando um analista humano encontra uma inconsistência de definição, ele para, sinaliza e resolve, ou a reconcilia silenciosamente, traduzindo uma semântica imprecisa para o significado correto. A reconciliação é lenta, mas está contida. Quando um sistema de IA encontra a mesma inconsistência, ele não para. Ele incorpora a inconsistência em seu resultado, propaga-a para etapas posteriores e a recombina com outras inconsistências em milhares de decisões antes que alguém perceba que algo está errado. E mesmo que fosse capaz de reconciliar, assim como na versão humana, isso introduz fragilidade e gera trabalho adicional (tokens).

O problema não mudou. A velocidade com que ele se agrava, sim.

2. Toda fronteira de dados é agora uma fronteira semântica

As empresas não operam mais de forma isolada. Um único fluxo de trabalho de risco de crédito hoje pode envolver um fornecedor de dados de mercado, uma plataforma de risco terceirizada, um utilitário de relatórios regulatórios e dois conjuntos de dados internos, cada um com sua própria definição dos mesmos conceitos subjacentes. Cada integração é uma nova oportunidade para o desvio semântico. E o desvio se acumula: uma pequena lacuna de definição na ingestão se torna uma discrepância relevante quando chega à camada de IA.

3. A velocidade de integração é agora uma variável competitiva

As empresas que fecham negócios mais rápido, integram parceiros de dados mais rápido e se adaptam a mudanças regulatórias mais rápido são aquelas com bases semânticas mais sólidas. O desalinhamento semântico gera atrito nesse processo. É o imposto oculto sobre cada novo produto de dados, cada iniciativa de IA e cada colaboração entre empresas.

A escala e, portanto, a urgência são o que há de novo. 

O setor já sabe disso, mas ainda não tem uma solução prática

O setor está ciente desse problema há décadas. As tentativas de resolvê-lo são reais, bem financiadas e bem-intencionadas.

A Financial Industry Business Ontology (FIBO) é o exemplo mais proeminente. Desenvolvida pelo EDM Council e hoje mantida como padrão aberto, a FIBO oferece um vocabulário abrangente e formalmente estruturado para conceitos financeiros: milhares de classes, propriedades e relacionamentos que cobrem desde entidades jurídicas até instrumentos derivativos.

A ambição é exatamente a certa. A demanda por um vocabulário compartilhado é real, mas o mecanismo de entrega não funcionou. E o ciclo se repete: empresa por empresa, integração por integração, projeto de IA por projeto de IA.

Da consciência à ação

A base estrutural existe e o OSI fornece o transporte. Os significados semânticos compartilhados descritos nas seções anteriores são a peça que falta, e construí-los é apenas parcialmente um problema de tecnologia. É, sobretudo, um problema de coordenação.

Isso significa que o caminho a seguir se parece menos com um órgão de normas produzindo uma especificação e mais com um grupo de trabalho do setor produzindo algo imediatamente utilizável: um vocabulário de referência.

O que o trabalho realmente envolve:

• Primeiro, chegar a um acordo sobre qual é o problema, de forma precisa e coletiva. Nem todas as empresas vivenciam o desalinhamento semântico da mesma forma, e o trabalho começa mapeando onde as lacunas são mais custosas e mais comuns.

• Depois, chegar a um acordo sobre como é uma solução: o que a camada compartilhada cobre, o que ela não cobre e o que significa "concluído" para a primeira iteração.

• Em seguida, avançar de forma incremental. Um conceito de cada vez, um grupo de trabalho de cada vez, com algo utilizável a cada etapa, em vez de uma estrutura completa que chega anos depois.

Quem precisa estar à mesa:

• Provedores de dados que distribuem dados financeiros entre os limites das empresas e absorvem o custo do desalinhamento semântico toda vez que a definição de um cliente diverge da deles.

• Instituições financeiras cujas equipes de arquitetura de dados reconstroem os mesmos mapeamentos projeto após projeto e cujos programas de IA estão falhando silenciosamente por causa de inconsistências de definição que ainda não conseguem nomear.

• Fornecedores de plataformas cujas ferramentas de modelagem semântica estão no ponto em que as definições no nível da empresa são criadas e que estão melhor posicionados para tornar a camada compartilhada referenciável a partir dos fluxos de trabalho existentes.

O que o alinhamento parcial realmente entrega:

O objetivo não é consenso sobre tudo. É consenso sobre o suficiente. Alinhar apenas 20 conceitos centrais já reduz a superfície de cada integração subsequente. As equipes que passam seis meses mapeando "posição" em três sistemas passam duas semanas em vez disso. O modelo de IA que agregava silenciosamente definições incompatíveis agora tem uma divergência declarada com a qual trabalhar. O relatório regulatório que exigia três rodadas de reconciliação sai limpo na primeira tentativa.

O efeito cumulativo funciona nas duas direções. O desalinhamento se acumula em erros. O alinhamento se acumula em velocidade.

Se este trabalho é relevante para o seu papel, seja construindo modelos semânticos, avaliando plataformas de dados ou liderando um programa de dados com IA em uma empresa do setor financeiro, a conversa está acontecendo agora.

Fique por dentro das últimas novidades sobre como a IA está evoluindo. Junte-se a nós no Snowflake Summit de 1 a 4 de junho em San Francisco. 

Interessado em fazer parte do Open Semantic Interchange? Saiba como você pode participar.