Previsões para 2025: a IA como ferramenta e alvo de segurança cibernética

Na área tecnológica, embora a IA (ainda) seja o tópico mais popular, ela não será o principal problema de segurança em 2025. A IA avançada vai abrir novos vetores de ataque e também fornecer novas ferramentas para proteger os dados de uma organização. Mas, o desafio subjacente é a enorme quantidade de dados que as equipes de segurança cibernética, já sobrecarregadas, precisam gerenciar para responder a questões básicas, como: "Estamos sendo atacados?"

No documento "Snowflake AI + Data Previsions 2025", me uni a uma dúzia de especialistas e líderes para discutir as mudanças que a IA, em particular, trará nos próximos anos. E, do ponto de vista da segurança, há notícias boas e ruins. Ao mesmo tempo que a IA contribui para o problema (mais dados para proteger, maior superfície de ataque), ela também é uma oportunidade em potencial, fornecendo as ferramentas para gerenciar quantidades de dados que os humanos não conseguem entender sozinhos. Entre outros assuntos, nosso relatório destaca quatro necessidades para a segurança cibernética à medida que a era da IA avança.

Os profissionais de segurança precisam melhorar continuamente seus negócios para garantir que, de todos os dados disponíveis, eles estejam usando os que estão corretos para identificar vulnerabilidades e incidentes. O data lake de segurança vai continuar a se beneficiar como uma maneira econômica de reunir grandes quantidades de dados de diversas fontes. Dentro do data lake de segurança, as equipes podem usar aprendizado de máquina e análise de dados avançada. Além disso, ao tornar mais econômico manter mais dados por mais tempo, as equipes podem realizar melhores análises investigativas. Comparado às ferramentas tradicionais de gerenciamento de eventos e incidentes de segurança, os data lakes de segurança são, em geral, mais flexíveis, dimensionáveis e econômicos. Os SIEMs também se adaptam melhor às soluções de IA e, por todos esses motivos, esperamos que o data lake de segurança supere o SIEM.

No ano passado, publicamos uma estrutura de segurança de IA que identifica 20 vetores de ataque contra grandes modelos de linguagem e sistemas de IA generativa. Nela, analisamos três camadas de IA que podem se tornar uma superfície de ataque. Discutimos a primeira, a plataforma principal, no relatório de previsões do ano passado. Notamos que a automação previne falhas de configuração no nível da produção e que os ambientes de desenvolvedores tornam-se um alvo relativamente mais vulnerável. Porém, no momento, essa infraestrutura também está se consolidando bastante.

No próximo ano, esperamos ver a próxima camada, operação do modelo, tornar-se um alvo mais comum. Os profissionais de segurança terão que considerar como o modelo é treinado inicialmente e como ele incorpora novos dados à produção. Teremos de analisar o ciclo de vida do modelo como um todo, bem como o ciclo de vida dos dados que ele alimenta. As equipes de segurança terão que padronizar a forma como lidam com novas tecnologias de IA para garantir que elas estejam tão seguras quanto a infraestrutura corporativa geral.

Uma terceira camada de ataques, que prevemos irá aumentar ainda mais, é uma interação direta com a IA para enganá-la e fazê-la revelar dados confidenciais que certamente não deveriam ter sido incorporados ao modelo. É por isso que observamos a prática emergente de gerenciamento de posturas de segurança de dados, que busca fornecer melhor visibilidade da localização, dos usos e da segurança dos dados em toda a empresa.

A inteligência artificial também fornecerá novas ferramentas para proteger a empresa, e as equipes de segurança já estão testando as oportunidades iniciais. Um LLM complementado por uma interface de IA generativa possibilita fazer perguntas em linguagem natural e humana sobre a postura geral de segurança ou alertas e padrões específicos. Essa experiência de copiloto de segurança vai amadurecer e se tornar um assistente mais eficaz para equipes de segurança que sempre enfrentam falta de pessoal. Em especial, as ferramentas com tecnologia de IA ajudarão profissionais mais jovens de segurança a converter rapidamente ideias em consultas e análises. Dessa forma, estima-se a redução do tempo necessário para aprender a lógica de consulta complexa e obter respostas para preocupações de segurança imediatas.

Em especial, a capacidade dos sistemas de IA de resumir incidentes de segurança será um grande avanço. Imagine a IA dizer a você: "Vejo um padrão estranho no movimento de dados, e uma grande quantidade de dados desse tipo normalmente não é transferida nesta hora do dia e deste local". Essa descrição de alto nível é muito mais útil do que uma notificação que na verdade quer dizer: "inspecione os logs de VPN, os logs de armazenamento e os logs de email, e tire suas próprias conclusões". E é nesse ponto que estamos hoje.

A IA avançada vai ajudar as equipes de segurança a entender as anomalias à medida que forem detectadas e a realizar análises investigativas após um evento para entender totalmente o que aconteceu e como evitar eventos semelhantes. Em última análise, ela será usada não apenas para análise de incidentes, mas também para o gerenciamento geral da postura de segurança de dados, pois uma IA pode analisar sistemas muito mais complexos do que as ferramentas ou os operadores humanos existentes.

Já é comum que as ferramentas de segurança automatizem as respostas a determinados incidentes, desativando um ataque mais rapidamente do que um ser humano conseguiria. Em teoria, a IA generativa poderia tomar decisões mais complexas e realizar ações mais amplas e mais completas. Mas isso não acontecerá por muito tempo. As ferramentas de segurança cibernética de IA generativa exigirão julgamento humano para a tomada de decisões finais, especialmente quando questões éticas e fatores de risco mais complexos forem considerados.

Em resumo, eu diria que o futuro das equipes de segurança cibernética parece promissor. Há mais trabalho a ser feito e mais dados a serem protegidos, isso é sempre verdade. À medida que novos padrões e metodologias são desenvolvidos para proteger melhor as empresas baseadas em IA, as novas ferramentas, as novas maneiras de controlar os dados e a postura de segurança é que são os tópicos mais interessantes.

Leia "Snowflake AI + Data Previsions 2025" para obter mais informações sobre segurança cibernética, desenvolvimento de software e infraestrutura de dados na era da IA.