O risco invisível da Inteligência Artificial na Cibersegurança: quando uma máquina engana outra máquina

A Cibersegurança vive um momento de inflexão e deixou de ser um tema técnico para ocupar o centro das decisões estratégicas das organizações, impulsionada pela digitalização dos negócios e pela adoção acelerada de novas tecnologias. Entre os temas que mais chamam atenção nesse novo cenário está o avanço da Inteligência Artificial e os riscos que começam a emergir desse uso em larga escala.

Se por um lado a IA amplia capacidade analítica, velocidade e eficiência, por outro, introduz um fenômeno mais sofisticado: sistemas sendo manipulados ou induzidos ao erro por outras Inteligências Artificiais. Em ambientes altamente automatizados, onde modelos interagem entre si, surge um novo tipo de incidente, que não depende diretamente da ação humana, mas da própria dinâmica entre sistemas.

Esse cenário cria um efeito potencialmente exponencial. A mesma lógica que permite à IA aprender e responder rapidamente pode ser explorada para gerar interpretações equivocadas e decisões incorretas. Em um ambiente corporativo, isso pode se traduzir em falhas operacionais relevantes, com impacto direto no negócio.

Não se trata mais de um risco teórico. Já existem casos em análise em que a Inteligência Artificial esteve relacionada à origem de incidentes cibernéticos, incluindo interrupções de operações. Em 2024, um funcionário do setor financeiro de uma multinacional foi induzido a realizar transferências após participar de uma videoconferência com executivos falsos gerados por IA, em um caso ocorrido em Hong Kong, com prejuízo de cerca de US$ 25 milhões. O episódio evidencia como conteúdos gerados por IA já conseguem contornar controles e influenciar decisões dentro de ambientes corporativos.

Esse tipo de risco, já observado em casos recentes no mercado europeu, ganhou espaço relevante na última edição da RSA Conference, realizada em São Francisco (EUA). Mais do que a discussão tradicional sobre ferramentas e controles, o evento mostrou uma preocupação crescente de CISOs, CTOs e CEOs das maiores empresas do mundo com riscos sistêmicos, especialmente aqueles gerados pela interação entre tecnologias autônomas e seus impactos no ambiente corporativo.

Paralelamente, cresce a consolidação da quantificação de risco cibernético como linguagem de negócio. O chamado Cyber Risk Quantification (CRQ) permite traduzir vulnerabilidades técnicas em impacto financeiro concreto, reposicionando a Cibersegurança como uma alavanca estratégica dentro das organizações, e não apenas como um centro de custo.

Esse avanço ocorre em paralelo a uma nova onda de transformação tecnológica, que guarda semelhanças com o que foi observado durante a pandemia. Naquele momento, a digitalização acelerada expôs fragilidades e pressionou o mercado segurador a evoluir rapidamente. Agora, a adoção de Inteligência Artificial segue um caminho semelhante, com velocidade muitas vezes superior à capacidade de adaptação dos mecanismos de controle e proteção.

Historicamente, o mercado de seguros cibernéticos operou com modelos simplificados de avaliação de risco, baseados em questionários padronizados. Embora esses modelos tenham evoluído nos últimos anos, o ritmo de transformação tecnológica continua mais acelerado, especialmente diante de riscos associados à Inteligência Artificial e à Automação.

Nesse contexto, o seguro ganha ainda mais relevância e passa a exigir evolução. As apólices precisam acompanhar novos cenários e incorporar riscos que até pouco tempo não eram considerados, especialmente aqueles relacionados à interação entre sistemas autônomos.

Outro tema que vem ganhando espaço nesse debate é o avanço da Computação Quântica, com iniciativas já concretas apresentadas por empresas como a IBM. A tecnologia promete ganhos expressivos de processamento e levanta preocupações importantes, sobretudo em relação à segurança da informação e à resiliência dos modelos atuais de criptografia.

O que se desenha é um cenário em que inovação e risco evoluem juntos, em alta velocidade. A Inteligência Artificial amplia capacidades, redefine ameaças e impõe uma nova forma de pensar a gestão de risco.

A Cibersegurança entra em uma nova fase, em que o risco não está apenas nos ataques externos, mas na forma como as próprias tecnologias interagem entre si. Ignorar essa mudança pode significar repetir erros recentes em um ambiente ainda mais complexo. O desafio agora é tecnológico e, sobretudo, estratégico.

Por Marta Schuh, diretora de Seguros Cibernéticos e Tecnológicos da Howden Brasil.