Cibersegurança e a arquitetura do futuro

A inteligência artificial está a transformar o panorama das TI a um ritmo acelerado. Enquanto muitas organizações se concentram nos ganhos de produtividade e na eliminação do trabalho manual, nos bastidores ocorre uma transformação mais fundamental: uma corrida assimétrica contra o tempo na cibersegurança.

A urgência é clara: as organizações que não adaptarem a sua segurança e arquitetura a este ritmo serão afastadas do mercado por incidentes cibernéticos ou pela impossibilidade de obter seguro. Para compreender e controlar esta transformação, temos de analisar as três vagas sucessivas do desafio da segurança da IA — e a arquitetura necessária para resistir.

As três ondas da transformação da segurança da IA

Onda 1: vulnerabilidades técnicas no código (2025 – 2027)

• O problema: A atual explosão de fugas de dados e intrusões é o resultado de uma recuperação histórica do atraso. As ferramentas de IA analisam décadas de código legado escrito por humanos. Erros clássicos — como injeções de SQL, fugas de memória e bibliotecas obsoletas — são encontrados pelos atacantes em larga escala.

• A dinâmica: Esta fase centra-se na abordagem «Shift-Left» e na higiene automática do código. As empresas que limpam os seus pipelines e os equipam com testes e patches automáticos tornam rapidamente as suas bases de código tradicionais mais seguras do que nunca.

• A solução: Aplicação contínua de patches e limpeza automatizada do código. pipelines de CI/CD são equipados com guardiões de IA que analisam continuamente as bases de código, geram patches automaticamente e implementam-nos após a aprovação dos testes de integração.

Onda 2: utilização indevida da lógica empresarial (2026 – 2028)

• O problema: Assim que a porta de entrada técnica está fechada, a batalha desloca-se para a lógica funcional. Uma API pode estar tecnicamente 100% codificada de forma segura — sem injeções de SQL ou transbordamentos de buffer — mas, se um utilizador ou script conseguir influenciar o sistema através de uma sequência específica de ações, como condições de corrida em descontos, manipulações BOLA ou o salto de etapas do processo, surgem danos financeiros imediatos.

• A dinâmica: Os atacantes já não quebram o sistema; fazem-no funcionar de uma forma que custa dinheiro à organização. Isto conduz a uma erosão contínua e invisível das margens.

• A solução: Verificação formal e máquinas de estados finitos (FSM) rigorosas.

  • Máquinas de Estados Finitos (FSM): Os processos empresariais não são escritos como endpoints de API independentes, mas modelados matematicamente como uma máquina de estados fechada. O sistema só pode passar do estado A (CART_CREATED) para o estado B (PAYMENT_PENDING) e C (ORDER_COMPLETED). A manipulação ou a omissão de etapas é tecnicamente impossibilitada ao nível do servidor.

  • Idempotência e Transações Atómicas: As ações tornam-se idempotentes e são processadas através de níveis rigorosos de isolamento nas bases de dados. Condições de corrida (o envio simultâneo de vários pedidos para acumular descontos) são automaticamente bloqueados ao nível da base de dados ou colocados numa fila de espera.

  • Verificação Formal através de IA: Os agentes de IA são utilizados no pipeline de compilação para, através da verificação matemática, provar que o software só pode assumir os estados lógicos pretendidos, ainda antes de o código ser colocado em produção.

Onda 3: manipulação de agentes de IA e da tomada de decisões (2027 – 2030+)

• O problema: Num plenamente agentivo mundo, os agentes autónomos de IA trabalham em conjunto e tomam decisões com base em dados do mundo exterior (e-mails, faturas e documentos). Nesta fase, os atacantes concentram-se em Injeção indireta de prompts, Envenenamento de dados e assumir os objetivos dos agentes.

• A dinâmica: O código-fonte e a lógica estão corretos, mas o agente de IA é induzido em erro pelo contexto que lê. A questão passa de “o código é seguro?” para “a tomada de decisões do agente é fiável?”.

• A solução: O modelo de comunicação A2A em 3 camadas (Agente para Agente).

A solução arquitetónica para a Onda 3: o modelo A2A de três camadas

Para permitir que os agentes de IA negoceiem de forma flexível sobre situações complexas e casos-limite, sem expor a organização aos riscos da Onda 3, é necessária uma arquitetura de comunicação em camadas. O princípio é simples: negoceia-se em linguagem livre, mas executa-se através de um contrato formal.

As três camadas da arquitetura A2A:

Camada 1: A Camada de Negociação Livre (Expressão e Criatividade)

Nesta camada, os agentes comunicam entre si num contexto rico para explorar questões complexas, preços e condições.

• O risco: Esta é a camada mais vulnerável à influência, à injeção de prompts e à manipulação.

• A garantia: Nesta camada, os agentes podem nenhuma ação direta executar na infraestrutura de produção. É uma sandbox isolada. Além disso, monitorizamos esta camada com Limitação cognitiva da taxa (impedindo que um agente teste parâmetros de forma ilimitada) e Validação entre modelos (um segundo modelo de IA, treinado de forma diferente, avalia o resultado da negociação quanto a manipulação).

Camada 2: A Camada de Formalização e Intenção (A Salvaguarda Jurídica)

Assim que os agentes da Camada 1 chegam a um acordo sobre uma solução ou transação, o resultado é despojado de toda a linguagem livre e narrativa.

• A garantia: O resultado é convertido num contrato formal e estruturado (através de uma Linguagem específica do domínio ou de um esquema JSON definido). Nele, as obrigações, os limites e as condições são explicitamente definidos. Esta camada funciona como o “notário” digital que verifica se a proposta cumpre os parâmetros empresariais predefinidos.

Camada 3: A Camada de Execução Determinística (A Base Inabalável)

Este é o nível em que a transação efetiva ou a alteração do sistema é implementada. Aqui já não comunicam agentes de IA, mas sistemas rígidos e matemáticos que comunicam através da lógica monitorizada da Onda 2.

• A garantia:

  • Verificação criptográfica: As mensagens entre sistemas são protegidas através de TLS mútuo (mTLS), dotadas de nonces (para evitar ataques de repetição) e assinadas com chaves criptográficas.

  • Gateways determinísticos: Os gateways de API verificam, sem intervenção da IA, se um pedido se encontra dentro dos limites rígidos, como um montante máximo de transação.

O novo papel dos especialistas humanos

Esta abordagem em camadas demonstra que o papel dos especialistas humanos não desaparece, mas passa a centrar-se na definição das estruturas do sistema:

• O Comprador concebe as estratégias, os parâmetros e os limites dentro dos quais o agente da Camada 1 pode negociar.

• O Jurista concebe os modelos, as ontologias e as estruturas lógico-formais da Camada 2.

• O Arquiteto de Segurança constrói o ambiente determinístico de execução supervisionada da Camada 3 e garante a lógica da máquina de estados finitos da Onda 2.

Ao separar rigorosamente a “fase de reflexão e negociação” da “fase de execução”, preservamos a flexibilidade dos agentes de IA, mantendo simultaneamente o controlo da operação da organização firmemente nas suas mãos.

Precisa de ajuda na transformação para a cibersegurança orientada por IA e a automatização? Entre hoje mesmo em contacto connosco