La cybersécurité et l’architecture du futur

L’intelligence artificielle transforme le paysage informatique à un rythme effréné. Alors que de nombreuses organisations se concentrent sur les gains de productivité et la suppression des tâches manuelles, une transformation plus fondamentale se déroule en arrière-plan : une course contre la montre asymétrique en cybersécurité.

L’urgence est claire : les organisations qui n’adaptent pas leur sécurité et leur architecture à ce rythme seront évincées du marché à la suite de cyberincidents ou parce qu’elles ne pourront plus être assurées. Pour comprendre et maîtriser cette transformation, nous devons examiner les trois vagues successives de l’enjeu de la sécurité de l’IA — ainsi que l’architecture nécessaire pour rester à flot.

Les trois vagues de la transformation de la sécurité de l’IA

Vague 1 : vulnérabilités techniques dans le code (2025 – 2027)

• Le problème : L’explosion actuelle des fuites de données et des intrusions est le résultat d’un rattrapage historique. Les outils d’IA passent au crible des décennies de code legacy écrit par des humains. Les erreurs classiques — telles que les injections SQL, les fuites de mémoire et les bibliothèques obsolètes — sont détectées à grande échelle par les attaquants.

• La dynamique : Cette phase repose sur le principe du « Shift Left » et sur l’hygiène automatisée du code. Les entreprises qui nettoient leurs pipelines et les dotent de tests et de correctifs automatiques rendent rapidement leurs bases de code traditionnelles plus sûres que jamais.

• La solution : Correctifs automatisés en continu et nettoyage du code. pipelines CI/CD sont équipés de gardiens IA qui analysent en continu les bases de code, génèrent automatiquement des correctifs et les déploient après la réussite des tests d’intégration.

Vague 2 : exploitation abusive de la logique métier (2026 – 2028)

• Le problème : Une fois la porte d’entrée technique sécurisée, le combat se déplace vers la logique fonctionnelle. Une API peut être codée de manière techniquement sûre à 100 % (sans injection SQL ni dépassement de tampon), mais si un utilisateur ou un script peut influencer le système en effectuant les actions dans un ordre précis (par exemple, au moyen de conditions de concurrence lors de l’application de remises, de manipulations BOLA ou du contournement d’étapes du processus), cela entraîne un préjudice financier direct.

• La dynamique : Les attaquants ne font plus tomber le système ; ils le font fonctionner d’une manière qui coûte de l’argent à l’organisation. Il en résulte une érosion continue et invisible des marges.

• La solution : Vérification formelle et machines à états finis (FSM) strictes.

  • Machines à états finis (FSM) : Les processus métier ne sont pas écrits sous forme de points de terminaison d’API isolés, mais modélisés mathématiquement comme une machine à états finie et fermée. Le système ne peut passer que de l’état A (CART_CREATED) à l’état B (PAYMENT_PENDING) et à l’état C (ORDER_COMPLETED). La manipulation ou le contournement d’étapes est techniquement rendu impossible au niveau du serveur.

  • Idempotence et transactions atomiques : Les actions sont rendues idempotentes et traitées selon des niveaux d’isolation stricts au niveau des bases de données. Conditions de concurrence (envoyer plusieurs requêtes simultanément afin de cumuler des remises) sont automatiquement bloquées au niveau de la base de données ou placées dans une file d’attente.

  • Vérification formelle par l’IA : Des agents d’IA sont déployés dans le pipeline de compilation afin de prouver que le logiciel ne puisse adopter que les états logiques prévus, avant même que le code ne soit mis en production.

Vague 3 : manipulation des agents d’IA et de la prise de décision (2027 – 2030 et au-delà)

• Le problème : Dans un entièrement agentique monde, des agents d’IA autonomes collaborent et prennent des décisions à partir de données provenant du monde extérieur (e-mails, factures, documents). À ce stade, les attaquants se concentrent sur Injection indirecte d’instructions, Empoisonnement des données et reprendre les objectifs des agents.

• La dynamique : Le code source et la logique sont corrects, mais l’agent IA est trompé par le contexte qu’il lit. La question passe de « le code est-il sécurisé ? » à « la prise de décision de l’agent est-elle fiable ? ».

• La solution : Le modèle de communication A2A à trois niveaux (d’agent à agent).

La solution architecturale pour la vague 3 : le modèle A2A à trois couches

Pour permettre aux agents IA de négocier de manière flexible des situations complexes et des cas limites, sans exposer l’organisation aux risques de la vague 3, une architecture de communication en couches est indispensable. Le principe est simple : on négocie en langage naturel, mais on exécute au moyen d’un contrat formel.

Les trois couches de l’architecture A2A :

Couche 1 : la couche de négociation libre (expression et créativité)

À ce niveau, les agents communiquent entre eux dans un contexte riche afin d’examiner les problématiques complexes, les prix et les conditions préalables.

• Le risque : Il s’agit du niveau le plus vulnérable à l’influence, à l’injection d’instructions et à la manipulation.

• La garantie : À ce niveau, les agents peuvent aucune action directe exécuter dans l’infrastructure de production. Il s’agit d’une sandbox isolée. En outre, nous surveillons cette couche à l’aide de Limitation cognitive du débit (pour empêcher un agent de tester un nombre illimité de paramètres) et Validation intermodèle (un deuxième modèle d’IA, entraîné différemment, évalue le résultat de la négociation afin d’y détecter toute manipulation).

Couche 2 : la couche de formalisation et d’intention (la garantie juridique)

Dès que les agents de la couche 1 parviennent à un accord sur une solution ou une transaction, le résultat est dépouillé de tout langage libre et de tout élément narratif.

• La garantie : Le résultat est converti en un contrat formel et structuré (au moyen d’un Langage spécifique au domaine ou d’un schéma JSON défini). Les obligations, les limites et les conditions y sont définies explicitement. Cette couche joue le rôle de « notaire » numérique, qui vérifie que la proposition respecte les cadres de l’entreprise prédéfinis.

Couche 3 : la couche d’exécution déterministe (la base immuable)

C’est à ce niveau que la transaction effective ou la modification du système est mise en œuvre. Les agents d’IA ne communiquent plus entre eux ; des systèmes strictement mathématiques échangent via la logique surveillée de la vague 2.

• La garantie :

  • Vérification cryptographique : Les messages entre les systèmes sont sécurisés au moyen de TLS mutuel (mTLS), dotés de nonces (pour empêcher les attaques par rejeu) et signés à l’aide de clés cryptographiques.

  • Passerelles déterministes : Les passerelles API vérifient, sans intervention de l’IA, si une requête respecte les limites strictes définies (comme un montant maximal de transaction).

Le nouveau rôle des experts humains

Cette approche en couches montre que le rôle des spécialistes humains ne disparaît pas, mais se déplace vers la définition du cadre du système :

• L’acheteur il conçoit les stratégies, les paramètres et les limites dans lesquels l’agent de la couche 1 est autorisé à négocier.

• Le juriste conçoit les modèles, les ontologies et les cadres formels et logiques de la couche 2.

• L’architecte sécurité construit l’environnement d’exécution déterministe et supervisé de la couche 3 et garantit la logique de l’automate fini issue de la vague 2.

En séparant strictement la « phase de réflexion et de négociation » de la « phase d’exécution », nous conservons la flexibilité des agents d’IA, tout en laissant le contrôle des opérations de l’entreprise entre les mains de l’organisation.

Besoin d’aide pour la transformation vers une cybersécurité et une automatisation pilotées par l’IA ? Prenez dès aujourd’hui contact