Cybersäkerhet och framtidens arkitektur

Artificiell intelligens förändrar IT-landskapet i hög takt. Medan många organisationer fokuserar på produktivitetsvinster och att avskaffa manuellt arbete pågår en mer grundläggande omvandling i bakgrunden: ett asymmetriskt tidsrace inom cybersäkerhet.

Brådskan är uppenbar: organisationer som inte anpassar sin säkerhet och arkitektur till denna takt kommer att slås ut från marknaden genom cyberincidenter eller bristande försäkringsbarhet. För att förstå och hantera denna omvandling måste vi titta på de tre efterföljande vågorna i AI-säkerhetsfrågan – och den arkitektur som krävs för att stå stadigt.

AI-säkerhetstransformationens tre vågor

Våg 1: Tekniska sårbarheter i kod (2025–2027)

• Problemet: Den nuvarande explosionen av dataläckor och intrång är resultatet av en historisk ikappkörning. AI-verktyg granskar årtionden av människoskriven äldre kod. Klassiska fel – såsom SQL-injektioner, minnesläckor och föråldrade bibliotek – upptäcks av angripare i stor skala.

• Dynamiken: Denna fas handlar om ”Shift Left” och automatisk kodhygien. Företag som rensar sina pipelines och förser dem med automatiserade tester och patchar gör snabbt sina traditionella kodbaser säkrare än någonsin.

• Lösningen: Kontinuerlig automatiserad patchning och kodrensning. CI/CD-pipelines utrustas med AI-grindvakter som kontinuerligt granskar kodbaser, automatiskt genererar patchar och distribuerar dem efter godkända integrationstester.

Våg 2: Missbruk av affärslogik (2026–2028)

• Problemet: Så snart den tekniska ytterdörren är stängd flyttas kampen till den funktionella logiken. Ett API kan vara tekniskt 100 procent säkert kodat (utan SQL-injektioner eller buffertspill), men om en användare eller ett skript genom en specifik sekvens av handlingar (såsom kapplöpningstillstånd vid rabatter, BOLA-manipulationer eller att hoppa över processteg) kan påverka systemet uppstår omedelbar ekonomisk skada.

• Dynamiken: Angripare bryter inte längre sönder systemet; de får systemet att fungera på ett sätt som kostar organisationen pengar. Detta leder till en kontinuerlig, osynlig urholkning av marginalerna.

• Lösningen: Formell verifiering och strikta tillståndsmaskiner (FSM).

  • Finita tillståndsmaskiner (FSM): Affärsprocesser skrivs inte som fristående API-slutpunkter, utan modelleras matematiskt som en sluten tillståndsmaskin. Systemet kan endast gå från tillstånd A (CART_CREATED) till tillstånd B (PAYMENT_PENDING) och C (ORDER_COMPLETED). Att manipulera eller hoppa över steg görs tekniskt omöjligt på servernivå.

  • Idempotens och atomära transaktioner: Åtgärder görs idempotenta och behandlas genom strikta isoleringsnivåer i databaser. Kapplöpningstillstånd (flera samtidiga förfrågningar för att stapla rabatter) blockeras automatiskt på databasnivå eller placeras i en kö.

  • Formell verifiering med AI: AI-agenter används i byggpipelines för att genom matematisk verifiering bevisa att programvaran endast kan anta de avsedda logiska tillstånden, innan koden ens går i produktion.

Våg 3: Manipulation av AI-agenter och beslutsfattande (2027–2030+)

• Problemet: I en helt agentbaserad värld samarbetar autonoma AI-agenter och fattar beslut baserat på data från omvärlden (e-post, fakturor och dokument). Angripare riktar sig i denna fas mot Indirekt promptinjektion, Dataförgiftning och ta över agenternas mål.

• Dynamiken: Källkoden och logiken stämmer, men AI-agenten vilseleds av den kontext den läser. Frågan skiftar från ”är koden säker?” till ”är agentens beslutsfattande tillförlitligt?”.

• Lösningen: A2A-kommunikationsmodellen i tre lager (agent-till-agent).

Arkitekturlösningen för våg 3: A2A-modellen i tre lager

För att AI-agenter flexibelt ska kunna förhandla om komplexa situationer och specialfall utan att utsätta organisationen för riskerna i våg 3 krävs en kommunikationsarkitektur i flera lager. Principen är enkel: förhandling sker på naturligt språk, men utförande sker via ett formellt avtal.

A2A-arkitekturens tre lager:

Nivå 1: Det fria förhandlingslagret (Uttryck och kreativitet)

Här kommunicerar agenterna med varandra i en rik kontext för att utforska komplexa frågeställningar, priser och villkor.

• Risken: Detta är det mest sårbara lagret när det gäller påverkan, promptinjektion och manipulation.

• Säkerställandet: På detta lager får agenter ingen direkt åtgärd genomföra i produktionsinfrastrukturen. Det är en isolerad sandlåda. Dessutom övervakar vi detta lager med Kognitiv hastighetsbegränsning (för att förhindra att en agent kan testa parametrar obegränsat) och Validering mellan modeller (en andra, annorlunda tränad AI-modell bedömer förhandlingsresultatet med avseende på manipulation).

Nivå 2: Formaliserings- och avsiktslagret (Den juridiska säkerställningen)

Så snart agenterna i lager 1 har nått en överenskommelse om en lösning eller transaktion rensas resultatet från allt fritt språk och berättande.

• Säkerställandet: Resultatet omvandlas till ett formellt, strukturerat avtal (via en domänspecifikt språk eller ett fastställt JSON-schema). Där definieras skyldigheterna, begränsningarna och villkoren uttryckligen. Detta lager fungerar som den digitala ”notarien” som kontrollerar att förslaget uppfyller de förinställda företagsramarna.

Nivå 3: Det deterministiska exekveringslagret (Den orubbliga grunden)

Detta är nivån där den faktiska transaktionen eller systemändringen genomförs. Här kommunicerar AI-agenter inte längre med varandra, utan hårda, matematiska system kommunicerar via den övervakade logiken från våg 2.

• Säkerställandet:

  • Kryptografisk verifiering: Meddelanden mellan systemen skyddas via Ömsesidig TLS (mTLS), förses med unika nonce-värden (för att förhindra replay-attacker) och signeras med kryptografiska nycklar.

  • Deterministiska gateways: API-gateways kontrollerar utan AI:s inblandning om en begäran håller sig inom de fasta gränserna, till exempel ett maximalt transaktionsbelopp.

Mänskliga experters nya roll

Detta skiktade tillvägagångssätt visar att mänskliga specialisters roll inte försvinner, utan förskjuts till systemets ramar:

• Inköparen utformar de strategier, parametrar och gränser inom vilka agenten i lager 1 får förhandla.

• Juristen utformar mallarna, ontologierna och de formallogiska ramarna för lager 2.

• Säkerhetsarkitekten bygger den deterministiska, övervakade exekveringsmiljön i lager 3 och säkerställer FSM-logiken från våg 2.

Genom att strikt skilja ”tänke- och förhandlingsfasen” från ”genomförandefasen” behåller vi AI-agenternas flexibilitet, samtidigt som kontrollen över verksamheten förblir helt i organisationens händer.

Behöver du hjälp med omställningen till AI-driven cybersäkerhet och automatisering? Kontakta oss redan kontakt idag