Kybernetická bezpečnosť a architektúra budúcnosti

Umelá inteligencia rýchlym tempom mení IT prostredie. Zatiaľ čo sa mnohé organizácie sústreďujú na zvýšenie produktivity a odstránenie manuálnej práce, v pozadí prebieha zásadnejšia transformácia: asymetrické preteky s časom v kybernetickej bezpečnosti.

Naliehavosť je zrejmá: organizácie, ktoré neprispôsobia svoju bezpečnosť a architektúru tomuto tempu, budú v dôsledku kybernetických incidentov alebo nepoistiteľnosti vytlačené z trhu. Aby sme tejto transformácii porozumeli a dokázali ju zvládnuť, musíme sa pozrieť na tri po sebe nasledujúce vlny problematiky bezpečnosti AI – a na architektúru potrebnú na to, aby sme v nej obstáli.

Tri vlny transformácie bezpečnosti umelej inteligencie

1. vlna: Technické zraniteľnosti v kóde (2025 – 2027)

• Problém: Súčasná explózia únikov údajov a narušení bezpečnosti je dôsledkom historického doháňania zameškaného. Nástroje AI preverujú desaťročia starý kód vytvorený ľuďmi. Útočníci vo veľkom odhaľujú klasické chyby, ako sú SQL injekcie, úniky pamäte a zastarané knižnice.

• Dynamika: Táto fáza je zameraná na princíp „Shift Left“ a automatizovanú hygienu kódu. Spoločnosti, ktoré vyčistia svoje vývojové pipeline a vybavia ich automatizovanými testami a opravami, môžu svoje tradičné kódové základne rýchlo zabezpečiť lepšie než kedykoľvek predtým.

• Riešenie: Nepretržité automatizované opravy a čistenie kódu. CI/CD pipeline budú vybavené strážcami AI, ktorí budú kódové základne nepretržite kontrolovať, automaticky generovať opravy a nasadzovať ich po úspešnom absolvovaní integračných testov.

2. vlna: Zneužitie podnikovej logiky (2026 – 2028)

• Problém: Keď je technický vstup zabezpečený, boj sa presúva do oblasti funkčnej logiky. API môže byť po technickej stránke stopercentne bezpečne naprogramované (bez SQL injekcií či pretečení bufferov), no ak používateľ alebo skript dokáže špecifickou postupnosťou krokov (napríklad využitím súbehových podmienok pri zľavách, manipuláciou BOLA alebo vynechaním krokov procesu) ovplyvniť systém, vzniká priama finančná škoda.

• Dynamika: Útočníci už systém nenarušujú; prinútia ho fungovať spôsobom, ktorý organizáciu stojí peniaze. To vedie k nepretržitej, neviditeľnej erózii marží.

• Riešenie: Formálne overovanie a striktné stavové automaty (FSM).

  • Konečné automaty (FSM): Obchodné procesy sa nepíšu ako samostatné koncové body API, ale matematicky sa modelujú ako konečný automat s uzavretým stavovým priestorom. Systém môže prejsť iba zo stavu A (CART_CREATED) do stavu B (PAYMENT_PENDING) a C (ORDER_COMPLETED). Manipulácia s krokmi alebo ich preskakovanie je na úrovni servera technicky znemožnené.

  • Idempotencia a atómové transakcie: Akcie sa navrhujú ako idempotentné a spracúvajú sa prostredníctvom prísnych úrovní izolácie v databázach. Preteky medzi požiadavkami (odoslanie viacerých požiadaviek naraz s cieľom kumulovať zľavy) sa na úrovni databázy automaticky zablokuje alebo zaradí do frontu.

  • Formálna verifikácia pomocou AI: AI agenti sa vo vývojovom a zostavovacom procese používajú na to, aby prostredníctvom matematickej verifikácie preukázali dokázali, že softvér môže nadobudnúť iba zamýšľané logické stavy, ešte pred nasadením kódu do produkcie.

3. vlna: Manipulácia AI agentov a rozhodovania (2027 – 2030+)

• Problém: V plne agentické svete fungujú autonómni AI agenti spoločne a rozhodujú sa na základe údajov z vonkajšieho sveta (e-maily, faktúry, dokumenty). Útočníci sa v tejto fáze zameriavajú na Nepriama injekcia promptu, Otrávenie údajov a prevzatie cieľov agentov.

• Dynamika: Zdrojový kód a logika sú správne, ale AI agent je uvedený do omylu kontextom, ktorý číta. Otázka sa posúva od „je kód bezpečný?“ na „je rozhodovanie agenta spoľahlivé?“.

• Riešenie: 3-vrstvový komunikačný model A2A (agent-agent).

Architektonické riešenie pre 3. vlnu: trojvrstvový model A2A

Aby mohli AI agenti flexibilne vyjednávať o zložitých situáciách a okrajových prípadoch bez toho, aby organizáciu vystavili rizikám tretej vlny, je nevyhnutná viacvrstvová komunikačná architektúra. Princíp je jednoduchý: vyjednávať môžete vo voľnom jazyku, ale vykonávať sa má prostredníctvom formálnej zmluvy.

Tri vrstvy architektúry A2A:

Vrstva 1: Vrstva voľného vyjednávania (Vyjadrenie a kreativita)

Na tejto úrovni agenti navzájom komunikujú v bohatom kontexte, aby preskúmali zložité otázky, ceny a rámcové podmienky.

• Riziko: Ide o najzraniteľnejšiu vrstvu z hľadiska ovplyvňovania, injekcie promptov a manipulácie.

• Zabezpečenie: Na tejto úrovni agenti žiadnu priamu akciu vykonávať v produkčnej infraštruktúre. Ide o izolovaný sandbox. Okrem toho túto vrstvu monitorujeme pomocou Kognitívne obmedzovanie frekvencie (čím sa zabráni tomu, aby agent mohol neobmedzene skúšať parametre) a Validácia medzi modelmi (druhý, inak trénovaný model AI posudzuje výsledok vyjednávania z hľadiska manipulácie).

Vrstva 2: Vrstva formalizácie a zámeru (Právne zabezpečenie)

Keď sa agenti vo vrstve 1 dohodnú na riešení alebo transakcii, výsledok sa zbaví všetkého voľného jazyka a naratívu.

• Zabezpečenie: Výsledok sa prevedie na formálnu, štruktúrovanú zmluvu (prostredníctvom Jazyk špecifický pre doménu alebo definovanej schémy JSON). V nej sú explicitne stanovené povinnosti, limity a podmienky. Táto vrstva funguje ako digitálny „notár“, ktorý kontroluje, či návrh spĺňa vopred nastavené podnikové rámce.

Vrstva 3: Deterministická vykonávacia vrstva (Neochvejný základ)

Na tejto úrovni sa vykonáva samotná transakcia alebo zmena systému. AI agenti tu už nekomunikujú medzi sebou, ale pevne definované matematické systémy komunikujú prostredníctvom riadenej logiky z fázy 2.

• Zabezpečenie:

  • Kryptografické overovanie: Správy medzi systémami sú zabezpečené pomocou Vzájomné TLS (mTLS), vybavené jedinečnými nonce (aby sa zabránilo útokom typu replay) a podpísané kryptografickými kľúčmi.

  • Deterministické brány: Brány API kontrolujú bez zásahu umelej inteligencie, či požiadavka spadá do stanovených pevných limitov (napríklad maximálnej výšky transakcie).

Nová úloha ľudských expertov

Tento viacvrstvový prístup ukazuje, že úloha ľudských špecialistov nezaniká, ale presúva sa do rámcov systému:

• Nákupca navrhuje stratégie, parametre a hranice, v rámci ktorých môže agent vo vrstve 1 vyjednávať.

• Právnik navrhuje šablóny, ontológie a formálno-logické rámce pre vrstvu 2.

• Bezpečnostný architekt buduje deterministické monitorované vykonávacie prostredie vo vrstve 3 a zabezpečuje logiku konečného automatu z míľnika 2.

Prísnym oddelením „fázy premýšľania a vyjednávania“ od „fázy vykonávania“ zachovávame flexibilitu agentov umelej inteligencie, pričom kontrola nad fungovaním organizácie zostáva naďalej v jej rukách.

Potrebujete pomoc s transformáciou na kybernetickú bezpečnosť a automatizáciu riadenú umelou inteligenciou? Kontaktujte nás ešte dnes kontakt na