Kibernetička sigurnost i arhitektura budućnosti

Umjetna inteligencija ubrzano mijenja IT okruženje. Dok su mnoge organizacije usmjerene na povećanje produktivnosti i uklanjanje ručnog rada, u pozadini se odvija temeljitija transformacija: asimetrična utrka s vremenom u kibernetičkoj sigurnosti.

Hitnost je jasna: organizacije koje svoju sigurnost i arhitekturu ne prilagode tom tempu bit će zbog kibernetičkih incidenata ili nemogućnosti osiguranja istisnute s tržišta. Da bismo razumjeli i kontrolirali ovu transformaciju, moramo sagledati tri uzastopna vala izazova sigurnosti umjetne inteligencije — i arhitekturu potrebnu za opstanak.

Tri vala transformacije sigurnosti umjetne inteligencije

1. val: tehničke ranjivosti u kodu (2025. – 2027.)

• Problem: Današnja eksplozija curenja podataka i provala posljedica je povijesnog sustizanja. Alati umjetne inteligencije analiziraju desetljeća naslijeđenog koda koji su napisali ljudi. Napadači u velikim razmjerima pronalaze klasične pogreške — poput SQL-injekcija, curenja memorije i zastarjelih biblioteka.

• Dinamika: Ova se faza temelji na pristupu „Shift Left” i automatiziranoj higijeni koda. Tvrtke koje očiste svoje razvojne cjevovode i opreme ih automatiziranim testovima i zakrpama mogu svoje tradicionalne baze koda brzo učiniti sigurnijima nego ikad prije.

• Rješenje: Kontinuirano automatizirano krpanje i čišćenje koda. CI/CD cjevovodi opremaju se vratima AI nadzora koja kontinuirano analiziraju baze koda, automatski generiraju zakrpe i uvode ih nakon uspješnog prolaska integracijskih testova.

2. val: zlouporaba poslovne logike (2026. – 2028.)

• Problem: Čim je tehnički ulaz zatvoren, borba se premješta na funkcionalnu logiku. API može biti tehnički 100 % sigurno programiran (bez SQL-injekcija ili prekoračenja međuspremnika), ali ako korisnik ili skripta određenim slijedom radnji (poput utrka za popuste, manipulacija BOLA-om ili preskakanja koraka u procesu) može utjecati na sustav, nastaje izravna financijska šteta.

• Dinamika: Napadači više ne razbijaju sustav; oni ga navode da radi na način koji organizaciju košta novca. To dovodi do kontinuirane, nevidljive erozije marži.

• Rješenje: Formalna verifikacija i strogi konačni automati (FSM).

  • Konačni automati (FSM): Poslovni procesi ne zapisuju se kao zasebne krajnje točke API-ja, već se matematički modeliraju kao konačni automat zatvorenog tipa. Sustav može prijeći samo iz stanja A (CART_CREATED) u stanje B (PAYMENT_PENDING) i C (ORDER_COMPLETED). Manipuliranje koracima ili njihovo preskakanje tehnički je onemogućeno na razini poslužitelja.

  • Idempotentnost i atomske transakcije: Radnje se čine idempotentnima i obrađuju se primjenom strogih razina izolacije u bazama podataka. Uvjet utrke (slanje više zahtjeva istodobno kako bi se popusti kumulirali) automatski se blokiraju na razini baze podataka ili stavljaju u red čekanja.

  • Formalna verifikacija pomoću umjetne inteligencije: AI agenti uvode se u proces izgradnje kako bi matematičkom verifikacijom dokazali dokazali da softver može poprimiti samo predviđena logička stanja, i to prije nego što kôd dospije u produkciju.

3. val: manipulacija AI agentima i donošenjem odluka (2027. – 2030. i dalje)

• Problem: U potpuno agentski svijetu autonomni AI agenti surađuju i donose odluke na temelju podataka iz vanjskog svijeta (e-poruka, računa, dokumenata). Napadači se u ovoj fazi usmjeravaju na Neizravna injekcija upita, Trovanje podataka i preuzimanje ciljeva agenata.

• Dinamika: Izvorni kôd i logika su ispravni, ali AI agenta zavarava kontekst koji čita. Pitanje se pomiče s „je li kôd siguran?” na „je li odlučivanje agenta pouzdano?”.

• Rješenje: Komunikacijski model A2A u 3 sloja (agent-agent).

Arhitektonsko rješenje za 3. val: troslojni A2A model

Kako bi AI agenti mogli fleksibilno pregovarati o složenim situacijama i rubnim slučajevima, a da se organizacija ne izloži rizicima 3. vala, nužna je višeslojna komunikacijska arhitektura. Načelo je jednostavno: pregovara se slobodnim jezikom, ali izvršavanje se provodi putem formalnog ugovora.

Tri sloja A2A arhitekture:

Razina 1: Sloj slobodnog pregovaranja (Izražavanje i kreativnost)

Ovdje agenti međusobno komuniciraju u bogatom kontekstu kako bi razmotrili složena pitanja, cijene i okvirne uvjete.

• Rizik: To je najranjiviji sloj na utjecaj, injekciju upita i manipulaciju.

• Mehanizam zaštite: Na ovom sloju agenti smiju nijednu izravnu radnju izvršiti u produkcijskoj infrastrukturi. To je izolirani sandbox. Osim toga, ovaj sloj nadziremo pomoću kognitivno ograničavanje brzine zahtjeva (sprječavanja da agent neograničeno ispituje parametre) i unakrsna provjera modela (drugi, drukčije trenirani model umjetne inteligencije procjenjuje pregovarački rezultat kako bi otkrio manipulaciju).

Razina 2: Sloj formalizacije i namjere (Pravna zaštita)

Čim agenti u Sloju 1 postignu dogovor o rješenju ili transakciji, ishod se oslobađa svakog slobodnog jezika i narativa.

• Mehanizam zaštite: Rezultat se pretvara u formalni, strukturirani ugovor (putem domenski specifični jezik ili definirane JSON sheme). U njemu su obveze, ograničenja i uvjeti izričito definirani. Ovaj sloj djeluje kao digitalni „javni bilježnik“ koji provjerava je li prijedlog u skladu s unaprijed postavljenim poslovnim okvirima.

Razina 3: Deterministički izvršni sloj (Nepokolebljiva osnova)

To je razina na kojoj se provodi stvarna transakcija ili izmjena sustava. Ovdje više ne komuniciraju agenti umjetne inteligencije, već čvrsti matematički sustavi putem nadzirane logike iz 2. vala.

• Mehanizam zaštite:

  • Kriptografska provjera: Poruke između sustava zaštićene su pomoću uzajamni TLS (mTLS-a), opremljene jedinstvenim jednokratne vrijednosti (kako bi se spriječili napadi ponavljanjem) i potpisane kriptografskim ključevima.

  • Deterministički pristupnici: API pristupnici provjeravaju, bez intervencije umjetne inteligencije, nalazi li se zahtjev unutar strogo zadanih ograničenja (poput maksimalnog iznosa transakcije).

Nova uloga ljudskih stručnjaka

Ovaj slojeviti pristup pokazuje da uloga ljudskih stručnjaka ne nestaje, već se premješta u okvire sustava:

• Nabavljač osmišljava strategije, parametre i granice unutar kojih agent u 1. sloju smije pregovarati.

• Pravnik osmišljava predloške, ontologije i formalno-logičke okvire za 2. sloj.

• Arhitekt sigurnosti izgrađuje determinističko nadzirano izvršno okruženje u 3. sloju i osigurava FSM logiku iz 2. vala.

Strogim odvajanjem faze „razmišljanja i pregovaranja” od „faze izvršavanja” zadržavamo fleksibilnost agenata umjetne inteligencije, dok kontrola nad poslovanjem i dalje u potpunosti ostaje u rukama organizacije.

Trebate pomoć pri transformaciji prema kibernetičkoj sigurnosti i automatizaciji vođenima umjetnom inteligencijom? Obratite kontakt nam se još danas