Siber güvenlik ve geleceğin mimarisi

Yapay zekâ, BT dünyasını hızla değiştiriyor. Birçok kuruluşun odağı verimlilik artışı ve manuel işlerin ortadan kaldırılması olsa da arka planda daha temel bir dönüşüm yaşanıyor: siber güvenlik alanında asimetrik bir zaman yarışı.

Acil durumun boyutu açık: Güvenliklerini ve mimarilerini bu hıza uyarlamayan kuruluşlar, siber olaylar veya sigortalanamaz hâle gelmeleri nedeniyle piyasadan silinecek. Bu dönüşümü anlamak ve yönetmek için yapay zekâ güvenliği sorunundaki art arda gelen üç dalgaya ve ayakta kalmak için gereken mimariye bakmamız gerekiyor.

Yapay Zekâ Güvenliği Dönüşümünün Üç Dalgası

1. Dalga: Kodlardaki Teknik Güvenlik Açıkları (2025 – 2027)

• Sorun: Veri sızıntıları ve saldırılardaki mevcut patlama, tarihsel bir açığı kapatma çabasının sonucudur. Yapay zekâ araçları, insanlar tarafından onlarca yıl boyunca yazılmış eski kodları tarıyor. SQL enjeksiyonları, bellek sızıntıları ve güncelliğini yitirmiş kütüphaneler gibi klasik hatalar, saldırganlar tarafından geniş ölçekte tespit ediliyor.

• Dinamik: Bu aşama, “sola kaydırma” (Shift-Left) ve otomatik kod hijyeni etrafında şekilleniyor. İşlem hatlarını temizleyen, otomatik testler ve yamalarla donatan şirketler, geleneksel kod tabanlarını kısa sürede hiç olmadığı kadar güvenli hâle getiriyor.

• Çözüm: Sürekli Otomatik Yamalama ve Kod Temizleme. CI/CD işlem hatları kod tabanlarını sürekli tarayan, otomatik olarak yamalar oluşturan ve entegrasyon testlerinin başarıyla tamamlanmasının ardından bunları kullanıma alan yapay zekâ güvenlik geçitleriyle donatılır.

2. Dalga: İş Mantığının Kötüye Kullanılması (2026 – 2028)

• Sorun: Teknik giriş kapısı kapatıldığında mücadele, işlevsel mantık alanına taşınır. Bir API teknik açıdan yüzde 100 güvenli şekilde kodlanmış olabilir (SQL enjeksiyonu veya arabellek taşması yoktur); ancak bir kullanıcı ya da betik, belirli bir işlem sırasını kullanarak (indirimlerdeki yarış koşulları, BOLA manipülasyonları veya süreç adımlarının atlanması gibi) sistemi etkileyebiliyorsa doğrudan finansal zarar ortaya çıkar.

• Dinamik: Saldırganlar artık sistemi bozmaz; sistemi kuruluşun parasına mal olacak şekilde çalıştırırlar. Bu da kâr marjlarının sürekli ve görünmez biçimde aşınmasına yol açar.

• Çözüm: Biçimsel Doğrulama ve Sıkı Durum Makineleri (FSM).

  • Sonlu Durum Makineleri (FSM): İş süreçleri, birbirinden bağımsız API uç noktaları olarak yazılmaz; kapalı bir durum makinesi şeklinde matematiksel olarak modellenir. Sistem yalnızca A durumundan (CART_CREATED) B durumuna (PAYMENT_PENDING) ve C durumuna (ORDER_COMPLETED) geçebilir. Adımların değiştirilmesi veya atlanması, sunucu düzeyinde teknik olarak imkânsız hâle getirilir.

  • İdempotensi ve Atomik İşlemler: Eylemler idempotent hâle getirilir ve veritabanlarında katı yalıtım düzeyleri kullanılarak işlenir. Yarış koşulları (indirimleri üst üste uygulamak amacıyla aynı anda birden fazla istek gönderme) veritabanı düzeyinde otomatik olarak engellenir veya kuyruğa alınır.

  • Yapay Zekâ ile Biçimsel Doğrulama: Yapay zekâ aracıları, derleme işlem hattında matematiksel doğrulama yoluyla kanıtlamak üzere kullanılır. yazılımın, kod üretim ortamına alınmadan önce yalnızca amaçlanan mantıksal durumları alabileceğini

3. Dalga: Yapay Zekâ Ajanlarının ve Karar Alma Süreçlerinin Manipülasyonu (2027 – 2030+)

• Sorun: Bir tamamen aracısal dünyada otonom yapay zekâ ajanları birlikte çalışır ve dış dünyadan gelen verilere (e-postalar, faturalar, belgeler) dayanarak kararlar alır. Bu aşamada saldırganlar Dolaylı İstem Enjeksiyonu, Veri Zehirleme ve aracı hedeflerini devralmak.

• Dinamik: Kaynak kodu ve mantık doğru olsa da yapay zekâ aracısı, okuduğu bağlam tarafından yanıltılır. Soru, şuradan şu noktaya kayar: “Kod güvenli mi?” şuradan şu noktaya “Aracının karar alma süreci güvenilir mi?”.

• Çözüm: 3 Katmanlı A2A İletişim Modeli (Aracıdan Aracıya).

3. Dalga için Mimari Çözüm: 3 Katmanlı A2A Modeli

Yapay zekâ aracılarının karmaşık durumlar ve uç durumlar hakkında esnek biçimde müzakere edebilmesini, ancak kuruluşu 3. Dalga'nın risklerine maruz bırakmamasını sağlamak için katmanlı bir iletişim mimarisi gereklidir. Buradaki ilke basittir: müzakereyi serbest dille yaparsınız, ancak uygulamayı biçimsel bir sözleşme aracılığıyla gerçekleştirirsiniz.

A2A mimarisinin üç katmanı:

1. Katman: Serbest Müzakere Katmanı (İfade ve Yaratıcılık)

Bu katmanda aracılar; karmaşık sorunları, fiyatları ve koşulları değerlendirmek için zengin bir bağlam içinde birbirleriyle iletişim kurar.

• Risk: Bu, etkilenme, istem enjeksiyonu ve manipülasyona en açık katmandır.

• Güvence mekanizması: Bu katmanda aracılara hiçbir doğrudan eylem üretim altyapısında çalıştırmak. Yalıtılmış bir sanal alanıdır. Ayrıca bu katmanı şu yöntemlerle izleriz: Bilişsel Hız Sınırlama (bir aracının parametreleri sınırsızca denemesini önlemek) ve Modeller Arası Doğrulama (farklı şekilde eğitilmiş ikinci bir yapay zekâ modeli, müzakere sonucunu manipülasyon açısından değerlendirir).

2. Katman: Biçimselleştirme ve Niyet Katmanı (Hukuki Güvence)

Katman 1'deki aracılar bir çözüm veya işlem üzerinde uzlaşmaya vardığında, sonuç tüm serbest metin ve anlatı unsurlarından arındırılır.

• Güvence mekanizması: Sonuç, bir Etki Alanına Özgü Dil veya tanımlanmış bir JSON şeması aracılığıyla biçimsel ve yapılandırılmış bir sözleşmeye dönüştürülür. Bu sözleşmede yükümlülükler, sınırlar ve koşullar açıkça tanımlanır. Bu katman, teklifin önceden belirlenmiş kurumsal çerçevelere uygun olup olmadığını denetleyen dijital “noter” işlevi görür.

3. Katman: Deterministik Yürütme Katmanı (Sarsılmaz Temel)

Gerçek işlemin veya sistem değişikliğinin gerçekleştirildiği seviye burasıdır. Artık burada yapay zekâ aracıları konuşmaz; katı, matematiksel sistemler, Dalga 2'deki denetlenen mantık üzerinden iletişim kurar.

• Güvence mekanizması:

  • Kriptografik Doğrulama: Sistemler arasındaki iletiler şu yöntemle güvence altına alınır: Karşılıklı TLS (mTLS), benzersiz nonce'lar (tekrar saldırılarını önlemek için) değerleriyle donatılır ve kriptografik anahtarlarla imzalanır.

  • Deterministik Ağ Geçitleri: API ağ geçitleri, yapay zekâ müdahalesi olmadan bir isteğin katı sınırlar içinde kalıp kalmadığını (örneğin azami işlem tutarını) denetler.

İnsan Uzmanlar için Yeni Rol

Bu katmanlı yaklaşım, insan uzmanların rolünün ortadan kalkmadığını; bunun yerine sistemin çerçevesine kaydığını gösterir:

• Satın Alma Uzmanı 1. Katmandaki aracının müzakere edebileceği stratejileri, parametreleri ve sınırları tasarlar.

• Hukukçu 2. Katman için şablonları, ontolojileri ve biçimsel mantıksal çerçeveleri tasarlar.

• Güvenlik Mimarı 3. Katmandaki deterministik, denetimli yürütme ortamını oluşturur ve 2. Kilit’teki FSM mantığının güvence altına alınmasını sağlar.

‘Düşünme ve müzakere aşamasını’ ‘yürütme aşamasından’ kesin biçimde ayırarak yapay zekâ aracılarının esnekliğini korurken, iş süreçleri üzerindeki kontrolün kesintisiz biçimde kuruluşun elinde kalmasını sağlarız.

Yapay zekâ odaklı siber güvenlik ve otomasyona dönüşüm konusunda yardıma mı ihtiyacınız var? Hemen iletişim e geçin