Güvenlik tasarımı incelemesi · Tehdit modeli

Yapay Zeka Tehdit Modelleme

Tehdit modelleme, önemli her güven değişimini gerçekçi saldırgan yolundan sorumlusu belli kontrole, çalıştırılabilir teste, kalan risk durumuna ve inceleme tetikleyicisine bağladığında işe yarıyor.

Veri, model, araç, kimlik, izin ve insanları güvenin değiştiği noktalardan geçirerek izliyoruz. Gerçekçi saldırgan hedeflerini ve kötüye kullanım durumlarını bir kontrole, çalıştırılabilir teste, sorumlu kişiye ve riski yeniden açacak koşula bağlıyoruz.

Güven sınırı haritası ve açık tehdit tablosu, risk sorumlunuza hangi yolların kontrol edildiğini, test edildiğini, kabul edildiğini veya açık kaldığını gösteriyor.

Bu çalışmayı konuşalımAna hizmeti inceleyin
Yapay Zeka Tehdit Modelleme illüstrasyonu: bir yapay zeka sistemini güvenlik zayıflıkları için sınayan ekip

Birlikte çalıştığımız 500'den fazla markadan birkaçı

Tüm referansları gör
  • Hyundai
  • Sanofi
  • CHIP Online
  • Aksigorta
  • Desa
  • DYO

Adımlar, kapılar ve kararı verenler

Çalışma şeklimiz

Sistemin nasıl çalışması gerektiğiyle başlıyor, bu görünümü erişebildiğimiz kanıtla karşılaştırıyoruz. Ardından gerçekçi saldırı yollarını izleyerek her öncelikli tehdidi sorumlusu belli bir kontrole bağlıyor ya da açık boşluk olarak bırakıyoruz.

  1. Önemli her güven değişimini çiziyoruz

    Amaçlanan kullanımla birlikte mimariyi, veri akışlarını, model ve araç bağımlılıklarını, kimlikleri, izinleri, korunan varlıkları, bilinen olayları ve planlanan değişiklikleri inceliyoruz. İlk diyagram, güvenin el değiştirdiği her noktayı gösteriyor.

    Yapay zeka desteği
    Onaylı mimari belgeleri yapılandırma kanıtlarıyla karşılaştırıp olası sapmaları işaretliyoruz. Her uyuşmazlığı bir uzman inceliyor.
    İnsan onayı
    Mimari sorumlunuzun onayladığı sınır, bugün bildiğimiz önemli aktör, araç, kimlik ve veri yollarını kapsıyor mu? Mimari sorumlunuz sistem görünümünü ve içerdiği güven geçişlerini onaylıyor.

  2. Saldırganı sınır boyunca izliyoruz

    Saldırgan hedeflerinden ve kötüye kullanım senaryolarından başlayıp varlıklara, giriş noktalarına, güven sınırlarına ve mevcut kontrollere ilerliyoruz. Olasılık ile etkiyi eldeki kanıta göre değerlendiriyor, bilmediğimiz noktaları açıkça işaretliyoruz.

    Yapay zeka desteği
    Bilinen saldırgan örüntülerinden aday kötüye kullanım durumları hazırlanıyor. Güvenlik uzmanları her taslağı yeniden şekillendiriyor ya da eliyor.
    İnsan onayı
    Bu incelemede hangi gerçekçi tehditler bir kontrol ya da test gerektirecek kadar önemli? Hangi tehdidin öncelikli olduğuna güvenlik lideriniz karar verir.

  3. Öncelikli tehditlere çalıştırılabilir bir karşılık veriyoruz

    Öncelikli her tehdidi bir kontrol ve çalıştırılabilir testle eşleştiriyoruz. Yeterli kontrol veya test yoksa bu boşluğu kapatılmış gibi göstermiyor, açık karar olarak bırakıyoruz.

    Yapay zeka desteği
    Model, onaylı tehdit kaydından kontrol ve test önerileri hazırlıyor. Kontrol sorumlusu her öneriyi inceliyor.
    İnsan onayı
    Her öncelikli tehdit bir kontrole, teste veya açıkça kaydedilmiş bir boşluğa bağlı mı? İlgili kontrol sorumlusu, testin hedeflediği tehdidi gerçekten sınadığını onaylıyor.

  4. Açık riski kaydediyoruz

    Azaltımları, sorumluları, kalan riski ve modeli yeniden açacak olayları kaydediyoruz. Şimdi neyin kabul edileceğine, hangi riskin açık kalacağına yetkili risk sorumlunuz karar veriyor.

    Yapay zeka desteği
    Onaylı bulgular risk sorumlusunun inceleyeceği kayıt taslaklarına dönüştürülüyor.
    İnsan onayı
    Açık kalan her öncelikli tehdidin sorumlusu, karar durumu ve inceleme tetikleyicisi var mı? Risk sorumlunuz kalan riski kabul ediyor ya da maddeyi açık tutuyor.

Adı konmuş, sizde kalan çıktılar

Elinize geçenler

Çıktılar birlikte çalışır. Bir sınırdan tehdide, kontrolden teste ve oradan kalan risk kararını verecek kişiye kadar aynı izi takip edebilirsiniz.

  • Mimari dokümanı

    Güven sınırı ve sistem akışı haritası

    Kapsamdaki varlıkları, aktörleri, veriyi, modelleri, araçları, kimlikleri, izinleri ve güven sınırlarını gösteren sistem görünümü.

  • Playbook

    Saldırgan hedefleri ve kötüye kullanım dosyası

    Saldırgan hedeflerini, kötüye kullanım durumlarını, giriş noktalarını, etkilenen varlıkları, olasılığı, etkiyi, kanıtı, varsayımları ve mevcut kontrolleri içeren çalışma kütüphanesi.

  • Matris

    Öncelikli tehdit kontrol ve test haritası

    Öncelikli tehditleri kontrollere, testlere, sorumlulara ve çözülmemiş boşluklara bağlayan matris.

  • Risk kaydı

    Açık tehdit azaltım ve inceleme tablosu

    Azaltım kararlarını, kalan riski, sorumluları ve yeni incelemeyi başlatacak olayları veya tarihleri gösteren kayıt.

Kapsam ve dürüst sınırlar

Bu çalışmanın size uyduğu durumlar

Mimari hâlâ değişebilirken bu çalışmayı yürütmek daha anlamlı. Sınanmamış bir varsayım izinlere, veri akışlarına ya da araçlara yerleştiğinde değişiklik zorlaşıyor.

Şu durumlarda iyi bir seçim

  • Veri, model, araç, kimlik ve insanlar güven sınırlarını geçiyor, ama oluşan yolları tek sistem olarak inceleyen kimse bulunmuyor.
  • Tehditler listeleniyor, ancak hiçbir kontrol sorumlusunda öncelikli yolun gerçekten karşılandığını gösteren çalıştırılabilir test bulunmuyor.
  • Kalan risk kararları yaklaşıyor, ama hangi tehdidin öncelikli olduğunu ve hangi değişikliğin modeli yeniden açacağını belirleyen sorumlu bulunmuyor.
  • Varlıklar ve veri akışları belgeleniyor, fakat model bağımlılıkları, araç çağrıları, kimlikler, izinler ve güven sınırları farklı kaynaklarda kalıyor.
  • Gerçekçi saldırgan hedefleri var, ancak kötüye kullanım yolu giriş noktasından mevcut kontrollere ve olası etkiye kadar izlenmiyor.
  • Öncelikli tehditlerin önerilen kontrolleri var, ama çalıştırılabilir testler, sorumlular, kalan risk veya inceleme tetikleyicileri eksik kalıyor.
  • Varsayımlar ve kanıt boşlukları biliniyor, fakat hangisinin bugün tasarım kararı, hangisinin sonra ayrı güvenlik testi istediği belirlenmiyor.

Şu durumlarda başka bir çalışma daha doğru

  • Tehdit modelinin hukuki, düzenleyici, denetim veya sertifikasyon onayı taşımasını istiyorsunuz. Bu hükümler yetkili uzmanınızda kalıyor.
  • Bütün saldırganların kapsandığı bir güvence gerekiyor, oysa güven sınırı haritası yalnızca incelenen sistem durumunun desteklediği gerçekçi yolları açıkça gösteriyor.
  • Eksik kontrollerin bu çalışmada uygulanmasını bekliyorsunuz, ancak tehdit modelleme her açık boşluk sorumluya, risk durumuna ve teste bağlandığında bitiyor.

Bunlardan biri sizin durumunuza daha yakınsa, buradan başlayın: Ana hizmeti inceleyin

Test ettiğimiz sistemleri kendimiz de işletiyoruz

Bir sistemi hiç ayakta tutmak zorunda kalmadıysanız onu iyi test etmek de zor. Biz production'da AI işletiyoruz, bu yüzden değerlendirme, güvenlik testi ve LLMOps çalışmalarımız gerçekte nelerin kırıldığını bilerek başlıyor. Ekibimiz kıdemli mühendislerden oluşuyor ve Zeo 2011'den beri müşteri projelerinde çalışıyor.

Bu konuda ürettiğimiz içerikler

YazıBurak PehlivanWebMCP Nedir? Agentic Web ve AI Ajanlarıyla Etkileşen Web SiteleriYazıYiğit KonurMCP Server Architecture: State Management, Security & Tool Orchestration

Kullandığımız araçlar

Bu işin arkasındaki araçlar

  • Traceloop

    Modellenen güven sınırlarının gerçek davranışla uyumunu Traceloop ile izliyoruz

  • IriusRisk

    Mimari diyagramları dokümanlardan üretip tehdit modelini IriusRisk ile çıkarıyoruz

  • Mindgard

    Öncelikli tehdit senaryolarını Mindgard ile çalıştırılabilir saldırı testlerine dönüştürüyoruz

  • Lakera Guard

    Tehdit modelindeki saldırgan davranışlarını Lakera Guard telemetri verileriyle doğruluyoruz

Sonraki adım

Saldırı yolunu mimari sertleşmeden izleyelim

Güncel sistem görünümünü, bildiğiniz güvenlik kaygılarını ve sonraki kararı verecek risk sorumlusunu paylaşın. Gerçekçi yolları kontrol, test ve açık risklere kadar izliyoruz.
Tehditleri haritalayalım

Karar vermeden önce

Sık duyduğumuz sorular

Başlamak için hangi bilgilere ihtiyacınız var?

Amaçlanan kullanım, mimari ve veri akışları, model ve araç bağımlılıkları, kimlikler ve izinler, korunan varlıklar, bilinen olaylar, kontrol sorumluları ve planlanan değişiklikler gerekir. Öncelikleri ve kalan riski karara bağlayacak bir risk sorumlusu da çalışmaya katılmalıdır.

AI tehdit modelinin neresinde yardımcı olabilir?

Onaylı mimari notları ve envanterler karşılaştırılabilir, tehdit-kontrol-test bağlantılarının taslakları hazırlanabilir. Bir Zeo uzmanı bu bağlantıları ve arkasındaki gerekçeyi inceliyor. Bütün öncelik, istisna ve risk kabul kararları sorumlularınızda kalıyor.

Tehdit modelinin işe yaradığını nasıl anlıyoruz?

Varlık ve güven sınırı kapsamasını, tehdit-kontrol eşleştirmelerini, azaltılmamış yüksek öncelikli tehdit sayısını ve tehdidin teste dönüşme oranını izliyoruz. Kritik yolları ayrıca inceliyoruz. Genel tablonun iyi görünmesi, önemli bir araç, veri kaynağı veya aktör eksikliğini kapatmaz.

Tehdit modeli ne zaman yeniden açılmalı?

Mimari değişiklikler, yeni araçlar, yeni veri akışları, izin değişiklikleri, model bağımlılıkları ve olaylar eski bir varsayımı geçersiz kılabilir. Bu yüzden kayıt, ilgili inceleme tetikleyicilerini ve sorumlularını açıkça gösteriyor.