Cisco AI Defense: AI Uygulamasını ve Altyapısını Birlikte Korumak

Bir AI uygulamasını korumaya başlamak için modelin nerede çalıştığını, hangi uygulamanın onu çağırdığını ve hangi verinin isteğe eklendiğini bilmek gerekir. Çalışanların üçüncü taraf AI araçlarını kullanması ile kurum içinde sunulan bir modelin güvenliği farklı değerlendirmeler gerektirir. Cisco AI Defense; keşif, doğrulama ve çalışma zamanı koruması için bu alanlara odaklanır. Tasarımın başında uygulama sahibi, veri sınıfı, dış servis bağımlılığı ve erişim yolu kaydedilmelidir. Aksi halde yalnız model ismi üzerinden yapılan ürün seçimi gerçek riski kaçırabilir. Güvenlik değerlendirmesi, uygulamanın erişebildiği araçları ve veri kaynaklarını da kapsayan bir envanterle başlamalıdır.

AI Defense on AI PODs referansı, SaaS control plane ile kurum içindeki data plane’i ayrı sınırlar içinde gösterir. Yönetim ve politika işlevleri SaaS tarafındadır; validation ve runtime işlemleri AI POD’daki connector kapsamında gösterilir. Kaynak dokümana göre data plane, 443 üzerinden dış bağlantıyı başlatır ve gateway’ler arasındaki gRPC akışı TLS ile korunur. Bu ayrım, güvenlik ekibinin yönetim erişimini ve platform ekibinin uygulama trafiğini ayrı değerlendirmesine yardımcı olur. “Hibrit” ifadesi, bütün verinin her durumda aynı yolu izlediği anlamına gelmez. Gerçek veri işleme ve çıkış kuralları seçilen dağıtımın dokümanlarıyla doğrulanmalıdır.

AI Defense’ın validation yaklaşımı, model veya uygulamanın güvenlik davranışını üretime geçmeden değerlendirmek için kullanılır. Prompt injection, hassas veri sızıntısı ve uygunsuz çıktı gibi risklerin hangi kullanım senaryosunda önemli olduğu belirlenmelidir. Test sonucu yalnız tek bir başarılı veya başarısız prompt’a indirgenmemelidir. Kullanılan model sürümü, veri bağlamı, politika ve test kapsamı birlikte kaydedilirse sonraki değişikliklerin etkisi karşılaştırılabilir. Uygulama ekibi hangi davranışı iş gereksinimi saydığını açıklamalı; güvenlik ekibi hangi riski kabul ettiğini belgelemelidir. Model veya retrieval kaynağı değiştiğinde önceki değerlendirme otomatik olarak geçerli kabul edilmemelidir.

Çalışma zamanı koruması, uygulama ve model arasındaki giriş–çıkışların belirlenen güvenlik politikasına göre değerlendirilmesini amaçlar. Ancak yalnız engelleme sayısı, kontrolün doğru çalıştığını kanıtlamaz. Kurumun meşru iş akışları için yanlış engelleme davranışı, hata yanıtının anlaşılabilirliği ve ek gecikme birlikte incelenmelidir. Güvenlik kontrolü devre dışı kaldığında uygulamanın ne yapacağı da önceden kararlaştırılmalıdır. Bu kararlar, modele özgü işlev testleriyle güvenlik testlerini aynı kabul planına taşır. Topolojide validation ve runtime ayrı kutulardır; bu kutuların sayısı fiziksel sunucu adedi olarak okunmamalı, yazılım sorumluluğu olarak değerlendirilmelidir.

AI uygulamasının prompt veya çıktısını değerlendirmek ile altyapıdaki iş yükleri arası erişimi sınırlandırmak farklı güvenlik görevleridir. Hypershield dağıtık koruma yaklaşımına, Secure Workload ise iş yükü görünürlüğü ve segmentasyonuna odaklanır. Bu çözümler AI Defense ile aynı riskin farklı adı değildir. Bir tasarımda hangi kontrolün uygulama/model sınırında, hangisinin host veya ağ sınırında çalıştığı açıkça belirtilmelidir. İş yükü bağımlılıkları görülmeden uygulanan segmentasyon gerekli servis çağrılarını etkileyebilir. Bu nedenle gözlem, politika incelemesi ve kontrollü uygulama adımları planlanmalıdır. Entegrasyon ve uygulama kapsamı, desteklenen platformlar ile seçilen lisans ve sürümlere göre ayrıca doğrulanır.

Güvenlik olayının anlamı, etkilenen uygulama ve kullanıcı bağlamıyla ortaya çıkar. Splunk Enterprise Security güvenlik verilerini araştırma ve müdahale iş akışlarına taşır; Cisco XDR de desteklenen güvenlik kaynaklarından gelen bulguları ilişkilendirebilir. Bir AI kontrolünden elde edilen olayın bu sistemlere otomatik ve eksiksiz aktarıldığını varsaymak yerine, kullanılacak desteklenen entegrasyon seçeneği doğrulanmalıdır. Hangi alanların gerektiği, olayın sahibi ve müdahale adımı tasarımda tanımlanır. Otomatik aksiyon planlanıyorsa yanlış alarm, onay ve geri alma davranışı da belirlenir. Böylece güvenlik kontrolü yalnız bir uyarı üretmez; operasyon ekibinin inceleyebildiği ve takip edebildiği bir kayda dönüşür.

Cisco AI Canvas, ürünler ve bağlı araçlar arasındaki operasyonel araştırmayı ortak bir çalışma alanında düzenler. Farklı kaynaklardan bulgular bir araya getirilebilir, araştırma devam ettirilebilir ve önerilen adımlar gözden geçirilebilir. Canvas’ın kullanıcının mevcut erişim izinleriyle çalışması, entegrasyon yetkisini ayrıca tasarlama ihtiyacını ortadan kaldırmaz. Her ekip hangi veriyi görebildiğini ve hangi aksiyonu uygulayabildiğini bilmelidir. AI destekli öneriler, kurumun değişiklik onayı ve operasyon sahipliği sürecine bağlanmalıdır. Katalogdaki AI Canvas ifadesini burada bir “otomatik onarım garantisi” olarak kullanmıyoruz; yararlı olan, bulguyu kaynağı ve karar iziyle birlikte ekiplerin önüne getiren araştırma düzenidir.

Pilot kapsamını belirli bir uygulama, model sürümü ve veri akışıyla sınırlamak sonuçları anlaşılır kılar. Önce normal kullanıcı işlemlerini, sonra beklenen güvenlik kontrollerini ve hata durumlarını doğrulayın. Denetim kaydı, politika değişikliği, bağlantı kesilmesi ve model güncellemesi gibi senaryolar ayrı ayrı gözlenmelidir. Kullanılacak verinin paylaşım ve saklama koşulları kurumun ilgili ekiplerince değerlendirilir. Trustnet’in katalogda belirttiği danışmanlık ve entegrasyon yaklaşımı, bu teknik ve operasyonel kararların birlikte hazırlanmasına dayanır. Üretim kararı; desteklenen mimari, ölçülen uygulama deneyimi ve açıkça sahiplenilmiş müdahale süreci hazır olduğunda verilmelidir.