Microsoft Sıfır Güven Atölyesi - Yapay zeka güvenliği

Yapay zeka mevcut güvenlik risklerini güçlendirir ve kimlikler, veriler, uygulamalar, altyapı, modeller, aracılar, araçlar, bellek ve kullanıcı etkileşimleri genelinde yeni riskler getirir. Sıfır Güven ilkeleri uygulamak, kuruluşların erişimi açıkça doğrulamasına, ayrıcalıkları ve verilerin açığa çıkarmasını en aza indirmesine ve yapay zeka sistemlerinin ve bağımlılıklarının kötüye kullanılıp tehlikeye atılabileceğini varsaymalarına yardımcı olur.

Yapay zeka güvenlik atölyesi sütunu kuruluşların yapay zeka kullanımını keşfetmesine ve yönetmesine, kullanıcıların ve aracı kimliklerinin güvenliğini sağlamasına, istemleri korumasına, veri ve çıkışları temel oluşturmasına, ağ ve araç erişimini denetlemesine, aracıları güvenli bir şekilde oluşturup çalıştırmasına, yapay zeka kalitesini ve güvenliğini doğrulamasına ve yapay zekaya özgü sinyalleri güvenlik operasyonlarıyla tümleştirmesine yardımcı olur. Atölye, bu özellikleri öncelikli bir uygulama yol haritasına dönüştürür.

Yapay zeka güvenlik atölyesi sütunu, Microsoft Güvenlik Adoption Framework'te (SAF) tanımlanan yapay zeka teknolojisine karşılık gelir.

Neden yapay zeka güvenliğine odaklanmalısınız?

Yapay zeka sistemleri kullanıcılar adına hareket edebilir, büyük hacimli kuruluş verilerine erişebilir, araçları ve API'leri çağırabilir, hafızayı sürdürebilir ve büyük ölçekte içerik üretebilir. Zayıf sahiplik, aşırı izinler, fazla veri paylaşımı, onaylanmamış uygulamalar, güvenli olmayan aracı geliştirme, istem ekleme, güvenli olmayan araç kullanımı veya yetersiz izleme mevcut saldırı yollarını genişletebilir ve yenilerini oluşturabilir. Bu nedenle yapay zeka güvenliği kimlik, veri, ağ, altyapı, uygulamalar, DevSecOps, uyumluluk ve güvenlik işlemleri genelinde eşgüdümlü denetimler gerektirir.

Beklenen çıktı, risk, bağımlılıklar, uygulama eforu, kullanıcı etkisi, lisanslama, mevzuat gereksinimleri ve hazırlığa göre İlk, Sonra ve Devamında olarak önceliklendirilmiş, uygulanabilir bir yapay zeka güvenlik projeleri iş listesidir.

Yapay zeka güvenliği uygulama alanları

Alan Details
Yapay zeka güvenliği yönetişimi ve sorumluluk oluşturma yapay zeka güvenlik ilkelerini, kabul edilebilir kullanım ilkelerini, risk sahipliğini, ayrıcalıklı yönetim rollerini, onay ve özel durum süreçlerini, mevzuat ve uyumluluk eşlemelerini, belge gereksinimlerini ve iş, teknoloji, güvenlik, gizlilik, yasal ve uyumluluk paydaşları genelinde ölçülebilir sonuçları tanımlayın.
Yapay zeka uygulamalarını, aracılarını, modellerini ve iş yüklerini keşfetme ve değerlendirme Microsoft ve dış platformlarda, üretken yapay zeka uygulamaları, aracılar, modeller, uç noktalar, iş yükü kimlikleri ve yerel veya gölge yapay zeka gibi birleştirilmiş bir envanter oluşturun. Kritikliği ve riski sınıflandırın, sahipler atayın, bulguları gözden geçirin, düzeltmeyi devredin ve sürekli izlemeyi sürdürün.
Yapay zeka ajanlarını yaşam döngüleri boyunca kaydetme ve yönetme Aracıları kaydetmek, sınıflandırmak, düzenlemek, yayımlamak, onaylamak, etkinleştirmek, güncelleştirmek, askıya almak ve kullanımdan kaldırmak amacıyla Agent 365 Kayıt Defteri'ni veya uygun alternatifleri kullanın. Sponsorlar ve sahipler atayın, yönetişim şablonları ve koleksiyonları oluşturun, desteklenen dış kayıt defterlerini eşitleyin ve büyük ölçekte kayıt defteri yönetimini otomatikleştirin.
Kullanıcıların, aracı kimliklerinin ve ayrıcalıklı yönetimin güvenliğini sağlama Desteklenen kullanıcı kimlik doğrulamasını zorunlu kılın, paylaşılan kimlik bilgileri yerine ayrılmış aracı kimlikleri kullanın ve kullanıcılara, aracılara, iş yükü kimliklerine ve yöneticilere en az ayrıcalık, Koşullu Erişim, risk tabanlı denetimler, özel güvenlik öznitelikleri, kimlik idaresi, erişim paketleri, yaşam döngüsü iş akışları ve Privileged Identity Management uygulayın.
Aracıların kaynaklara, araçlara ve diğer aracılara erişimini yönetin Onaylı kaynakları, bağlayıcıları, eklentileri, eylemleri, MCP sunucularını ve bağlı aracı senaryolarını tanımlayın. Aracı amacına ve riskine göre kapsam izinleri, yüksek etkili özellikler için onay gerektirir, uygun yerlerde Copilot Studio veri ilkeleri uygulayın ve aracılar ve bağımlılıklar değiştikçe erişimi gözden geçirin.
Ağ yollarının ve yapay zeka ağ geçitlerinin güvenliğini sağlama Global Secure Access ve güvenli yapay zeka veya API ağ geçitleri gibi kimlik farkındalıklı ağ denetimleri aracılığıyla desteklenen yapay zeka ve aracı trafiğini yönlendirin. Özel LLM uç noktaları ve MCP sunucuları için filtreleme, segmentasyon, hız sınırları, belirteç denetimleri, çıkış kısıtlamaları, istem incelemesi ve korumalar uygulayın.
İstemleri, grounding verilerini, çıkışları ve aracı belleğini koruma Yapay zeka için Veri Güvenliği Duruş Yönetimi, duyarlılık etiketleri, Veri Kaybı Önleme, denetim, toplama ilkeleri, iç risk denetimleri, saklama ve iletişim uyumluluğu gibi Microsoft Purview özellikleri kullanın. Fazla paylaşımı azaltın, dayanak kaynaklarını ve ekli içeriği koruyun, çıkış etiketi devralmayı idare edin ve aracı belleği için yalıtım, köken, saklama, silme ve gözlemlenebilirlik gereksinimlerini tanımlayın.
Yapay zeka uygulaması bulma ve onaylı kullanımı yönetme Microsoft Defender for Cloud Apps, uç nokta denetimleri ve kuruluş ilkesi kullanarak üretken yapay zeka uygulamalarını ve yerel aracıları keşfedin, izin verilen ve izin verilmeyen hizmetleri sınıflandırın, erişimi yönetin ve onaylı iş senaryolarını korurken yüksek riskli uygulamaları engelleyin veya kısıtlayın.
Yapay zeka ajanlarını güvenli bir şekilde oluşturma ve yayımlama Kimlik, yetkilendirme, veri işleme, içerik güvenliği, günlük, bellek, bağımlılıklar, dağıtım ve ortam yalıtımı için güvenli geliştirme gereksinimleri oluşturun. Yayımlama ve sertifikasyon denetimleri gerektirme, bağlayıcı ve araç risklerini gözden geçirme ve ajan geliştirmeyi DevSecOps ve yazılım tedarik zinciri uygulamalarıyla uyumlu hale getirme.
Yapay zeka emniyetini, güvenliğini ve kalitesini doğrulama İçerik güvenliği denetimleri, Prompt Shields, adversarial testler ve red-team testleri, olgusal temellendirme değerlendirmeleri, çalışma zamanında olgusal temellendirme algılama, veri kalitesi kuralları, kötüye kullanım testi ve tanımlı yayın eşikleri kullanın. Malzeme modeli, istem, araç, veri, bellek veya yapılandırma değişikliklerinden sonra yeniden test edin.
Yapay zeka altyapısını, modellerini ve çalışma zamanı ortamlarını koruma Bulut güvenliği duruşu özelliklerine sahip yapay zeka iş yüklerini ve modellerini keşfedin, Azure İlkesi veya eşdeğer idare uygulayın, hassas altyapıyı yalıtın, yapay zeka hizmetlerini ve aracı çalışma zamanlarını koruyun, API ve model uç noktalarını koruyun ve açığa çıkarma, güvenlik açıkları, yapılandırmalar ve çalışma zamanı tehditlerini izleyin.
Yapay zeka etkinliğini günlüğe kaydetme ve izleme Desteklendiği yerlerde, yapay zeka uygulamaları, aracılar, kimlikler, hizmetler, istemler, yanıtlar, araç kullanımı, bellek işlemleri, model uç noktaları ve yönetişim eylemleri için denetim ve tanılama günlüğünü etkinleştirin. Yapay zeka telemetrisi için bekletme, gizlilik, veri en aza indirilmesi, sistem durumu izleme ve erişim denetimleri tanımlayın.
Yapay zekaya özgü tehditleri algılayın ve yanıt verin Yapay zeka veri kaynaklarını Microsoft Sentinel, Microsoft Defender XDR veya başka bir SIEM/XDR platformuna bağlayın. İstem enjeksiyonu, anormal aracı davranışı, riskli yapay zeka kullanımı, verilerin açığa çıkması, kimlik ele geçirilmesi, güvenli olmayan araçlar ve çalışma zamanı saldırılarına yönelik algılamalar uygulayın ve uygun güvenlik önlemleriyle panolar, tehdit avcılığı sorguları, playbook'lar ve otomatik yanıt kullanın.
Yapay zeka güvenliği duruşunu sürekli iyileştirin Yapay zeka envanteri, risk bulguları, DLP ve şirket içi risk uyarıları, aracı izinleri, yayımlama denetimleri, olay eğilimleri, model ve aracı değerlendirmeleri, mevzuat kanıtı ve düzeltme ilerlemesi için yinelenen incelemeler oluşturun. Yapay zeka özellikleri, tehditler ve iş kullanımı geliştikçe ilkeleri ve denetimleri güncelleştirin.

Bu alanlar yapay zeka güvenlik atölyesi sütununu özetler. Tek tek projeleri, bağımlılıkları, lisanslama konularını ve uygulama yönergelerini gözden geçirmek için ayrıntılı yapay zeka projesi kılavuzunu kullanın.

AI Atölyesi'ni kullanma

Web tabanlı Atölye'yi yapay zeka platformu ve uygulama ekipleri, aracı oluşturucular, kimlik, veri koruma, ağ, altyapı, DevSecOps, güvenlik operasyonları, gizlilik, yasal, uyumluluk ve iş paydaşlarıyla kullanın. İlgili her proje için:

  • Proje hedefini ve ortamınıza uygulanabilirliği gözden geçirin.

  • Geçerli durumu, notları, kararları, sahipleri ve bilinen bağımlılıkları kaydedin.

  • Lisanslama, uygulama eforu, kullanıcı etkisi, veri ve mevzuat gereksinimleri, teknik önkoşullar, kapsam ve katmanlar arası bağımlılıkları göz önünde bulundurun.

  • Projenin önceliğini Önce, Sonra veya Sonraki olarak belirleyin ve uygulama yol haritasına ekleyin.

Sıfır Güven Atölyesi'ni açın ve yapay zeka sütununu seçin.

Proje düzeyi bilgileri için ayrıntılı yapay zeka proje kılavuzunu gözden geçirin.

Yapay zeka güvenlik duruşunuzu değerlendirin

Microsoft Sıfır Güven Assessment, desteklenen yapay zeka güvenlik yapılandırmalarını ve uygulamalarını en iyi güvenlik uygulamalarına karşı değerlendirerek Atölye'yi tamamlar. Geçerli durumu doğrularken ve yapay zeka güvenlik projelerine öncelik verirken bulguları ek giriş olarak kullanın. Değerlendirme sonuçları, Çalıştay'da tamamlanan işlevler arası envanter, risk, mimari, geliştirme, veriler ve operasyonel gözden geçirmenin yerini almaz.

Sıfır Güven Değerlendirmesi hakkında bilgi edinin.

Kimler katılmalı?

  • Yapay zeka platformu sahipleri, yapay zeka uygulama ekipleri, ajan geliştiricileri, veri bilimcileri, makine öğrenmesi mühendisleri, uygulama mimarları ve yazılım mühendisliği ekipleri.

  • Kimlik, veri idaresi, veri koruma, ağ, altyapı, bulut platformu, uç nokta yönetimi ve DevSecOps ekipleri.

  • Güvenlik mimarisi, uygulama güvenliği, bulut güvenliği, güvenlik operasyonları, olay yanıtı, maruziyet yönetimi ve tehdit istihbaratı ekipleri.

  • Gizlilik, yasal, uyumluluk, sorumlu yapay zeka, yönetişim, risk, tedarik, iş sahipleri, veri sahipleri ve uygulama sahipleri.

Sonraki Adımlar

Bir değerlendirme çalıştırın ve yapay zeka atölyesine başlayın.