Yapay zeka (AI) paylaşılan sorumluluk modeli

Yapay zeka özellikli tümleştirmeyi değerlendirirken ve değerlendirirken paylaşılan sorumluluk modelini ve yapay zeka platformunun veya uygulama sağlayıcısının hangi görevleri işlediğini ve hangi görevleri işlediğinizi anlamak kritik önem taşır. İş yükü sorumlulukları, yapay zeka tümleştirmesinin Hizmet Olarak Yazılım (SaaS), Hizmet Olarak Platform (PaaS) veya Hizmet Olarak Altyapı (IaaS) tabanlı olmasına bağlı olarak değişir.

Sorumluluk bölümü

Bulut hizmetlerinde olduğu gibi, kuruluşunuz için yapay zeka özelliklerini uygularken seçenekleriniz vardır. Hangi seçeneği belirlediğinize bağlı olarak, yapay zekayı güvenli bir şekilde kullanmak için gerekli işlemlerin ve ilkelerin farklı bölümlerinin sorumluluğunu alırsınız.

Aşağıdaki diyagramda, dağıtım türüne göre sizinle Microsoft arasındaki sorumluluk alanları gösterilmektedir.

Yapay zeka katmanına genel bakış

Yapay zeka özellikli bir uygulama, sizin veya bir yapay zeka sağlayıcısının gerçekleştirdiği görevleri gruplandıran üç işlev katmanından oluşur. Güvenlik sorumlulukları genellikle görevleri gerçekleştiren kişide geçerlidir, ancak bir yapay zeka sağlayıcısı, güvenliği veya diğer denetimleri size uygun yapılandırma seçeneği olarak göstermeyi seçebilir. Bu üç katman şunlardır:

AI platformu

Yapay zeka platformu katmanı, uygulamalara yapay zeka özellikleri sağlar. Platform katmanında yapay zeka modelini çalıştıran altyapıyı, eğitim verilerini ve modelin davranışını değiştiren ağırlıklar ve sapmalar gibi belirli yapılandırmaları oluşturma ve koruma gereksinimi vardır. Bu katman API'ler aracılığıyla işlevlere erişim sağlar. Bu katman, Metaprompt olarak bilinen metni işlenmek üzere yapay zeka modeline geçirir ve ardından prompt-Response olarak bilinen oluşturulan sonucu döndürür.

Yapay zeka platformu güvenliğiyle ilgili dikkat edilmesi gerekenler - Yapay zeka platformunu kötü amaçlı girişlerden korumak için, yapay zeka modeline (girişler) gönderilen zararlı olabilecek yönergeleri filtrelemek için bir güvenlik sistemi oluşturulmalıdır. Yapay zeka modelleri üretken olduğundan, bazı zararlı içeriklerin oluşturulup kullanıcıya döndürülme olasılığı da vardır (çıkışlar). Tüm güvenlik sistemleri öncelikle nefret, jailbreak ve diğerleri gibi birçok sınıflandırmanın zararlı olabilecek giriş ve çıkışlarına karşı koruma sağlamalıdır. Bu sınıflandırmalar model bilgilerine, yerel ayara ve sektöre göre büyük olasılıkla zaman içinde gelişecektir.

Microsoft' un hem PaaS hem de SaaS teklifleri için yerleşik güvenlik sistemleri vardır:

• PaaS - Azure OpenAI Hizmeti
• SaaS - Microsoft Security Copilot

Yapay zeka uygulaması

Yapay zeka uygulaması yapay zeka özelliklerine erişir ve kullanıcının tükettiği hizmeti veya arabirimi sağlar. Bu katmandaki bileşenler, uygulamaya bağlı olarak görece basitten son derece karmaşıklığa kadar değişebilir. En basit tek başına yapay zeka uygulamaları, metin tabanlı bir kullanıcı istemi alan ve bu verileri yanıt için modele geçiren bir dizi API'ye arabirim görevi görür. Daha karmaşık yapay zeka uygulamaları, kullanıcı istemini kalıcılık katmanı, anlam dizini veya daha fazla veri kaynağına erişim sağlamak için eklentiler aracılığıyla ek bağlamla temel alma özelliğini içerir. Gelişmiş yapay zeka uygulamaları, mevcut uygulamalar ve sistemlerle de arabirime sahip olabilir. Mevcut uygulamalar ve sistemler çeşitli içerik türleri oluşturmak için metin, ses ve görüntüler arasında çalışabilir.

Yapay zeka uygulama güvenliğiyle ilgili dikkat edilmesi gerekenler - Yapay zeka uygulamasını kötü amaçlı etkinliklerden korumak için bir uygulama güvenlik sistemi oluşturulmalıdır. Güvenlik sistemi, yapay zeka modeline gönderilen Metaprompt'ta kullanılan içeriğin ayrıntılı olarak incelenmesini sağlar. Güvenlik sistemi ayrıca eklentiler, veri bağlayıcıları ve diğer yapay zeka uygulamalarıyla (AI Orchestration olarak bilinir) etkileşimleri de inceler. Bunu kendi IaaS/PaaS tabanlı yapay zeka uygulamanıza eklemenin bir yolu, Azure AI İçerik Kasa ty hizmetini kullanmaktır. Gereksinimlerinize bağlı olarak diğer özellikler kullanılabilir.

Yapay zeka kullanımı

Yapay zeka kullanım katmanı, yapay zeka özelliklerinin nasıl kullanıldığını ve kullanıldığını açıklar. Üretken yapay zeka, API, komut istemi ve grafik kullanıcı arabirimleri (GUI' ler) gibi diğer bilgisayar arabirimlerinden temel olarak farklı olan yeni bir kullanıcı/bilgisayar arabirimi türü sunar. Hem etkileşimli hem de dinamik olan yapay zeka arabirimi, bilgisayar özelliklerinin kullanıcıya ve amacına göre ayarlanmasını sağlar. Üretken yapay zeka arabirimi, öncelikli olarak kullanıcıları sistem tasarımını ve işlevselliğini öğrenmeye ve buna göre ayarlamaya zorlayan önceki arabirimlerle karşıttır. Bu etkileşim, uygulama tasarımcıları yerine kullanıcı girişinin sistemin çıkışı üzerinde yüksek düzeyde etkiye sahip olmasını sağlayarak güvenlik korumalarının insanları, verileri ve iş varlıklarını koruma açısından kritik öneme sahip olmasını sağlar.

Yapay zeka kullanımı güvenliğiyle ilgili dikkat edilmesi gerekenler - Yapay zeka kullanımının korunması, kimlik ve erişim denetimleri, cihaz korumaları ve izleme, veri koruma ve idare, yönetim denetimleri ve diğer denetimler için güvenlik güvencelerine dayanan tüm bilgisayar sistemlerine benzer.

Kullanıcıların sistemlerin çıkışı üzerindeki etkisinin artması nedeniyle kullanıcı davranışı ve sorumluluk üzerinde daha fazla vurgu yapılması gerekir. Kabul edilebilir kullanım ilkelerini güncelleştirmek ve kullanıcıları standart BT uygulamalarının yapay zeka özellikli uygulamalarla farkı konusunda eğitmek kritik önem taşır. Bunlar güvenlik, gizlilik ve etik ile ilgili yapay zekaya özgü konuları içermelidir. Ayrıca, kullanıcıların ikna edici sahte metinler, sesler, videolar ve daha fazlası ile onları kandırmak için kullanılabilecek yapay zeka tabanlı saldırılar hakkında eğitilmesi gerekir.

Yapay zekaya özgü saldırı türleri şunlarda tanımlanır:

• Microsoft Güvenlik Yanıt Merkezi'nin (MSRC) yapay zeka sistemleri için güvenlik açığı önem derecesi sınıflandırması
• Yapay Zeka Sistemleri için MITRE Saldırgan Tehdit Ortamı (ATLAS)
• Büyük Dil Modeli (LLM) uygulamaları için OWASP ilk 10
• OWASP Machine Learning (ML) güvenliği ilk 10
• NIST AI risk yönetimi çerçevesi

Güvenlik yaşam döngüsü

Diğer yetenek türlerinin güvenliğinde olduğu gibi, eksiksiz bir yaklaşım planlamak da kritik önem taşır. Tam bir yaklaşım, tam güvenlik yaşam döngüsü boyunca kişileri, süreci ve teknolojiyi içerir: tanımlama, koruma, algılama, yanıtlama, kurtarma ve idare. Bu yaşam döngüsündeki herhangi bir boşluk veya zayıflık şunlara sahip olabilir:

• Önemli varlıkların güvenliğini sağlayamaması
• Kolayca önlenebilir saldırılar yaşayın
• Saldırılar işlenemiyor
• İş açısından kritik hizmetler hızla geri yüklenemedi
• Denetimleri tutarsız uygulama

Yapay zeka tehdit testinin benzersiz doğası hakkında daha fazla bilgi edinmek için Microsoft AI Red Team'in daha güvenli yapay zekanın geleceğini nasıl oluşturduğuna bakın.

Özelleştirmeden önce yapılandırma

Microsoft, kuruluşların yapay zekayı ilk kez benimsemeleri ve sonraki tüm yapay zeka iş yükleri için Copilot modeli gibi SaaS tabanlı yaklaşımlarla başlamalarını önerir. Bu, kuruluşunuzun bu son derece karmaşık özellikleri tasarlamak, çalıştırmak ve güvenliğini sağlamak için sağlaması gereken sorumluluk ve uzmanlık düzeyini en aza indirir.

Geçerli "kullanıma hazır" özellikleri bir iş yükü için belirli gereksinimleri karşılamıyorsa, bu gereksinimleri karşılamak için Azure OpenAI Hizmeti gibi yapay zeka hizmetlerini kullanarak bir PaaS modelini benimseyebilirsiniz.

Özel model oluşturma yalnızca veri bilimi ve yapay zekanın güvenliği, gizliliği ve etik konuları konusunda derin uzmanlığı olan kuruluşlar tarafından benimsenmelidir.

Microsoft, yapay zekayı dünyaya getirmeye yardımcı olmak için Bing ve Windows'tan GitHub ve Office 365'e kadar tüm temel üretkenlik çözümleri için Copilot çözümleri geliştiriyor. Microsoft, tüm üretkenlik senaryoları için tam yığın çözümleri geliştirmektedir. Bunlar SaaS çözümleri olarak sunulur. Ürünün kullanıcı arabiriminde yerleşik olarak, üretkenliği artırmak için kullanıcıya belirli görevlerde yardımcı olacak şekilde ayarlanmıştır.

Microsoft, her Copilot çözümünün yapay zeka idaresi için güçlü ilkelerimize uygun şekilde tasarlanmış olmasını sağlar.

Sonraki adımlar

Microsoft Sorumlu Yapay Zeka Standardı'nda Microsoft'un sorumlu yapay zeka için ürün geliştirme gereksinimleri hakkında daha fazla bilgi edinin.

Bulut bilişim için paylaşılan sorumluluklar hakkında bilgi edinin.