Azure AI İçerik Güvenliği nedir?

Azure AI İçerik Güvenliği, uygulama ve hizmetlerde kullanıcı tarafından oluşturulan ve yapay zeka tarafından oluşturulan zararlı içerikleri algılar. Azure AI İçerik Güvenliği, zararlı malzemeleri algılamanıza olanak sağlayan metin ve görüntü API'leri içerir. Ayrıca farklı yöntemler genelinde zararlı içerikleri algılamak için örnek kodu görüntülemenize, keşfetmenize ve denemenize olanak tanıyan etkileşimli bir Content Safety Studio'muz var.

İçerik filtreleme yazılımı, uygulamanızın düzenlemelere uymasına veya kullanıcılarınız için hedeflenen ortamı korumasına yardımcı olabilir.

Bu belge aşağıdaki makale türlerini içerir:

• Hızlı başlangıçlar , hizmete istekte bulunma konusunda size yol gösteren başlangıç yönergeleridir.
• Nasıl yapılır kılavuzları , hizmeti daha belirli veya özelleştirilmiş yollarla kullanmaya yönelik yönergeler içerir.
• Kavramlar , hizmet işlevselliği ve özellikleri hakkında ayrıntılı açıklamalar sağlar.

Kullanıldığı yer

Aşağıda, bir yazılım geliştiricisinin veya ekibin con çadır modu ration hizmetine ihtiyaç duyması gereken birkaç senaryo vardır:

• Ürün kataloglarını ve kullanıcı tarafından oluşturulan diğer içeriği ortalayan çevrimiçi marketler.
• Kullanıcı tarafından oluşturulan oyun yapıtlarını ve sohbet odalarını ortalayan oyun şirketleri.
• Kullanıcıları tarafından eklenen görüntüleri ve metinleri ortalayan sosyal mesajlaşma platformları.
• İçerikleri için merkezi denetim uygulayan kurumsal medya şirketleri.
• Öğrenciler ve eğitimciler için uygun olmayan içeriği filtreleyen K-12 eğitim çözümü sağlayıcıları.

Önemli

Yasa dışı çocuk istismarı görüntülerini algılamak için Azure AI İçerik Güvenliği'ni kullanamazsınız.

Ürün türleri

Bu hizmetten farklı analiz türleri kullanılabilir. Aşağıdaki tabloda şu anda kullanılabilen API'ler açıklanmaktadır.

Tür	İşlev
İstem Kalkanları (önizleme)	Büyük Dil Modeli'ne kullanıcı girişi saldırısı riski için metni tarar. Hızlı Başlangıç
Topraklama algılama (önizleme)	Büyük dil modellerinin (LLM' ler) metin yanıtlarının, kullanıcılar tarafından sağlanan kaynak malzemelerde yer alıp almadığını algılar. Hızlı Başlangıç
Korumalı malzeme metin algılama (önizleme)	Bilinen metin içeriği (örneğin, şarkı sözleri, makaleler, tarifler, seçili web içeriği) için yapay zeka tarafından oluşturulan metni tarar. Hızlı Başlangıç
Özel kategoriler (hızlı) API (önizleme)	Ortaya çıkan zararlı içerik desenlerini tanımlamanıza ve eşleşmeler için metin ve görüntüleri taramanıza olanak tanır. Nasıl yapılır kılavuzu
Metin API'sini analiz etme	Çok önem düzeyiyle cinsel içerik, şiddet, nefret ve kendine zarar verecek metinleri tarar.
Görüntü API'lerini analiz etme	Cinsel içerik, şiddet, nefret ve kendine zarar verecek görüntüleri çok önem düzeyiyle tarar.

Content Safety Studio

Azure AI Content Safety Studio, son teknoloji con çadır modu ration ML modellerini kullanarak rahatsız edici, riskli veya istenmeyen içeriği işlemek için tasarlanmış çevrimiçi bir araçtır. Şablonlar ve özelleştirilmiş iş akışları sağlayarak kullanıcıların kendi con çadır modu ration sistemini seçmesini ve oluşturmasını sağlar. Kullanıcılar kendi içeriklerini karşıya yükleyebilir veya sağlanan örnek içerikle deneyebilir.

Content Safety Studio yalnızca kullanıma açık yapay zeka modellerini değil, aynı zamanda küfürleri bayrakla işaretlemek ve yeni eğilimleri takip etmek için Microsoft'un yerleşik terim engelleme listelerini de içerir. Ayrıca, kullanım örneğinize özgü zararlı içeriğin kapsamını geliştirmek için kendi engelleyici listelerinizi karşıya yükleyebilirsiniz.

Studio ayrıca con çadır modu ration performansını sürekli olarak izleyip geliştirebileceğiniz bir denetim iş akışı ayarlamanıza da olanak tanır. Oyun, medya, eğitim, E-ticaret ve daha fazlası gibi her türlü sektördeki içerik gereksinimlerini karşılamanıza yardımcı olabilir. İşletmeler hizmetlerini kolayca Studio'ya bağlayabilir ve kullanıcı tarafından oluşturulan veya yapay zeka tarafından oluşturulan çadır modu gerçek zamanlı olarak eşitlenebilir.

Bu özelliklerin tümü Studio ve arka ucu tarafından işlenir; müşterilerin model geliştirme konusunda endişelenmesi gerekmez. Verilerinizi hızlı doğrulama için ekleyebilir ve teknik ölçümler (gecikme süresi, doğruluk, geri çekme) veya iş ölçümleri (blok oranı, blok hacmi, kategori oranları, dil oranları ve daha fazlası) gibi KPI'lerinizi buna göre izleyebilirsiniz. Basit işlemler ve yapılandırmalarla müşteriler, özel modellerle deneme yapmak veya el ile denetim yapmak yerine farklı çözümleri hızlı bir şekilde test edebilir ve en uygun çözümü bulabilir.

Content Safety Studio

Content Safety Studio özellikleri

Content Safety Studio'da aşağıdaki Azure AI İçerik Güvenliği hizmeti özellikleri kullanılabilir:

• Orta Metin İçeriği: Metin denetleme aracıyla, metin içeriği üzerinde testleri kolayca çalıştırabilirsiniz. Tek bir cümleyi veya veri kümesinin tamamını test etmek istediğinizde, aracımız test sonuçlarını doğrudan portalda değerlendirmenizi sağlayan kullanıcı dostu bir arabirim sunar. İçerik filtrelerinizi ve blok listesi yönetiminizi yapılandırmak için farklı duyarlılık düzeyleriyle denemeler yapabilir ve içeriğinizin her zaman tam belirtimlerinize göre denetlenmesini sağlayabilirsiniz. Ayrıca, kodu dışarı aktarma özelliği sayesinde aracı doğrudan uygulamanızda uygulayarak iş akışınızı akışa alabilir ve zamandan tasarruf edebilirsiniz.

• Görüntü İçeriğini Denetleme: Görüntü denetleme aracıyla, içerik standartlarınızı karşıladığından emin olmak için resimler üzerinde testleri kolayca çalıştırabilirsiniz. Kullanıcı dostu arabirimimiz, test sonuçlarını doğrudan portalda değerlendirmenize olanak tanır ve içerik filtrelerinizi yapılandırmak için farklı duyarlılık düzeyleriyle denemeler yapabilirsiniz. Ayarlarınızı özelleştirdikten sonra, aracı uygulamanıza uygulamak için kodu kolayca dışarı aktarabilirsiniz.

• Çevrimiçi Etkinliği İzleme: Güçlü izleme sayfası, farklı modalitelerdeki moderasyon API kullanımınızı ve eğilimlerinizi kolayca izlemenizi sağlar. Bu özellik sayesinde kategori ve önem derecesi dağıtımı, gecikme süresi, hata ve blok listesi algılama gibi ayrıntılı yanıt bilgilerine erişebilirsiniz. Bu bilgiler, iş akışınızı iyileştirmenize ve içeriğinizin her zaman tam belirtimlerinize göre denetlendiğinden emin olmanıza olanak tanıyan con çadır modu ration performansınıza tam bir genel bakış sağlar. Kullanıcı dostu arabirimimizle, con çadır modu ration stratejiniz hakkında bilinçli kararlar almak için ihtiyacınız olan bilgilere erişmek için izleme sayfasında hızlı ve kolay bir şekilde gezinebilirsiniz. Con çadır modu ration performansınızı takip etmek ve içerik hedeflerinize ulaşmak için ihtiyacınız olan araçlara sahipsiniz.

Güvenlik

Erişimi yönetmek için Microsoft Entra Id veya Managed Identity kullanma

Gelişmiş güvenlik için kaynaklarınıza erişimi yönetmek için Microsoft Entra Id veya Managed Identity (MI) kullanabilirsiniz.

• İçerik Güvenliği kaynağı oluşturduğunuzda Yönetilen Kimlik otomatik olarak etkinleştirilir.
• Microsoft Entra Id hem API hem de SDK senaryolarında desteklenir. Microsoft Entra Id ile Kimlik Doğrulaması için genel yapay zeka hizmetleri kılavuzuna bakın. Ayrıca, kuruluşunuzdaki diğer kullanıcılara Bilişsel Hizmetler Kullanıcıları ve Okuyucusu rollerini atayarak da erişim vekleyebilirsiniz. Azure portalını kullanarak Azure kaynaklarına kullanıcı erişimi verme hakkında daha fazla bilgi edinmek için Rol tabanlı erişim denetimi kılavuzuna bakın.

Bekleyen verilerin şifrelenmesi

Azure AI content Safety'nin verilerinizin şifrelenmesini ve şifresini çözmeyi nasıl işlediğini öğrenin. Kendi Anahtarını Getir (BYOK) olarak da bilinen müşteri tarafından yönetilen anahtarlar (CMK), erişim denetimlerini oluşturmak, döndürmek, devre dışı bırakmak ve iptal etmek için daha fazla esneklik sunar. Verilerinizi korumak için kullanılan şifreleme anahtarlarını da denetleyebilirsiniz.

Fiyatlandırma

Şu anda Azure AI content Safety'nin F0 ve S0 fiyatlandırma katmanı vardır. Daha fazla bilgi için Azure fiyatlandırma sayfasına bakın.

Hizmet sınırları

Giriş gereksinimleri

Her özellik için giriş gereksinimleri için aşağıdaki listeye bakın.

• Metin API'sini analiz etme:
  • Varsayılan uzunluk üst sınırı: 10.000 karakter (gerektiğinde uzun metinleri bölün).
• Görüntü API'lerini analiz etme:
  • En büyük görüntü dosyası boyutu: 4 MB
  • 50 x 50 ile 2048 x 2048 piksel arasındaki boyutlar.
  • Resimler JPEG, PNG, GIF, BMP, TIFF veya WEBP biçimlerinde olabilir.
• İstem Kalkanları (önizleme):
  • En fazla istem uzunluğu: 10.000 karakter.
  • Toplam 10.000 karakter içeren en fazla beş belge.
• Topraklama algılama (önizleme):
  • Topraklama kaynakları için maksimum uzunluk: 55.000 karakter (API çağrısı başına).
  • En fazla metin ve sorgu uzunluğu: 7.500 karakter.
• Korumalı malzeme algılama (önizleme):
  • Varsayılan uzunluk üst sınırı: 1K karakter.
  • Minimum uzunluk: 111 karakter (kullanıcı istemlerini değil LLM tamamlamalarını taramak için).

Dil desteği

İçerik Güvenliği modelleri özellikle şu dillerde eğitilmiş ve test edilmiştir: İngilizce, Almanca, Japonca, İspanyolca, Fransızca, İtalyanca, Portekizce ve Çince. Ancak, hizmet başka birçok dilde çalışabilir, ancak kalite değişebilir. Her durumda, uygulamanız için çalıştığından emin olmak için kendi testinizi yapmalısınız.

Daha fazla bilgi için bkz . Dil desteği.

Bölgesel kullanılabilirlik

İçerik Güvenliği API'lerini kullanmak için Azure AI content Safety kaynağınızı desteklenen bölgelerde oluşturmanız gerekir. şu anda İçerik Güvenliği özellikleri aşağıdaki Azure bölgelerinde kullanılabilir:

Bölge	Yönetim API’leri	İstem Kalkanları (önizleme)	Korumalı malzeme algılama (önizleme)	Topraklanmışlık algılama (önizleme)	Özel kategoriler (hızlı) (önizleme)	Blok listeleri
Doğu ABD	✅	✅	✅	✅	✅	✅
Doğu ABD 2	✅			✅		✅
Batı ABD					✅
Batı ABD 2	✅					✅
Orta ABD	✅					✅
Orta Kuzey ABD	✅					✅
Orta Güney ABD	✅					✅
Doğu Kanada	✅					✅
Kuzey İsviçre	✅					✅
Orta İsveç	✅			✅	✅	✅
Güney Birleşik Krallık	✅					✅
Orta Fransa	✅					✅
West Europe	✅	✅	✅			✅
Doğu Japonya	✅					✅
Doğu Avustralya	✅	✅				✅

İşletmeniz için başka bölgelere ihtiyacınız varsa bizimle iletişime geçebilirsiniz.

Sorgu oranları

İçerik Güvenliği özellikleri, 10 saniyelik isteklerde sorgu hızı sınırlarına sahiptir. Her özellik için hız sınırları için aşağıdaki tabloya bakın.

Fiyatlandırma katmanı	Yönetim API’leri	İstem Kalkanları (önizleme)	Korumalı malzeme algılama (önizleme)	Topraklanmışlık algılama (önizleme)	Özel kategoriler (hızlı) (önizleme)
F0	1000	1000	1000	50	1000
S0	1000	1000	1000	50	1000

Daha hızlı bir fiyat gerekiyorsa, lütfen talep etmek için bizimle iletişime geçin.

Bizimle ulaşın

Takılırsanız bize e-posta gönderin veya herhangi bir Microsoft Learn sayfasının altındaki geri bildirim pencere öğesini kullanın.

Sonraki adımlar

Uygulamanızda Azure AI content Safety kullanmaya başlamak için hızlı başlangıcı izleyin.

İçerik Güvenliği hızlı başlangıcı