Hızlı Başlangıç: Metin için korumalı malzeme algılama

Metin için Korumalı Malzeme özelliği, yapay zeka tarafından oluşturulan içerikle ilişkili riskleri yönetmek için kapsamlı bir çözüm sağlar (yalnızca İngilizce içerik). Kuruluşlar korumalı materyallerin görüntülenmesini algılayıp önleyerek fikri mülkiyet yasalarına uyumluluğu sağlayabilir, içerik özgünlüğünü koruyabilir ve itibarlarını koruyabilir. Korumalı malzeme şarkı sözleri, makaleler, tarifler veya seçilen diğer web içeriği gibi telif hakkı olan kaynaklardan gelen bilinen metinlerle eşleşen içeriği ifade eder.

Yapay zeka tarafından oluşturulan içerikler için Metin için Korumalı Malzeme Algılama özelliğinin temel hedefleri şunlardır:

  • Yapay zeka modelleri tarafından oluşturulan korumalı içeriğin görüntülenmesini algılamak ve önlemek için.
  • Kuruluşların yapay zeka tarafından oluşturulan içerikle ilişkili riskleri yönetmesini sağlamak için.
  • Yapay zeka tarafından oluşturulan içeriğin yasal, etik ve içerik ilkesi yönergelerine uyduğundan emin olmak için.

Korumalı malzeme algılama hakkında daha fazla bilgi için Korumalı malzeme algılama kavramı sayfasına bakın. API giriş sınırları için Genel Bakış'ın Giriş gereksinimleri bölümüne bakın.

Önkoşullar

Kurulum

İçerik Güvenliği deneyin sayfasını kullanmak için bu adımları izleyin:

  1. Azure AI Foundry gidin ve projenize/hub'ınıza gidin. Ardından sol gezinti bölmesindeki Guardrails + controls sekmesini seçin ve Deneyin sekmesini seçin.
  2. Deneyin sayfasında, uygunsuz veya zararlı içeriği filtrelemek için ayarlanabilir eşikleri kullanarak metin ve görüntü içeriği gibi çeşitli Korumalar ve denetim özellikleriyle denemeler yapabilirsiniz.

Uyarı

Etiketler ve gezinti, portal güncelleştirmeleri arasında farklılık gösterebilir. Guardrails + denetimleri görmüyorsanız projenizde İçerik Güvenliği Deneyin deneyimini arayın.

Korumalar ve denetimler için deneme sayfasının ekran görüntüsü.

Korumalı malzeme algılamayı kullanma

Bu özellik, bilinen korumalı metinler (şarkı sözleri, makaleler, tarifler, seçili web içeriği gibi) veya korumalı kod içeriği için yapay zeka tarafından oluşturulan çıkışları tarar.

  1. Metnin taranması için Korumalı malzeme algılama'yı veya kodun taranması için korumalı malzeme algılama'yı seçin.
  2. Test için metin veya kod yapıştırın. En iyi sonuçları elde etmek için kullanıcı istemleri yerine LLM tamamlama işlemlerini test edin.
  3. Testi çalıştır'ı seçin. Hizmet korumalı içerik sonucunu döndürür.

Daha fazla bilgi için korumalı malzeme kavramsal kılavuzuna bakın.

Önkoşullar

  • Azure aboneliği - Ücretsiz bir abonelik oluştur
  • Azure aboneliğinizi aldıktan sonra anahtarınızı ve uç noktanızı almak için Azure portalında İçerik Güvenliği kaynağı oluşturun. Kaynağınız için benzersiz bir ad girin, aboneliğinizi seçin ve bir kaynak grubu, desteklenen bölgeyi (bkz. Bölge kullanılabilirliği) ve desteklenen fiyatlandırma düzeyini seçin. Ardından Oluştur'u seçin.
    • Kaynağın kullanıma hazır hale gelmesi birkaç dakika sürer. Tamamladıktan sonra Kaynağa git seçeneğini belirleyin. Sol bölmedeki Kaynak Yönetimi'nin altında Abonelik Anahtarı ve Uç Nokta'yı seçin. Uç nokta ve anahtarlardan biri API'leri çağırmak için kullanılır.
  • cURL yüklü

Korumalı malzeme algılama için metni analiz etme

Aşağıdaki bölümde cURL ile örnek bir istekte yol gösterir. Aşağıdaki komutu bir metin düzenleyicisine yapıştırın ve aşağıdaki değişiklikleri yapın.

  1. <endpoint> öğesini, kaynağınızla ilişkilendirilmiş uç nokta URL'si ile değiştirin.
  2. <your_subscription_key> işaretini kaynağınızla birlikte gelen anahtarlardan biriyle değiştirin.
  3. İsteğe bağlı olarak, gövdedeki "text" alanı analiz etmek istediğiniz kendi metninizle değiştirin.

    Tavsiye

    En fazla metin uzunluğu sınırlamaları için giriş gereksinimleri bölümüne bakın. Korumalı malzeme algılama, kullanıcı istemlerinden ziyade LLM tamamlamaları üzerinde çalıştırılmalıdır.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

Url'ye aşağıdaki alanlar eklenmelidir:

İsim Gerekli mi? Açıklama Türü
API Sürümü Gerekli Bu, denetlenecek API sürümüdür. Geçerli sürüm: api-version=2024-09-01. Örnek: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01 Dize

İstek gövdesindeki parametreler şu tabloda tanımlanmıştır:

İsim Gerekli mi? Açıklama Türü
Metin Gerekli Bu, denetlenecek ham metindir. Diğer ascii olmayan karakterler eklenebilir. Dize

Aşağıdaki örnek istek gövdesine bakın:

{
  "text": "string"
}

Bir komut istemi penceresi açın ve cURL komutunu çalıştırın.

API yanıtını yorumlama

Korumalı malzeme algılama sonuçlarının konsol çıkışında JSON verileri olarak görüntülendiğini görmeniz gerekir. Örneğin:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Çıktıdaki JSON alanları burada tanımlanır:

İsim Açıklama Türü
korunanMalzemeAnalizi API'nin tahmin yaptığı her çıkış sınıfı. Dize
Algılandı Korumalı malzemenin algılanıp algılanmadığı. Boolean (Boole Mantığı)

Kaynakları temizle

Azure AI services aboneliğini temizlemek ve kaldırmak istiyorsanız, kaynağı veya kaynak grubunu silebilirsiniz. Kaynak grubunu silmek, onunla ilişkili olan diğer tüm kaynakları da siler.

İlgili içerik

  • Last updated on