Eğitim: Bir model servise hizmet politikası korumaları ekleyin

Important

Hizmet politikaları beta aşamasındadır. Unity AI Gateway genel olarak mevcuttur, ancak beta yetenekleri ayrı olarak etkinleştirilmiştir. Bir hesap yöneticisi, hesap konsolu önizlemeler sayfasından Unity AI Gateway beta özelliklerini açmak zorundadır. Bkz. Azure Databricks önizlemelerini yönetme.

Bu eğitim, bir Model Hizmet'e koruma korkulukları eklemeyi iki tamamlayıcı şekilde anlatıyor. Azure Databricks'te guardrails, hizmet ilkeleridir. Bir model hizmeti, Azure Databricks'te barındırılan bir modelin veya OpenAI, Anthropic ya da Google gibi harici bir sağlayıcının önünde yer alabilir ve her ikisini de aynı şekilde yönetirsiniz:

  • Yerleşik hizmet ilkeleri (korumalar): PII, güvenli olmayan içerik, jailbreak girişimleri ve halüsinasyonlar gibi yaygın riskler için yönetilen, Azure Databricks tarafından sağlanan denetimler. Yazacak kod olmadan kullanıcı arabiriminde seçerek bir tane eklersiniz.
  • Özel hizmet ilkeleri: Gizli proje kod adı veya yasaklanmış yanıt düzeni gibi kuruluşunuza özgü kurallar için yazdığınız SQL işlevleri.

Hizmet ilkesi kavramları, yerleşik korumalar ve tam yazma başvurusu için bkz. Yapay zeka güvenliği sağlanabilir öğeler için hizmet ilkeleri, Hizmet ilkesi oluşturma ve ekleme ve Hizmet ilkesi işlev başvurusu.

Her ikisini de aynı şekilde, Unity AI Gateway kullanıcı arabiriminde bir model hizmetinin İlkeler sekmesinden bağlarsınız ve birlikte kullanabilirsiniz. Azure Databricks her birini iki noktada değerlendirir: ON CALL (modeli çağırmadan önce) ve ON RESULT (model yanıt verdikten sonra). Kullanıcı arabiriminde, ilkeyi eklerken aşamayı seçersiniz. Özel bir ilke, event:type temelinde dallanarak kendisini tek bir aşamayla da sınırlayabilir.

Senaryo: Ekibiniz, uygulamaların ve aracıların çağırdığını bir Model Hizmeti (main.default.team_chat) aracılığıyla bir LLM'yi kullanıma sunar. Güvensiz veya zararlı içerikleri yönetilen bir koruma ile engellemek, gizli bir projeden bahseden her çağrıyı engellemek ve güvensiz bağlantı içeren yanıtları engellemek istersiniz, tüm bunları uygulama kodunu değiştirmeden.

Bu öğreticiyi tamamladığınızda şunları elde etmiş olacaksınız:

  • Hizmet üzerinde yerleşik bir güvensiz içerik güvenlik önlemi.
  • ON CALL'da gizli bir kod adını engelleyen özel bir istek ilkesi.
  • ON RESULT'de güvenli olmayan bağlantıları engelleyen özel yanıt ilkesi.
  • Üçü de model hizmetinin oyun alanında takılı ve doğrulanmış.

Prerequisites

  • Unity Kataloğu için etkinleştirilmiş bir çalışma alanı. Bkz. Unity Kataloğu'nu kullanmaya başlama.
  • Hesabınız için etkinleştirilmiş olan Unity AI Gateway beta özellikleri, hizmet politikalarını ve diğer Unity AI Gateway Beta özelliklerini devreye giriyor. Bkz. Azure Databricks önizlemelerini yönetme.
  • Yönetebileceğiniz bir Model Hizmeti ve test edebilmeniz için üzerinde EXECUTE. Bir tane oluşturmak için, Model API'lerini (model hizmetleri) oluştur ve yönet bölümünü inceleyin. Bu kılavuzda main.default.team_chat kullanılıyor.
  • MANAGE ilke eklemek için Model Hizmeti'ne gidin.
  • CREATE FUNCTION özel ilke işlevlerini oluşturduğunuz şema üzerinde (bu öğreticide main.governance).
  • Yerleşik güvenlik önlemi için: güvenlik önleminin denetimini gerçekleştiren değerlendirici model (LLM hakemi) önceden seçilmiştir, bu nedenle herhangi bir kurulum gerekmez. Gelişmiş seçenekler altında farklı bir değerlendirici seçerseniz, üzerine CAN_QUERY tıklamanız gerekir.

1. Adım: Yerleşik korumayı uygulayın

Yerleşik güvenlik önlemleri, yönetilen LLM-judge denetimleri olarak yönetilir. Koruma türü menüsünden birini seçersiniz; kontrolü gerçekleştiren değerlendirme modeli hizmeti (LLM değerlendiricisi) sizin için önceden seçilmiştir. Kullanılabilir korumalar şunlardır:

  • Güvenli Olmayan İçerik (system.ai.block_unsafe_content): güvenli olmayan veya zararlı içeriği reddeder.
  • Jailbreak (system.ai.block_jailbreak): istem enjeksiyonu ve jailbreak girişimlerini reddeder (yalnızca isteklerde).
  • Halüsinasyon (system.ai.block_hallucination): halüsinasyon içeren yanıtları reddeder (yalnızca yanıtlar için).

Güvensiz içerik güvenlik önlemini model hizmetinize ekleyin:

  1. Çalışma alanı kenar çubuğunda AI Ağ Geçidi'ne tıklayın.
  2. Modeller sekmesinde model hizmetinizi (main.default.team_chat) seçin.
  3. İlkeler sekmesini açın, ardından Yeni ilke'ye tıklayın.
  4. gibi bir block-unsafe-content girin.
  5. Uygulandığı yer'in altında Tüm hesap kullanıcıları'nı koruyun veya ilkenin kapsamını belirli sorumlularla belirleyin.
  6. Koruyucu Koruma türünde, Güvensiz İçerik seçeneğini seçin.
  7. Derece'yi olarak 1ayarlayın. Derece, değerlendirme sırasını belirler: en düşük derece istekte ilk, yanıtta ise en son çalışır.
  8. Aşama altında hem Giriş korumalarını (Modelden Önce) hem de Çıkış korumalarını (Modelden Sonra) seçin; böylece koruma mekanizması istekler ve yanıtlar için çalışır.
  9. Politika oluştur'a tıklayın.

Koruma mekanizması, önceden seçilmiş bir değerlendirici model hizmeti (denetimi çalıştıran LLM değerlendiricisi) kullanır. Farklı bir model kullanmak için, ilkeyi oluşturmadan önce Gelişmiş seçenekler'i genişletin; seçtiğiniz modele ihtiyacınız vardır CAN_QUERY .

Note

Model Hizmeti'ne ilke ekledikten veya değiştirdikten sonra, test etmeden önce değişikliğin etkili olması için kısa bir süre bekleyin. Hizmet politikaları beta sırasında, yayılması birkaç dakika sürebilir.

2. Adım: Özel istek ilkesi ekleme

Güvenlik önlemleri yaygın riskleri kapsar. Kuruluşunuza özgü bir kural için özel bir ilke yazın. Özel bir ilke, (event VARIANT) alan ve bir karar döndüren bir SQL UDF'sidir; son kullanıcı ya da asistan mesajının API'den bağımsız bir projeksiyonu olan event:context.message içindeki mesaj metnini okuyun.

Bu ilke, gizli proje kod adından bahseden tüm istekleri reddeder. event:type::string = 'request' kontrolü bunu ON CALL ile sınırlar:

CREATE OR REPLACE FUNCTION main.governance.block_confidential_codename(
  event VARIANT
)
RETURNS VARIANT
LANGUAGE SQL
RETURN
  CASE
    WHEN event:type::string = 'request'
      AND contains(lower(event:context.message::string), 'project aurora')
    THEN to_variant_object(named_struct('result', 'DENY', 'reason', 'Requests about confidential projects are not permitted.'))
    ELSE to_variant_object(named_struct('result', 'ALLOW', 'reason', ''))
  END;

contains ve lower ilke gövdelerinde desteklenen SQL alt kümesinin bir parçasıdır. Tam liste ve ilke işlevi yazma kuralları için bkz. Hizmet ilkesi işlevi başvuru belgesi.

İşlevi istek aşaması kapsamına alınmış özel bir ilke olarak ekleyin:

  1. Model hizmetinin İlkeler sekmesinde Yeni ilke'ye tıklayın ve gibi bir block-codename girin.
  2. Koruma türü bölümünde Özel seçeneğini seçin.
  3. Özel işlev'e ve ardından İşlev seç'e tıklayın ve öğesini seçinmain.governance.block_confidential_codename.
  4. Aşama altında yalnızca Giriş koruma önlemleri (Modelden Önce) seçeneğini belirleyin, çünkü bu bir istek politikasıdır.
  5. Sıralamayı 10 olarak ayarlayın, ardından İlke oluştur'a tıklayın.

3. Adım: Özel yanıt ilkesi ekleme

Model, iletmek istemediğiniz içerikleri de döndürebilir. Bu ilke, güvenli olmayan bir bağlantı ( http:// URL veya URI) içeren bir javascript: yanıtı reddeder. event:type::string = 'response' denetimi bunu yalnızca ON RESULT ile sınırlar; böylece bir istemde bu şemalardan yalnızca söz eden bir kullanıcı, bunu girdi aşamasında tetiklemez:

CREATE OR REPLACE FUNCTION main.governance.block_unsafe_links(
  event VARIANT
)
RETURNS VARIANT
LANGUAGE SQL
RETURN
  CASE
    WHEN event:type::string = 'response'
      AND (contains(lower(event:context.message::string), 'http://')
        OR contains(lower(event:context.message::string), 'javascript:'))
    THEN to_variant_object(named_struct('result', 'DENY', 'reason', 'Response contained an insecure link and was blocked by policy.'))
    ELSE to_variant_object(named_struct('result', 'ALLOW', 'reason', ''))
  END;

İşlevi yanıt aşaması kapsamına alınmış özel bir ilke olarak ekleyin:

  1. İlkeler sekmesinde Yeni ilke'ye tıklayın ve gibi bir block-unsafe-links girin.
  2. Koruma türü altında Özel'i seçin, ardından main.governance.block_unsafe_links altında seçin.
  3. Aşama altında yalnızca Çıkış korumaları (Modelden Sonra) seçin, çünkü bu bir yanıt politikasıdır.
  4. Sıralamayı 20 olarak ayarlayın, ardından İlke oluştur'a tıklayın.

4. Adım: Doğrulama

Üç ilke de artık hizmetin İlkeler sekmesinde görünür. Her birinin ateşlendiğinden emin olmak için oyun parkını kullanın:

  1. Model hizmeti sayfasında Oyun alanında sohbet'e tıklayın.
  2. Güvensiz veya zararlı içerik talep eden bir prompt gönderin. Güvensiz içerik koruması engelliyor ve yanıt içeriğin politika tarafından engellendiğini bildiriyor.
  3. Gönder Tell me about Project Aurora. İstek ilkesi, gizli projeler hakkındaki isteklere izin verilmemesi nedeni ile bunu engeller.
  4. Modelin bir http:// bağlantısı döndürmesini sağlayacak bir istem gönderin. Yanıt ilkesi, Yanıt'ın güvenli olmayan bir bağlantı içermesinin ve ilke tarafından engellenmesinin nedeni ile ON RESULT'de bunu engeller.
  5. Sıradan bir istem gönderin. Normal şekilde tamamlanır.

Hizmeti kendi uygulamalarınızdan veya betiklerinizden test etmek için Sorgu modeli API'leri (model hizmetleri) sayfasına bakınız.

Temizleme

İşiniz bittiğinde İlkeler sekmesindeki ilkeleri kaldırın: oluşturduğunuz her ilkeyi açın ve silin. Ardından isteğe bağlı olarak özel işlevleri bırakın:

DROP FUNCTION IF EXISTS main.governance.block_confidential_codename;
DROP FUNCTION IF EXISTS main.governance.block_unsafe_links;

Sonraki Adımlar

  • Last updated on