Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Bu hızlı başlangıçta Görev Bağlılığı özelliğini kullanacaksınız. Aracı iş akışları için Görev Bağlılığı API'si, yapay zeka aracılarının kullanıcının yönergeleri ve amacına uygun araç eylemleri yürütmesini sağlar. Bu özellik, özellikle kullanıcı verilerini etkileyen araçları çağırırken, yüksek riskli eylemler gerçekleştirirken veya dış işlemler başlatırken aracının istenmeyen veya erken eylemde bulunduğu durumları algılamaya ve önlemeye yardımcı olur.
Görev Bağlılığı, aracıların otonom olarak planlama ve işlem yapma yeteneğine sahip olduğu sistemlerde kullanışlıdır. Planlanan araç çağrılarının kullanıcı ve görev yönergeleriyle eşleşip eşleşmediğini doğrulayarak ve yanlış hizalanmış araç kullanımını tespit edip işaretleyerek, Görev Bağlılığı sistem güvenilirliğini, kullanıcı güvenini ve güvenliğini korumaya yardımcı olur.
Görev Bağlılığı'nın nasıl çalıştığı hakkında daha fazla bilgi için Görev Bağlılığı Kavramları sayfasına bakın.
Önkoşullar
- Bir Azure hesabı. Eğer bir hesabınız yoksa ücretsiz olarak bir tane oluşturabilirsiniz.
- Azure AI kaynağı.
Görev uyumu kullan
İçerik Güvenliği deneyin sayfasında görev bağlılığı kullanmak için şu adımları izleyin:
- Azure AI Foundry 'ye (klasik) gidin ve projenize/hub'ınıza gidin. Ardından sol gezinti bölmesindeki Guardrails + controls sekmesini seçin ve Deneyin sekmesini seçin.
- Deneyin sayfasında, uygunsuz veya zararlı içeriği filtrelemek için ayarlanabilir eşikleri kullanarak metin ve görüntü içeriği gibi çeşitli Korumalar ve denetim özellikleriyle denemeler yapabilirsiniz.
- Aracılı İş Akışı bölümüne gidin ve Görev Bağlılığı panelini seçin.
- Sonraki sayfada hizalanmış veya yanlış hizalanmış temsilci aracı çağrılarıyla örneklerden birini seçebilir veya Görev Uyumunu test etmek için kendi örneğinizi oluşturabilirsiniz.
- Testi çalıştır'ı seçin. Görev Uygunluğu her örnek için risk işaretini döndürüyor ve bir risk tespit edilirse bir neden döndürüyor.
Önkoşullar
- Azure aboneliği - Ücretsiz bir tane oluşturun
- Azure aboneliğinizi aldıktan sonra azure portalında bir İçerik Güvenliği kaynağı oluşturarak anahtarınızı ve uç noktanızı alın. Kaynağınız için benzersiz bir ad girin, aboneliğinizi seçin ve bir kaynak grubu, bölge ve desteklenen fiyatlandırma katmanını seçin. Ardından Oluştur'u seçin.
- Kaynağın dağıtılması birkaç dakika sürer. Tamamlandıktan sonra kaynağa git seçeneğini seçin. Sol bölmedeki Kaynak Yönetimi'nin altında Abonelik Anahtarı ve Uç Nokta'yı seçin. Uç nokta ve anahtarlardan biri API'leri çağırmak için kullanılır.
- cURL yüklü
Görev Bağlılığı Kullan
Aşağıdaki bölümde cURL ile örnek bir istekte yol gösterir.
Aşağıdaki komutu bir metin düzenleyicisine yapıştırın ve aşağıdaki değişiklikleri yapın.
-
<endpoint>öğesini, kaynak uç noktası URL'nizle değiştirin. -
<your_subscription_key>yerine anahtarınızı yazın. - İsteğe bağlı olarak, farklı senaryoları test etmek için gövdedeki
"messages"alanının metnini değiştirebilirsiniz.
curl --request POST \
--url '<endpoint>/contentsafety/agent:analyzeTaskAdherence?api-version=2025-09-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data '{
"tools": [
{
"type": "function",
"function": {
"name": "get_credit_card_limit",
"description": "Get credit card limit of the user"
}
},
{
"type": "function",
"function": {
"name": "get_car_price",
"description": "Get car price of a particular model"
}
},
{
"type": "function",
"function": {
"name": "order_car",
"description": "Buy a particular car model instantaneously"
}
}
],
"messages": [
{
"source": "Prompt",
"role": "User",
"contents": "How many mahindra be6e can i buy with my credit card limit?"
},
{
"source": "Completion",
"role": "Assistant",
"contents": "Getting the required information",
"toolCalls": [
{
"type": "function",
"function": {
"name": "get_credit_card_limit",
"arguments": ""
},
"id": "call_001"
},
{
"type": "function",
"function": {
"name": "get_car_price",
"arguments": ""
},
"id": "call_002"
}
]
},
{
"source": "Completion",
"role": "Tool",
"toolCallId": "call_001",
"contents": "100000"
},
{
"source": "Completion",
"role": "Tool",
"toolCallId": "call_002",
"contents": "10000"
},
{
"source" : "Completion",
"role" : "Assistant",
"contents" : "The price of a be6e is 10000 and your credit limit is 100000, so you can buy 10 be6e from your credit card."
}
]
}'
Aşağıdaki alanlar URL'ye eklenmelidir:
| İsim | Gerekli mi? | Description | Türü |
|---|---|---|---|
| API Sürümü | Gerekli | Bu, denetlenecek API sürümüdür. Geçerli sürüm: 2025-09-15-preview. Örnek: <endpoint>/contentsafety/image:analyze?api-version=2025-09-15-preview |
String |
İstek gövdesindeki parametreler şu tabloda tanımlanmıştır:
| İsim | Gerekli mi? | Description | Türü |
|---|---|---|---|
| araçlar | Yes | Görevde kullanılacak işlevleri tanımlayan araçların listesi. Her araç bir type (örneğin "işlev") ve name ile description dahil olmak üzere işlevle ilgili ayrıntıları içerir. |
JSON nesneleri dizisi |
| Ileti | Yes | Kullanıcı, yardımcı ve araçlar arasında ileti alışverişi yapılan iletilerin listesi. Her iletide source ("İstem", "Tamamlama") role (örneğin, "Kullanıcı", "Yardımcı", "Araç"), contents (ileti metni) ve isteğe bağlı olarak toolCalls veya toolCallIdbulunur. |
JSON nesneleri dizisi |
Bir komut istemi penceresi açın ve cURL komutunu çalıştırın.
Çıktı
İsteğinizi gönderdikten sonra, Görev Bağlılığı tarafından gerçekleştirilen analizi yansıtan JSON verilerini alırsınız. Bu veriler, aracı iş akışınızdaki olası güvenlik açıklarını işaretler. Tipik bir çıktı şöyle görünür:
{
"taskRiskDetected": true,
"details": "Agent attempts to share a document externally without user request or confirmation."
}
Çıktıdaki JSON alanları burada tanımlanır:
| İsim | Description | Türü |
|---|---|---|
| görevRiskiTespitEdildi | Giriş için risk algılama sonuçlarını içerir. | Boolean |
| details | Risk algılandığında mantığı döndürür | String |
taskRiskDetected değeri true algılanan bir riski gösterir; bu durumda araç çağırma isteğini engelleme veya döngüde insan yükseltmesi gibi gözden geçirme ve eylem önerilir.
Kaynakları temizle
Azure AI hizmetleri aboneliğini temizlemek ve kaldırmak istiyorsanız, kaynağı veya kaynak grubunu silebilirsiniz. Kaynak grubunu silmek, onunla ilişkili olan diğer tüm kaynakları da siler.
İlgili içerik
- Zarar kategorileri
- Content Safety Studio kullanarak her kategori için filtreleri yapılandırın ve veri kümelerinde test edin, kodu dışarı aktarın ve dağıtın.