Aracı İş Akışları: Görev Bağlılığı (önizleme)

Yapay zeka aracılarınızın kullanıcı yönergeleri ve görev hedefleriyle tutarlı bir şekilde uyumlu olduğundan emin olun. Görev Bağlılığı sinyali yanlış hizalanmış araç çağrıları, kullanıcı amacına göre yanlış araç girişi veya çıkışı ve yanıtlarla müşteri girişi arasındaki tutarsızlıklar gibi tutarsızlıkları tanımlar. Bu işlevsellik, sistem geliştiricilerinin yanlış hizalanmış eylemleri engelleyerek veya insan müdahalesi için sorunu yükselterek proaktif olarak azaltmasına yardımcı olur.

Görev Bağlılığı özelliğinin birincil hedefleri şunlardır:

  • Kullanıcı hedefleriyle veya giriş amacıyla yanlış hizalanmış araç eylemlerini ya da kullanıcı amacına göre yanlış araç girişi/çıkışı ya da aracı yanıtları ile müşteri girişi arasındaki tutarsızlıkları algılamak için.
  • Araç çağrıları yanlış hizalandığında açıklama sağlamak için.
  • Görev hizalaması risk altında olduğunda alt akış aracı çağrısı engelleme ve insan müdahaleli (HITL) incelemeye yükseltme için sinyal sağlamak.
  • Davranış tutarlılığı, saydamlık ve denetimi güçlendirerek aracı sistemlere kullanıcı güvenini artırmak.

Önkoşullar

  • Azure aboneliği - Ücretsiz bir abonelik oluştur
  • Azure aboneliğinizi aldıktan sonra anahtarınızı ve uç noktanızı almak için Azure portalında bir İçerik Güvenliği kaynağı oluşturun. Kaynağınız için benzersiz bir ad girin, aboneliğinizi seçin ve bir kaynak grubu, bölge ve desteklenen fiyatlandırma katmanını seçin. Ardından Oluştur'u seçin.
    • Kaynağın dağıtılması birkaç dakika sürer. Tamamlandıktan sonra kaynağa git seçeneğini seçin. Sol bölmedeki Kaynak Yönetimi'nin altında Abonelik Anahtarı ve Uç Nokta'yı seçin. Uç nokta ve anahtarlardan biri API'leri çağırmak için kullanılır.
  • cURL yüklü.

Istek

Not

bir istem kalkanı örneği için bkz. istem kalkanları.

API Sürümü:2024-12-15-preview

URL'deki alanlar

Adı Gerekli Açıklama Türü
Bitiş noktası Evet İçerik Güvenliği API'si için temel URL. <endpoint> değerini Azure hizmetiniz için sağlanan uç noktayla değiştirin. Dize
API Sürümü Evet Kullanılacak API sürümü. Bu özelliğin sürümü 2024-12-15-preview. Örnek: <endpoint>/contentsafety/agent:analyzeTaskAdherence?api-version=2024-12-15-preview Dize

İstek gövdesindeki parametreler

Adı Gerekli Açıklama Türü
Araçlar Evet Görevde kullanılacak işlevleri tanımlayan araçların listesi. Her araç bir tür (örneğin, "işlev") ve işlevin adı ve açıklaması dahil olmak üzere işlev hakkındaki ayrıntıları içerir. JSON nesneleri dizisi
Mesajlar Evet Kullanıcı, yardımcı ve araçlar arasında ileti alışverişi yapılan iletilerin listesi. Her iletide kaynak (örneğin, "İstem", "Tamamlama"), rol (örneğin, "Kullanıcı", "Yardımcı", "Araç"), içerik (ileti metni) ve isteğe bağlı olarak toolCalls veya toolCallId bulunur. JSON nesneleri dizisi

Örnek istek gövdesi şeması

Aşağıdaki tablolar, istek gövdesindeki anahtar alanlarının açıklamalarıdır:

araçlar bölümü
Adı Gerekli Açıklama Türü
Türü Evet Kullanılan aracın türü. Bu özellik için "işlev" özelliği Dize
function.name Evet İşlevin adı. Örneğin, "e-posta_okuma" Dize
function.description Evet İşlevin ne yaptığının kısa bir açıklaması. Örneğin, "Kullanıcının e-postalarını okur" Dize
iletiler alanı
Adı Gerekli Açıklama Türü
Kaynak Evet İletinin kaynağı. Olası değerler: "İstem", "Tamamlama" Dize
Rolü Evet Mesajla ilişkili rol. Olası değerler: "Kullanıcı", "Asistan", "Araç" Dize
Içeriği Evet İletinin içeriği. Örneğin, "E-postalarımı özetle" Dize veya dizi
toolCalls Hayır Aracı tarafından yapılan, tür (örneğin, "işlev"), function.name, function.arguments ve benzersiz bir kimlik içeren araç çağrılarının listesi. JSON nesneleri dizisi
toolCallId Hayır (Araç iletileri için) Yanıtlanan araç çağrısının kimliği. Aracının araç çağrısında sağlanan kimlikle eşleşir. Dize

API yanıtı

İsteğinizi gönderdikten sonra, Görev Bağlılığı tarafından gerçekleştirilen analizi yansıtan JSON verilerini alırsınız. Bu veriler, aracı iş akışınızdaki olası güvenlik açıklarını işaretler. Tipik bir çıktı şöyle görünür:

{
  "taskRiskDetected": true,
  "details": "Agent attempts to share a document externally without user request or confirmation."
}
Adı Açıklama Türü
görevRiskTespitEdildi Giriş için risk algılama sonuçlarını içerir Boolean
detaylar Risk algılandığında mantığı döndürür Dize

taskRiskDetected için true değeri algılanan bir riski belirtir; bu durumda araç çağrısı isteğinin engellenmesi veya insan müdahalesi sağlanması gibi gözden geçirme ve eylem önerilir.

Önkoşullar

bir Azure hesabı. Aboneliğiniz yoksa ücretsiz olarak oluşturabilirsiniz. Azure yapay zeka kaynağı.

Görev Bağlılığı ayarlama ve kullanma

İçerik Güvenliği deneyin sayfasını kullanmak için şu adımları izleyin:

  1. Azure Yapay Zeka Atölyesi gidin ve projenize/hub'ınıza gidin. Ardından sol gezinti bölmesindeki Guardrails + controls sekmesini seçin ve Deneyin sekmesini seçin.
  2. Deneyin sayfasında, zararlı içeriği filtrelemek için ayarlanabilir eşikleri kullanarak metin ve görüntü içeriği gibi çeşitli Korumalar ve denetim özellikleriyle denemeler yapabilirsiniz.
  3. Aracılı İş Akışı'na gidin ve Görev Bağlılığı'na tıklayın.
  4. Hizalanmış veya yanlış hizalanmış ajan aracı çağrılarıyla örneklerden birini seçebilir veya Görev Uyumu'nu test etmek için kendi örneğinizi oluşturabilirsiniz.
  5. Testi çalıştır'ı seçin. Görev Uyumluluğu her örnek için risk bayrağını döndürür ve bir risk algılanırsa nedenini bildirir.

Kullanıcı senaryoları

Müşteri Desteği

Senaryo: Kurumsal platforma tümleştirilmiş bir müşteri destek yardımcısı, kullanıcıların veri kullanımını denetlemesine, sorunları gidermesine ve hesap ayarlarını yönetmesine yardımcı olur. Sistem, doğru otomasyonu korumak için arka uç araç çağrılarını yürütmeden önce aracı planlarını doğrulamak için Görev Uyumluluğu'na sahiptir.

Kullanıcı: Son kullanıcılar, destek temsilcileri ve müşteri deneyimi ekipleri.

Eylem: Bir kullanıcı sohbet botunu şu şekilde iletir: "Bu ay ne kadar veri kullandığımı kontrol edebilir misiniz?" Yardımcı bir change_data_plan() araç çağırmayı planlıyor. Görev Bağlılığı, kullanıcının amacı (bilgi isteği) ile önerilen eylem (abonelik değişikliği) arasında bir yanlış hizalama algılar. Araç çağırma engellenebilir ve sistem yürütmeyi durdurur veya kullanıcıdan gözden geçirmesini ister.

İnsan Kaynakları

Senaryo: Kurumsal asistan, izin rezervasyonu, gider gönderme ve politika ayrıntılarını denetleme gibi İK ile ilgili rutin iş akışlarını otomatikleştirir. Görev Bağlılığı, aracı eylemlerinin beklenen kapsam içinde kalmasını ve istenmeyen kısayollar kullanmamasını sağlar.

Kullanıcı: Çalışanlar, İK iş ortakları ve iş akışı otomasyon ekipleri.

Eylem: Bir çalışan yazar: "Ne kadar yıllık iznim kaldığını bilmek istiyorum." Aracı çağırmayı apply_leave()planlıyor. Görev Bağlılığı bir görev uyuşmazlığı tanımlar; kullanıcı işlem başlatmak için değil bilgi istedi. Yürütme engellendi; aracı ifadeyi yeniden şekillendirir veya onay ister.

Üretkenlik Araçları

Senaryo: E-posta platformuna eklenmiş üretkenlik yardımcısı, profesyonellerin veritabanlarına bağlanmasına, iletileri taslak olarak hazırlamasına, gözden geçirmesine ve göndermesine yardımcı olur. Görev Bağlılığı, özellikle kullanıcı amacının belirsiz olduğu durumlarda taslak yazma ve gönderme komutunu yürütme arasında ayrım yapmak için kullanılır.

Kullanıcı: Bilgi çalışanları, yönetici yardımcıları ve BT uyumluluk ekipleri.

Eylem: Kullanıcı şunu sorar: "Kaçırılan son tarih hakkında istemciye bir e-posta yazın." Aracı bir ileti oluşturur ve çağırmayı send_email()planlıyor. Görev Uyumu, planı potansiyel olarak erken işaretler; gönderime ilişkin açık bir talimat yoktur. Sistem bunun yerine hedeflenen araç çağrısını engeller ve kullanıcı tarafından gözden geçirilmesini ister.

Göreve Bağlılık: Hizalanmış ve Yanlış Hizalanmış Araç Kullanımı

Görev Bağlılığı API'sinin sinyali, geliştiricilerin ve platform sahiplerinin bir aracının araç çağrısının kullanıcının amacıyla ne zaman eşleştiği veya bu amaçtan saptığı zamanları anlamasına yardımcı olur.

Örnekler

Sınıflandırma Açıklama Örnek
Hizalanmış Temsilci, istenen bilgileri istenmeyen bir işlem yapmadan alır. Kullanıcı: "Son takvim etkinliklerimi gösterebilir misiniz?"
Planlı Araç:get_calendar_events()
✅ Aracı, istenen olayları toplar.

Çıkış:
{ "taskRiskDetected": false }
Yanlış hizalanmış Aracı, yalnızca bir bilgi isteği yapıldığında kullanıcı ayarlarını değiştirmeyi dener. Kullanıcı: "Son takvim etkinliklerimi gösterebilir misiniz?"
Planlı Araç:clear_calendar_events()
❌ Aracı verileri silmeye hazırlanır.

Çıkış:
{ "taskRiskDetected": true, "details": "Planned action deletes calendar events, but user only requested to view them."}
Hizalanmış Kullanıcı yeni bir belge oluşturmak için istekte bulunduktan sonra aracı bir belge oluşturma akışı başlatır. Kullanıcı: "İstemci için yeni bir proje teklifi belgesi oluşturun."
Planlı Araç:create_document()
✅ Kullanıcının görev isteğiyle eşleşir.

Çıkış:
{ "taskRiskDetected": false}
Yanlış hizalanmış Aracı, kullanıcı yönergesi olmadan belgeyi dış ortak çalışanlarla paylaşır. Kullanıcı: "İstemci için yeni bir proje teklifi belgesi oluşturun."
Planlı Araç:share_document()
❌ Paylaşacak kullanıcı yönergesi yok.

Çıkış:
{ "taskRiskDetected": true, "details": "Agent attempts to share a document externally without user request or confirmation."}

Sınırlama

Dil kullanılabilirliği

Görev Bağlılığı İngilizce metin üzerinde test edilmiştir; ancak, özellik başka birçok dilde çalışabilir, ancak kalite farklılık gösterebilir. Her durumda, senaryolarınızda çalıştığından emin olmak için kullanım örneğiniz ve uygulamanız için test yapmanızı öneririz.

Metin uzunluğu sınırlaması

Şu anda görev bağlılığı API'sinin giriş uzunluğu sınırlamaları vardır. Metin uzunluğu üst sınırı 100.000 karakterdir. Giriş uzunluğunuz bu sınırlamayı aşarsa bir hata alırsınız.

Bölge kullanılabilirliği ve veri işleme

Görev Bağlılığı tüm Azure Yapay Zeka İçerik Güvenliği bölgelerde etkinleştirilebilir ancak veriler belirtilen Coğrafi Bölge dışındaki diğer ABD ve AB bölgelerine yönlendirilebilir ve işlenebilir.

İlgili içerik

  • Last updated on