Foundry Agent Service'te bağlantılı Foundry modellerini kullanın

Foundry Agent Service, ajanlarınızın başka bir Foundry kaynağında barındırılan modellere bunları kopyalamadan veya yeniden dağıtıma almadan çağrı yapmasını sağlar. Bu özellik, daha geniş bir model getirme deneyiminin bir parçasıdır. Üçüncü taraf modeller ve tüm seçenekler için bkz. AI Gateway ile kendi modelinizi getirme.

Bu makale, başka bir Foundry kaynağındaki Foundry modellerine bağlanmayı ele alır.

Uyarı

Klasik aracılar, başka bir kaynaktaki modellere erişmek için yetenek ana bilgisayarlarını kullanıyordu. Yeni Foundry Agent Service, bu senaryo için yetenek ana bilgisayarlarını kullanmaz. Başka bir Dökümhane kaynağından model kullanmak için, bu makalede açıklandığı gibi bir model bağlantısı oluşturun.

Bir bağlantı türü seçin

Başka bir Dökümhane kaynağındaki modellere bağlanmanın iki yolu vardır:

  • Diğer kaynak — Proje uç noktasını kullanarak doğrudan başka bir Foundry kaynağına bağlanın.
  • Azure API Management — bir Azure API Management (APIM) örneğinin arkasındaki bir Foundry kaynağına bağlanın.

Hızlı, doğrudan bağlantı istiyorsanız ve APIM'nin sağladığı ek denetimlere ihtiyacınız olmadığında Diğer kaynak'ı kullanın. Bu makale bu seçeneğe odaklanır.

Foundry kaynağınızın önünde zaten bir APIM örneğiniz varsa veya bağlantının ötesinde, şunlar gibi APIM özellikleri istiyorsanız Azure API Management kullanın:

  • Arka uçlar arasında yük dengeleme
  • Kısıtlama ve oran sınırlama
  • Yönetişim ve güvenlik önlemleri

Bağlantı yapılandırma

Dökümhane portalından veya Azure CLI ile bağlantı oluşturabilirsiniz.

Diğer kaynak

Dökümhane portalını kullanma

Adım adım yönergeler için bkz. Model bağlantısı oluşturma. Aşağıdaki değerleri girin:

  • Bağlantı ayrıntıları
    • Bağlantı türü: Diğer kaynak
    • Bağlantı adı: Seçtiğiniz bir ad.
    • Temel URL: {azure-openai-endpoint} — Bağlanmak istediğiniz Dökümhane kaynağının Genel Bakış sayfasında Azure OpenAI uç noktasını bulun.
  • Kimlik doğrulaması: API anahtarı veya OAuth 2.0'ı seçin ve gerekli ayrıntıları sağlayın.
    • OAuth 2.0 kullanıyorsanız, belirteç URL'si için https://login.microsoftonline.com/{tenant-id}/oauth2/v2.0/token ve kapsam için https://ai.azure.com/.default kullanın
  • Model: En az bir model ekleyin ve aşağıdaki değerleri sağlayın:
    • Ad: Modelin dağıtım adı.
    • Görünen ad: Model seçicide gösterilen ad. Dağıtım adını yeniden kullanabilirsiniz.
  • Gelişmiş: Ek yapılandırma gerekmez.

Azure CLI'yi kullanma

Ayrıca otomasyon ve CI/CD senaryoları için Azure CLI bağlantıları oluşturabilir ve yönetebilirsiniz. Model ağ geçidi bağlantısı Bicep şablonunu kullanın.

Aşağıdaki parametreleri sağlayın:

  • connectionName — Yerel projede oluşturulacak yeni model ağ geçidi bağlantısının adı. Bu ad, Dökümhane portalında görünür.
  • localAccountName — Bağlantının oluşturulduğu yerel Foundry (AIServices) hesabının adı.
  • localProjectName — Bağlantının bağlı olduğu yerel hesabın altındaki projenin adı.
  • remoteAccountName — Bu bağlantı üzerinden model dağıtımları çağrılan uzak Foundry (AIServices) hesabının adı. Bağlantı hedefi URL'si ve API anahtarı bu hesaptan türetilir.
  • remoteAccountResourceGroup — Uzak Foundry hesabının kaynak grubu.

Bağlanacak modeller

Bağlantı aracılığıyla kullanıma açmak istediğiniz uzak hesapta model dağıtımlarını belirtin. Bicep şablonu, senaryonuz için güncelleştirebileceğiniz örnek girişleri içeren bir staticModels dizi içerir.

Dağıtımı çalıştırın

Bicep şablonunda gösterildiği gibi az deployment group create çalıştırın.

Azure API Management

Adım adım yönergeler için bkz. Model bağlantısı oluşturma.

Aracıda bağlı model kullanma

Bağlantıyı oluşturduktan sonra, bağlanan modeller ajanlar oyun alanındaki model seçicide görünür ve bir istem ajanı oluştururken bunları seçebilirsiniz.

Kodda aracılar oluşturduğunuzda, biçimini <connection-name>/<model-name>kullanarak bağlı modele başvurun. Uçtan uca bir örnek için bkz. Model bağlantısıyla istem aracısı oluşturma.

Considerations

  • Başka bir Dökümhane kaynağına bağlantı, bu kaynaktaki her modele otomatik olarak erişim izni vermez. Kullanıma açmak istediğiniz her modeli açıkça eklemeniz gerekir ve bu da aracılarınızın neleri kullanabileceği üzerinde tam denetim sağlar.
  • Bağlantılar kaynak kapsamında oluşturulur, bu nedenle kaynaktaki tüm projelerde kullanılabilir.

Bilinen sınırlamalar

Aşağıdaki araçlar bağlı modellerde desteklenmez:

İlgili içerik

  • Son güncelleştirme: