Aracılığıyla paylaş

Modellerle çalışma

Azure Microsoft Foundry Modellerinde OpenAI, farklı özelliklere ve fiyat noktalarına sahip çeşitli modeller tarafından desteklenir. Model kullanılabilirliği bölgeye göre değişir.

Modeller Listesi API kullanarak Azure OpenAI kaynağınız tarafından hem çıkarım hem de ince ayar için kullanılabilen modellerin listesini alabilirsiniz.

Bu makalede şunların nasıl yapıldığını görebilirsiniz:

  • Otomatik model güncelleştirmelerini yapılandırın.
  • Dağıtımın sürüm yükseltme ilkesini görüntüleyin ve güncelleştirin.
  • Azure Resource Manager API'sini kullanarak dağıtılan bir model sürümünü güncelleştirin.
  • Sağlanan dağıtımları farklı bir model sürümüne veya model ailesine geçirin.

Önkoşullar

  • Azure OpenAI modellerine sahip bir Azure aboneliği.

Model güncelleştirmeleri

Azure OpenAI, belirli model dağıtımları için otomatik güncelleştirmeleri destekler. Otomatik güncelleştirme desteğinin kullanılabildiği modellerde, model sürümü yükseltme politika açılır menüsü mevcuttur.

Azure OpenAI modeli sürümleri ve bunların nasıl çalıştığı hakkında daha fazla bilgiyi Azure OpenAI modeli sürümleri makalesinde bulabilirsiniz.

Uyarı

Otomatik model güncelleştirmeleri yalnızca Standart dağıtım türleri için desteklenir. Sağlanan dağıtım türlerinde model güncelleştirmelerini ve geçişlerini yönetme hakkında daha fazla bilgi için sağlanan dağıtım türlerinde modelleri yönetme bölümüne bakın

Varsayılana otomatik güncelleştirme

Dağıtımınızı Otomatik güncelleştirme olarak varsayılan olarak ayarladığınızda, model dağıtımınız varsayılan sürümdeki değişikliği izleyen iki hafta içinde otomatik olarak güncelleştirilir. Önizleme sürümü için, yeni önizleme sürümü yayımlandıktan iki hafta sonra yeni bir önizleme sürümü kullanıma sunulduğunda otomatik olarak güncelleştirilir.

Çıkarım modelleri için hala erken test aşamalarındaysanız, otomatik güncelleştirme özelliğine sahip modelleri her kullanılabilir olduğunda varsayılan ayara dağıtmanızı öneririz.

Belirli model sürümü

Azure OpenAI kullanımınız geliştikçe ve uygulamalar oluşturmaya ve bunlarla tümleştirmeye başladığınızda model güncelleştirmelerini el ile denetlemek isteyebilirsiniz. Yükseltmeden önce uygulamanızın davranışının kullanım örneğiniz için tutarlı olduğunu test edebilir ve doğrulayabilirsiniz.

Dağıtım için belirli bir model sürümünü seçtiğinizde, kendiniz güncelleştirmeyi seçene veya modelin kullanımdan kaldırma tarihine ulaşana kadar bu sürüm seçili kalır. Kullanımdan kaldırma tarihine ulaşıldığında model, kullanımdan kaldırıldığında otomatik olarak varsayılan sürüme yükseltilir.

Model dağıtımı için yükseltme yapılandırması

DAHA önce dağıtılan modeller için hangi model yükseltme seçeneklerinin ayarlandığını REST, Azure CLI ve Azure PowerShell kullanarak ve Foundry portalıyla de kontrol edebilirsiniz.

İlgili özelliğe REST, Azure PowerShell ve Azure CLI aracılığıyla da erişilebilir.

Seçenek Read Güncelleştir
REST Evet. versionUpgradeOption geri döndürülmezse, bu, null anlamına gelir. Evet
Azure PowerShell Evet. VersionUpgradeOption denetlenebilir $null Evet
Azure CLI Evet. Ayarlı değilse null gösterilirversionUpgradeOption. Hayır. Şu anda sürüm yükseltme seçeneğini güncelleştirmek mümkün değildir.

Üç ayrı model dağıtımı yükseltme seçeneği vardır:

İsim Description
OnceNewDefaultVersionAvailable Yeni bir sürüm varsayılan olarak belirlendikten sonra, model dağıtımı bu atama değişikliği yapıldıktan sonra iki hafta içinde otomatik olarak varsayılan sürüme yükseltilir.
OnceCurrentVersionExpired Kullanımdan kaldırma tarihine ulaşıldıktan sonra model dağıtımı otomatik olarak geçerli varsayılan sürüme yükseltilir.
NoAutoUpgrade Model dağıtımı hiçbir zaman otomatik olarak yükseltilmez. Kullanımdan kaldırma tarihine ulaşıldıktan sonra model dağıtımı çalışmayı durdurur. Kodunuzda, süresi dolmamış bir model dağıtımına işaret edecek şekilde yapılan güncellemeler yapmanız gerekmektedir.

Uyarı

null eşdeğeri, OnceCurrentVersionExpired olur. Model yükseltmelerini destekleyen bir modelin özelliklerinde Sürüm güncelleştirme ilkesi seçeneği yoksa, değerin şu anda nullolduğunu gösterir. Bu değeri açıkça değiştirdikten sonra, özellik hem stüdyo özellikleri sayfasında hem de REST API aracılığıyla görünür.

Örnekler

Azure PowerShell yerel olarak yüklemek için Azure PowerShell getting started kılavuzu gözden geçirin veya Azure Cloud Shell kullanabilirsiniz.

Aşağıdaki adımlarda seçenek özelliğinin denetlenmesi VersionUpgradeOption ve güncelleştirilmesi gösterilmektedir:

# Step 1: Get deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
 
# Step 2: Show VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
 
# VersionUpgradeOption can be null. One way to check is:
$null -eq $deployment.Properties.VersionUpgradeOption
 
# Step 3: Update VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
 
# Repeat steps 1 and 2 to confirm the change.
# If you aren't sure about the deployment name, list all deployments under an account:
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}

# Update to a new model version

# Step 1: Get deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

# Step 2: Show the current model version
$deployment.Properties.Model.Version

# Step 3: Update the model version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

# Repeat steps 1 and 2 to confirm the change.

API aracılığıyla modelleri güncelleştirme ve dağıtma

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2025-06-01

Yol parametreleri

Parametre Türü Gerekli mi? Description
accountName String Gerekli Azure OpenAI kaynağınızın adı.
deploymentName String Gerekli Mevcut bir modeli dağıtırken seçtiğiniz dağıtım adı veya yeni model dağıtımının olmasını istediğiniz ad.
resourceGroupName String Gerekli Bu model dağıtımı için ilişkili kaynak grubunun adı.
subscriptionId String Gerekli İlişkili aboneliğin abonelik kimliği.
api-version String Gerekli Bu işlem için kullanılacak API sürümü. Bu, YYYY-AA-GG biçimini izler.

Desteklenen sürümler

İstek içeriği

Bu, kullanılabilir istek gövdesi parametrelerinin yalnızca bir alt kümesidir. Parametrelerin tam listesi için REST API başvuru belgelerine başvurabilirsiniz.

Parametre Türü Description
sürüm yükseltme seçeneği Dize Dağıtım modeli sürümü yükseltme seçenekleri:
OnceNewDefaultVersionAvailable
OnceCurrentVersionExpired
NoAutoUpgrade
capacity tamsayı Bu, bu dağıtıma atadığınız kota miktarını temsil eder. 1 değeri Dakikada 1.000 Belirteç (TPM) değerine eşittir

Örnek istek

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2025-06-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'

Uyarı

Yetkilendirme belirteci oluşturmanın birden çok yolu vardır. İlk test için en kolay yöntem Azure portal Cloud Shell başlatmaktır. Ardından az account get-access-token çalıştırın. Bu belirteci API testi için geçici yetkilendirme belirteciniz olarak kullanabilirsiniz.

Örnek yanıt

 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-35-turbo",
  "sku": {
    "name": "Standard",
    "capacity": 120
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-35-turbo",
      "version": "0613"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "capabilities": {
      "chatCompletion": "true"
    },
    "provisioningState": "Succeeded",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 120
      },
      {
        "key": "token",
        "renewalPeriod": 60,
        "count": 120000
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2023-02-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2023-10-31T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Sağlanan dağıtım türlerinde modelleri yönetme

Sağlanan dağıtımlar farklı model yönetimi uygulamalarını destekler. Sağlanan dağıtım modeli yönetim uygulamaları, model sürümleriyle model aileleri arasında ne zaman ve nasıl geçiş yaptığınız konusunda size en büyük denetimi sağlamayı amaçlar. Şu anda, sağlanan dağıtımlardaki modelleri yönetmek için iki yaklaşım vardır: (1) yerinde geçişler ve (2) çok dağıtımlı geçişler.

Önkoşullar

  • Mevcut dağıtım türünüz için hedef model sürümünün veya model ailesinin desteklendiğini doğrulayın. Geçişler yalnızca aynı dağıtım türündeki sağlanan dağıtımlar arasında gerçekleşebilir. Dağıtım türleri hakkında daha fazla bilgi için dağıtım türü belgelerini gözden geçirin.
  • Geçiş denemeden önce hedef model sürümünüz veya model aileniz için kapasite kullanılabilirliğini doğrulayın. Kapasite kullanılabilirliğini belirleme hakkında daha fazla bilgi için kapasite saydamlığı belgelerini gözden geçirin.
  • Çoklu dağıtım geçişleri için, aynı anda birden çok dağıtımı desteklemek için yeterli kotaya sahip olduğunuzu doğrulayın. Sağlanan her dağıtım türü için kotayı doğrulama hakkında daha fazla bilgi için sağlanan aktarım hızı maliyeti belgelerini gözden geçirin.

Tahsis edilmiş dağıtımlar için yerinde geçişler

Yerinde geçişler, bu dağıtıma atanan model sürümünü veya model ailesini değiştirirken aynı sağlanan dağıtım adını ve boyutunu korumanıza olanak sağlar. Azure OpenAI, yerinde geçişlerle, 20-30 dakikalık bir zaman dilimi boyunca model sürümleri veya model aileleri arasındaki mevcut trafiğin güvenli bir şekilde aktarımını üstlenir. Geçiş penceresi boyunca, ayarlanmış dağıtımınız "güncelleştiriliyor" durumu görüntüleyecektir. Sağlanan dağıtımınızı normal şekilde kullanmaya devam edebilirsiniz. Yerinde geçiş tamamlandıktan sonra, sağlanan durum "başarılı" olarak güncelleştirilir ve tüm trafiğin hedef model sürümüne veya model ailesine geçirildiğini gösterir.

Yerinde geçiş: model sürümü güncelleştirmesi

Mevcut sağlanan dağıtımı aynı model ailesindeki yeni bir model sürümüne güncelleştirmeyi hedefleyen yerinde geçişler Foundry, REST API ve Azure CLI aracılığıyla desteklenir. Foundry'de model sürümü güncelleştirmesini hedefleyen yerinde geçiş gerçekleştirmek için dağıtım adı sütununun altında Dağıtımlar'ı> seçin ve geçirmek istediğiniz sağlanan dağıtımın dağıtım adını seçin.

Dağıtım adı seçildiğinde model dağıtımının Özellikleri açılır. Bu görünümden düzenle düğmesini seçin, bu Dağıtımı güncelleştir iletişim kutusunu gösterecektir. Sağlanan dağıtım için yeni bir model sürümü ayarlamak için model sürümü açılan listesini seçin. Belirtildiği gibi, sağlama durumu geçiş sırasında "güncelleştiriliyor" olarak değişir ve geçiş tamamlandıktan sonra "başarılı" durumuna döner.

Yerinde geçiş: model ailesi değişikliği

Sağlanan mevcut dağıtımı yeni bir model ailesine güncelleştirmeyi hedefleyen yerinde geçişler REST API ve Azure CLI aracılığıyla desteklenir. Model ailesi değişikliğini hedefleyen yerinde geçiş gerçekleştirmek için aşağıdaki örnek isteği kılavuz olarak kullanın. İstekte, geçiş yaptığınız hedef model için model adını ve model sürümünü güncelleştirmeniz gerekir.

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-4o-ptu-deployment?api-version=2024-10-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"GlobalProvisionedManaged","capacity":100},"properties": {"model": {"format": "OpenAI","name": "gpt-4o-mini","version": "2024-07-18"}}}'

Örnek yanıt

{
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-4o-ptu-deployment",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-4o-ptu-deployment",
  "sku": {
    "name": "GlobalProvisionedManaged",
    "capacity": 100
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-4o-mini",
      "version": "2024-07-18"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "currentCapacity": 100,
    "capabilities": {
      "area": "EUR",
      "chatCompletion": "true",
      "jsonObjectResponse": "true",
      "maxContextToken": "128000",
      "maxOutputToken": "16834",
      "assistants": "true"
    },
    "provisioningState": "Updating",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 300
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2025-01-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2025-01-29T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Uyarı

Yetkilendirme belirteci oluşturmanın birden çok yolu vardır. İlk test için en kolay yöntem Azure portal Cloud Shell başlatmaktır. Ardından az account get-access-token çalıştırın. Bu belirteci API testi için geçici yetkilendirme belirteciniz olarak kullanabilirsiniz.

Sağlanan dağıtımlar için çoklu dağıtım geçişleri

Çoklu dağıtım geçişleri, model geçiş işlemi üzerinde daha fazla denetim sahibi olmanıza olanak sağlar. Çoklu dağıtım geçişleriyle, mevcut trafiğinizi yeni bir sağlanan dağıtımda hedef model sürümüne veya model ailesine ne kadar hızlı geçirmek istediğinizi dikte edebilirsiniz. Çoklu dağıtım geçiş yaklaşımını kullanarak yeni bir model sürümüne veya model ailesine geçiş işlemi aşağıdaki gibidir:

  • Yeni bir ayarlanmış dağıtım oluşturun. Bu yeni dağıtım için, mevcut dağıtımınızla aynı sağlanan dağıtım türünü korumayı veya isterseniz yeni bir dağıtım türü seçebilirsiniz.
  • Tüm trafik özgün dağıtımdan boşaltılana kadar trafiği mevcut sağlanmış dağıtımdan hedef model sürümünüz veya model aileniz ile yeni oluşturulan sağlanmış dağıtıma geçirin.
  • Trafik yeni dağıtıma geçirildikten sonra, Azure OpenAI İstekleri ölçümünün çıkarım trafiğinin yeni dağıtıma geçirilmesinden sonra 5-10 dakika içinde yapılan API çağrılarını göstermediğinden emin olarak önceki sağlanan dağıtımda hiçbir çıkarım isteği işlenmediğini doğrulayın. Bu ölçüm hakkında daha fazla bilgi için openAI Azure izleme belgelerine bakın.
  • Çıkarım çağrısı yapılmadığını onayladıktan sonra, sağlanan özgün dağıtımı silin.

Sorun giderme

Azure Resource Manager API'sinden 401 veya 403 yanıtları alırsınız

  • Erişim belirtecinizin geçerli ve süresi dolmamış olduğunu onaylayın.
  • Kaynak için dağıtımları okuma ve güncelleştirme izniniz olduğunu onaylayın.
  • Last updated on