Aracılığıyla paylaş

Modellerle çalışma

Microsoft Foundry Modellerinde Azure OpenAI, farklı özelliklere ve fiyat noktalarına sahip çeşitli modeller tarafından desteklenir. Model kullanılabilirliği bölgeye göre değişir.

Model Listesi API'sini kullanarak Azure OpenAI kaynağınız tarafından hem çıkarım hem de ince ayar için kullanılabilen modellerin listesini alabilirsiniz.

Model güncelleştirmeleri

Azure OpenAI, belirli model dağıtımları için otomatik güncelleştirmeleri destekler. Otomatik güncelleştirme desteğinin kullanılabildiği modellerde, model sürümü yükseltme politika açılır menüsü mevcuttur.

Azure OpenAI modeli sürümleri ve bunların nasıl çalıştığı hakkında daha fazla bilgiyi Azure OpenAI modeli sürümleri makalesinde bulabilirsiniz.

Uyarı

Otomatik model güncelleştirmeleri yalnızca Standart dağıtım türleri için desteklenir. Sağlanan dağıtım türlerinde model güncelleştirmelerini ve geçişlerini yönetme hakkında daha fazla bilgi için sağlanan dağıtım türlerinde modelleri yönetme bölümüne bakın

Varsayılana otomatik güncelleştirme

Dağıtımınızı Otomatik güncelleştirme olarak varsayılan olarak ayarladığınızda, model dağıtımınız varsayılan sürümdeki değişikliği izleyen iki hafta içinde otomatik olarak güncelleştirilir. Önizleme sürümü için, yeni önizleme sürümü yayımlandıktan iki hafta sonra yeni bir önizleme sürümü kullanıma sunulduğunda otomatik olarak güncelleştirilir.

Çıkarım modelleri için hala erken test aşamalarındaysanız, otomatik güncelleştirme özelliğine sahip modelleri her kullanılabilir olduğunda varsayılan ayara dağıtmanızı öneririz.

Belirli model sürümü

Azure OpenAI kullanımınız geliştikçe ve model güncelleştirmelerini el ile denetlemek isteyebilirsiniz. Yükseltmeden önce uygulamanızın davranışının kullanım örneğiniz için tutarlı olduğunu test edebilir ve doğrulayabilirsiniz.

Dağıtım için belirli bir model sürümünü seçtiğinizde, kendiniz güncelleştirmeyi seçene veya modelin kullanımdan kaldırma tarihine ulaşana kadar bu sürüm seçili kalır. Kullanımdan kaldırma tarihine ulaşıldığında model, kullanımdan kaldırıldığında otomatik olarak varsayılan sürüme yükseltilir.

Model dağıtımı yükseltme yapılandırması

REST, Azure CLI ve Azure PowerShell'in yanı sıra Foundry portalını kullanarak daha önce dağıtılan modeller için hangi model yükseltme seçeneklerinin ayarlandığını de kontrol edebilirsiniz.

Buna karşılık gelen özelliğe REST, Azure PowerShell ve Azure CLI aracılığıyla da erişilebilir.

Seçenek Okumak Güncelleştir
REST Evet. versionUpgradeOption geri döndürülmezse, bu, null anlamına gelir. Evet
Azure PowerShell Evet. VersionUpgradeOption denetlenebilir $null Evet
Azure CLI Evet. Ayarlı değilse null gösterilirversionUpgradeOption. Hayır. Şu anda sürüm yükseltme seçeneğini güncelleştirmek mümkün değildir.

Üç ayrı model dağıtımı yükseltme seçeneği vardır:

İsim Açıklama
OnceNewDefaultVersionAvailable Yeni bir sürüm varsayılan olarak belirlendikten sonra, model dağıtımı bu atama değişikliği yapıldıktan sonra iki hafta içinde otomatik olarak varsayılan sürüme yükseltilir.
OnceCurrentVersionExpired Kullanımdan kaldırma tarihine ulaşıldıktan sonra model dağıtımı otomatik olarak geçerli varsayılan sürüme yükseltilir.
NoAutoUpgrade Model dağıtımı hiçbir zaman otomatik olarak yükseltemez. Kullanımdan kaldırma tarihine ulaşıldıktan sonra model dağıtımı çalışmayı durdurur. Bu dağıtıma başvuran kodunuzu, var olmayan bir model dağıtımına işaret etmek için güncelleştirmeniz gerekir.

Uyarı

null eşdeğeri, OnceCurrentVersionExpired olur. Model yükseltmelerini destekleyen bir modelin özelliklerinde Sürüm güncelleştirme ilkesi seçeneği yoksa, değerin şu anda nullolduğunu gösterir. Bu değeri açıkça değiştirdikten sonra, özellik hem stüdyo özellikleri sayfasında hem de REST API aracılığıyla görünür.

Örnekler

Azure PowerShell'i yerel olarak yüklemek için Azure PowerShell'i kullanmaya başlama kılavuzunu gözden geçirin veya Azure Cloud Shell'i kullanabilirsiniz.

Aşağıdaki adımlarda seçenek özelliğinin denetlenmesi VersionUpgradeOption ve güncelleştirilmesi gösterilmektedir:

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
 
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
 
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
 
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
 
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}

// To update to a new model version

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version

// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

// repeat step 1 and 2 to confirm the change.

API aracılığıyla modelleri güncelleştirme ve dağıtma

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2025-06-01

Yol parametreleri

Parametre Türü Gerekli mi? Açıklama
acountname String Gerekli Azure OpenAI Kaynağınızın adı.
deploymentName String Gerekli Mevcut bir modeli dağıtırken seçtiğiniz dağıtım adı veya yeni model dağıtımının olmasını istediğiniz ad.
resourceGroupName String Gerekli Bu model dağıtımı için ilişkili kaynak grubunun adı.
subscriptionId String Gerekli İlişkili aboneliğin abonelik kimliği.
api-version String Gerekli Bu işlem için kullanılacak API sürümü. Bu, YYYY-AA-GG biçimini izler.

Desteklenen sürümler

İstek içeriği

Bu, kullanılabilir istek gövdesi parametrelerinin yalnızca bir alt kümesidir. Parametrelerin tam listesi için REST API başvuru belgelerine başvurabilirsiniz.

Parametre Türü Açıklama
sürüm yükseltme seçeneği Dize Dağıtım modeli sürümü yükseltme seçenekleri:
OnceNewDefaultVersionAvailable
OnceCurrentVersionExpired
NoAutoUpgrade
kapasite tamsayı Bu, bu dağıtıma atadığınız kota miktarını temsil eder. 1 değeri Dakikada 1.000 Belirteç (TPM) değerine eşittir

Örnek istek

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2025-06-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'

Uyarı

Yetkilendirme belirteci oluşturmanın birden çok yolu vardır. İlk test için en kolay yöntem, Cloud Shell'i Azure portalından başlatmaktır. Ardından az account get-access-token komutunu çalıştırın. Bu belirteci API testi için geçici yetkilendirme belirteciniz olarak kullanabilirsiniz.

Örnek yanıt

 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-35-turbo",
  "sku": {
    "name": "Standard",
    "capacity": 120
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-35-turbo",
      "version": "0613"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "capabilities": {
      "chatCompletion": "true"
    },
    "provisioningState": "Succeeded",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 120
      },
      {
        "key": "token",
        "renewalPeriod": 60,
        "count": 120000
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2023-02-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2023-10-31T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Sağlanan dağıtım türlerinde modelleri yönetme

Sağlanan dağıtımlar farklı model yönetimi uygulamalarını destekler. Sağlanan dağıtım modeli yönetim uygulamaları, model sürümleriyle model aileleri arasında ne zaman ve nasıl geçiş yaptığınız konusunda size en büyük denetimi sağlamayı amaçlar. Şu anda, sağlanan dağıtımlardaki modelleri yönetmek için iki yaklaşım vardır: (1) yerinde geçişler ve (2) çok dağıtımlı geçişler.

Önkoşullar

  • Mevcut dağıtım türünüz için hedef model sürümünün veya model ailesinin desteklendiğini doğrulayın. Geçişler yalnızca aynı dağıtım türündeki sağlanan dağıtımlar arasında gerçekleşebilir. Dağıtım türleri hakkında daha fazla bilgi için dağıtım türü belgelerini gözden geçirin.
  • Geçiş denemeden önce hedef model sürümünüz veya model aileniz için kapasite kullanılabilirliğini doğrulayın. Kapasite kullanılabilirliğini belirleme hakkında daha fazla bilgi için kapasite saydamlığı belgelerini gözden geçirin.
  • Çoklu dağıtım geçişleri için, aynı anda birden çok dağıtımı desteklemek için yeterli kotaya sahip olduğunuzu doğrulayın. Sağlanan her dağıtım türü için kotayı doğrulama hakkında daha fazla bilgi için sağlanan aktarım hızı maliyeti belgelerini gözden geçirin.

Sağlanan dağıtımlar için yerinde geçişler

Yerinde geçişler, bu dağıtıma atanan model sürümünü veya model ailesini değiştirirken aynı sağlanan dağıtım adını ve boyutunu korumanıza olanak sağlar. Tek bir yerden yapılan geçişlerle Azure OpenAI, 20-30 dakikalık bir süre boyunca model sürümleri veya model aileleri arasındaki mevcut trafik geçişlerini yönetir. Geçiş penceresi boyunca, sağlanan dağıtımınız "güncelleştiriliyor" durumu görüntüler. Sağlanan dağıtımınızı normal şekilde kullanmaya devam edebilirsiniz. Yerinde geçiş tamamlandıktan sonra, sağlanan durum "başarılı" olarak güncelleştirilir ve tüm trafiğin hedef model sürümüne veya model ailesine geçirildiğini gösterir.

Yerinde geçiş: model sürümü güncelleştirmesi

Mevcut sağlanan dağıtımı aynı model ailesindeki yeni bir model sürümüne güncelleştirmeyi hedefleyen yerinde geçişler Foundry, REST API ve Azure CLI aracılığıyla desteklenir. Foundry'de model sürümü güncelleştirmesini hedefleyen yerinde geçiş gerçekleştirmek için dağıtım adı sütununun altında Dağıtımlar'ı> seçin ve geçirmek istediğiniz sağlanan dağıtımın dağıtım adını seçin.

Dağıtım adı seçildiğinde model dağıtımının Özellikleri açılır. Bu görünümde, Dağıtımı güncelleştir iletişim kutusunu gösteren düzenle düğmesini seçin. Sağlanan dağıtım için yeni bir model sürümü ayarlamak için model sürümü açılan listesini seçin. Belirtildiği gibi, sağlama durumu geçiş sırasında "güncelleştiriliyor" olarak değişir ve geçiş tamamlandıktan sonra "başarılı" durumuna döner.

Yerinde geçiş: model ailesi değişikliği

Sağlanan mevcut dağıtımı yeni bir model ailesine güncelleştirmeyi hedefleyen yerinde geçişler REST API ve Azure CLI aracılığıyla desteklenir. Model ailesi değişikliğini hedefleyen yerinde geçiş gerçekleştirmek için aşağıdaki örnek isteği kılavuz olarak kullanın. İstekte, geçiş yaptığınız hedef model için model adını ve model sürümünü güncelleştirmeniz gerekir.

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-4o-ptu-deployment?api-version=2024-10-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"GlobalProvisionedManaged","capacity":100},"properties": {"model": {"format": "OpenAI","name": "gpt-4o-mini","version": "2024-07-18"}}}'

Örnek yanıt

 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-4o-ptu-deployment",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-4o-ptu-deployment",
  "sku": {
    "name": "GlobalProvisionedManaged",
    "capacity": 100
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-4o-mini",
      "version": "2024-07-18"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "currentCapacity": 100
    "capabilities": {
      "area": "EUR",
      "chatCompletion": "true"
      "jsonObjectResponse": "true",
      "maxContextToken": "128000",
      "maxOutputToken": "16834",
      "assistants": "true"
    },
    "provisioningState": "Updating",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 300
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2025-01-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2025-01-29T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Uyarı

Yetkilendirme belirteci oluşturmanın birden çok yolu vardır. İlk test için en kolay yöntem, Cloud Shell'i Azure portalından başlatmaktır. Ardından az account get-access-token komutunu çalıştırın. Bu belirteci API testi için geçici yetkilendirme belirteciniz olarak kullanabilirsiniz.

Sağlanan dağıtımlar için çoklu dağıtım geçişleri

Çoklu dağıtım geçişleri, model geçiş işlemi üzerinde daha fazla denetim sahibi olmanıza olanak sağlar. Çoklu dağıtım geçişleriyle, mevcut trafiğinizi yeni bir sağlanan dağıtımda hedef model sürümüne veya model ailesine ne kadar hızlı geçirmek istediğinizi dikte edebilirsiniz. Çoklu dağıtım geçiş yaklaşımını kullanarak yeni bir model sürümüne veya model ailesine geçiş işlemi aşağıdaki gibidir:

  • Yeni bir sağlanan dağıtım oluşturun. Bu yeni dağıtım için, mevcut dağıtımınızla aynı sağlanan dağıtım türünü korumayı veya isterseniz yeni bir dağıtım türü seçebilirsiniz.
  • Tüm trafik özgün dağıtımdan boşaltılana kadar trafiği mevcut sağlanan dağıtımdan hedef model sürümünüz veya model ailenizle yeni oluşturulan sağlanan dağıtıma geçin.
  • Trafik yeni dağıtıma geçirildikten sonra, Azure OpenAI İstekleri ölçümünün çıkarım trafiğinin yeni dağıtıma geçirilmesinden sonra 5-10 dakika içinde yapılan API çağrılarını göstermediğinden emin olarak önceki sağlanan dağıtımda hiçbir çıkarım isteği işlenmediğini doğrulayın. Bu ölçüm hakkında daha fazla bilgi için Azure OpenAI'yi izleme belgelerine bakın.
  • Çıkarım çağrısı yapılmadığını onayladıktan sonra, sağlanan özgün dağıtımı silin.
  • Last updated on