İngilizce dilinde oku

Aracılığıyla paylaş

Azure OpenAI modelleriyle çalışma

  • Makale

Azure OpenAI Service, farklı özelliklere ve fiyat noktalarına sahip çeşitli modeller tarafından desteklenir. Model kullanılabilirliği bölgeye göre değişir.

Model Listesi API'sini kullanarak Azure OpenAI kaynağınız tarafından hem çıkarım hem de ince ayar için kullanılabilen modellerin listesini alabilirsiniz.

Model güncelleştirmeleri

Azure OpenAI artık belirli model dağıtımları için otomatik güncelleştirmeleri destekliyor. Otomatik güncelleştirme desteğinin kullanılabildiği modellerde, Azure AI Foundry portalında Dağıtımlar ve Düzenle altında bir model sürümü açılır menüsü görünür:

Azure AI Foundry portalında model dağıtma kullanıcı arabiriminin ekran görüntüsü.

Azure OpenAI modeli sürümleri ve bunların nasıl çalıştığı hakkında daha fazla bilgiyi Azure OpenAI modeli sürümleri makalesinde bulabilirsiniz.

Not

Otomatik model güncelleştirmeleri yalnızca Standart dağıtım türleri için desteklenir. Sağlanan dağıtım türlerinde model güncelleştirmelerini ve geçişlerini yönetme hakkında daha fazla bilgi için sağlanan dağıtım türlerinde modelleri yönetme bölümüne bakın

Varsayılana otomatik güncelleştirme

Dağıtımınızı Otomatik güncelleştirme olarak varsayılan olarak ayarladığınızda, model dağıtımınız varsayılan sürümdeki değişikliği izleyen iki hafta içinde otomatik olarak güncelleştirilir. Önizleme sürümü için, yeni önizleme sürümü yayımlandıktan iki hafta sonra yeni bir önizleme sürümü kullanıma sunulduğunda otomatik olarak güncelleştirilir.

Çıkarım modelleri için hala erken test aşamalarındaysanız, otomatik güncelleştirme özelliğine sahip modelleri her kullanılabilir olduğunda varsayılan ayara dağıtmanızı öneririz.

Belirli model sürümü

Azure OpenAI kullanımınız geliştikçe ve model güncelleştirmelerini el ile denetlemek isteyebilirsiniz. Yükseltmeden önce uygulamanızın davranışının kullanım örneğiniz için tutarlı olduğunu test edebilir ve doğrulayabilirsiniz.

Dağıtım için belirli bir model sürümünü seçtiğinizde, kendiniz güncelleştirmeyi seçene veya modelin kullanımdan kaldırma tarihine ulaşana kadar bu sürüm seçili kalır. Kullanımdan kaldırma tarihine ulaşıldığında model, kullanımdan kaldırıldığında otomatik olarak varsayılan sürüme yükseltilir.

Kullanımdan kaldırma tarihlerini görüntüleme

Şu anda dağıtılan modeller için Azure AI Foundry portalında Dağıtımlar'ı seçin:

Azure AI Foundry portalının dağıtım kullanıcı arabiriminin ekran görüntüsü.

Model dağıtımı yükseltme yapılandırması

Azure AI Foundry portalında daha önce dağıtılan modeller için hangi model yükseltme seçeneklerinin ayarlandığını kontrol edebilirsiniz. Dağıtımlar'ı> seçin Dağıtım adı sütununun altında mavi renkle vurgulanan dağıtım adlarından birini seçin.

Dağıtım adı seçildiğinde model dağıtımının Özellikleri açılır. Sürüm güncelleştirme ilkesi altında dağıtımınız için hangi yükseltme seçeneklerinin ayarlandığını görüntüleyebilirsiniz:

Model dağıtımları özellik kullanıcı arabiriminin ekran görüntüsü.

Buna karşılık gelen özelliğe REST, Azure PowerShell ve Azure CLI aracılığıyla da erişilebilir.

Seçenek Oku Güncelleştir
REST Evet. versionUpgradeOption Döndürülmezse,null Yes
Azure PowerShell Evet. VersionUpgradeOption denetlenebilir $null Yes
Azure CLI Evet. Ayarlanmadıysa versionUpgradeOption gösterilirnull. Hayır Şu anda sürüm yükseltme seçeneği güncelleştirilemiyor.

Üç ayrı model dağıtımı yükseltme seçeneği vardır:

Veri Akışı Adı Açıklama
OnceNewDefaultVersionAvailable Yeni bir sürüm varsayılan olarak belirlendikten sonra, model dağıtımı bu atama değişikliği yapıldıktan sonra iki hafta içinde otomatik olarak varsayılan sürüme yükseltilir.
OnceCurrentVersionExpired Kullanımdan kaldırma tarihine ulaşıldıktan sonra model dağıtımı otomatik olarak geçerli varsayılan sürüme yükseltilir.
NoAutoUpgrade Model dağıtımı hiçbir zaman otomatik olarak yükseltemez. Kullanımdan kaldırma tarihine ulaşıldıktan sonra model dağıtımı çalışmayı durdurur. Bu dağıtıma başvuran kodunuzu, var olmayan bir model dağıtımına işaret etmek için güncelleştirmeniz gerekir.

Not

null eşdeğeri, OnceCurrentVersionExpired olur. Model yükseltmelerini destekleyen bir modelin özelliklerinde Sürüm güncelleştirme ilkesi seçeneği yoksa, değerin şu anda nullolduğunu gösterir. Bu değeri açıkça değiştirdikten sonra, özellik hem stüdyo özellikleri sayfasında hem de REST API aracılığıyla görünür.

Örnekler

Azure PowerShell'i yerel olarak yüklemek için Azure PowerShell'i kullanmaya başlama kılavuzunu gözden geçirin veya Azure Cloud Shell'i kullanabilirsiniz.

Aşağıdaki adımlarda seçenek özelliğinin denetlenmesi VersionUpgradeOption ve güncelleştirilmesi gösterilmektedir:

PowerShell 
// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
 
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
 
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
 
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
 
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}
PowerShell 
// To update to a new model version

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version

// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

// repeat step 1 and 2 to confirm the change.

API aracılığıyla modelleri güncelleştirme ve dağıtma

HTTP 
PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01

Yol parametreleri

Parametre Türü Gerekli mi? Açıklama
acountname Dize Zorunlu Azure OpenAI Kaynağınızın adı.
deploymentName Dize Zorunlu Mevcut bir modeli dağıtırken seçtiğiniz dağıtım adı veya yeni model dağıtımının olmasını istediğiniz ad.
resourceGroupName Dize Zorunlu Bu model dağıtımı için ilişkili kaynak grubunun adı.
subscriptionId Dize Zorunlu İlişkili aboneliğin abonelik kimliği.
api-version Dize Zorunlu Bu işlem için kullanılacak API sürümü. Bu, YYYY-AA-GG biçimini izler.

Desteklenen sürümler

İstek gövdesi

Bu, kullanılabilir istek gövdesi parametrelerinin yalnızca bir alt kümesidir. Parametrelerin tam listesi için REST API başvuru belgelerine başvurabilirsiniz.

Parametre Tür Açıklama
versionUpgradeOption String Dağıtım modeli sürümü yükseltme seçenekleri:
OnceNewDefaultVersionAvailable
OnceCurrentVersionExpired
NoAutoUpgrade
capacity integer Bu, bu dağıtıma atadığınız kota miktarını temsil eder. 1 değeri Dakikada 1.000 Belirteç (TPM) değerine eşittir

Örnek istek

Bash 
curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'

Not

Yetkilendirme belirteci oluşturmanın birden çok yolu vardır. İlk test için en kolay yöntem, Cloud Shell'i Azure portalından başlatmaktır. Ardından az account get-access-token komutunu çalıştırın. Bu belirteci API testi için geçici yetkilendirme belirteciniz olarak kullanabilirsiniz.

Örnek yanıt

JSON 
 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-35-turbo",
  "sku": {
    "name": "Standard",
    "capacity": 120
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-35-turbo",
      "version": "0613"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "capabilities": {
      "chatCompletion": "true"
    },
    "provisioningState": "Succeeded",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 120
      },
      {
        "key": "token",
        "renewalPeriod": 60,
        "count": 120000
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2023-02-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2023-10-31T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Sağlanan dağıtım türlerinde modelleri yönetme

Sağlanan dağıtımlar farklı model yönetimi uygulamalarını destekler. Sağlanan dağıtım modeli yönetim uygulamaları, model sürümleriyle model aileleri arasında ne zaman ve nasıl geçiş yaptığınız konusunda size en büyük denetimi sağlamayı amaçlar. Şu anda, sağlanan dağıtımlardaki modelleri yönetmek için iki yaklaşım vardır: (1) yerinde geçişler ve (2) çok dağıtımlı geçişler.

Önkoşullar

  • Mevcut dağıtım türünüz için hedef model sürümünün veya model ailesinin desteklendiğini doğrulayın. Geçişler yalnızca aynı dağıtım türündeki sağlanan dağıtımlar arasında gerçekleşebilir. Dağıtım türleri hakkında daha fazla bilgi için dağıtım türü belgelerini gözden geçirin.
  • Geçiş denemeden önce hedef model sürümünüz veya model aileniz için kapasite kullanılabilirliğini doğrulayın. Kapasite kullanılabilirliğini belirleme hakkında daha fazla bilgi için kapasite saydamlığı belgelerini gözden geçirin.
  • Çoklu dağıtım geçişleri için, aynı anda birden çok dağıtımı desteklemek için yeterli kotaya sahip olduğunuzu doğrulayın. Sağlanan her dağıtım türü için kotayı doğrulama hakkında daha fazla bilgi için sağlanan kota belgelerini gözden geçirin.

Sağlanan dağıtımlar için yerinde geçişler

Yerinde geçişler, bu dağıtıma atanan model sürümünü veya model ailesini değiştirirken aynı sağlanan dağıtım adını ve boyutunu korumanıza olanak sağlar. Yerinde geçişlerle Azure OpenAI Hizmeti, 20-30 dakikalık bir süre boyunca model sürümleri veya model aileleri arasında mevcut trafiğin geçirilmesini sağlar. Geçiş penceresi boyunca, sağlanan dağıtımınız "güncelleştiriliyor" durumu görüntüler. Sağlanan dağıtımınızı normal şekilde kullanmaya devam edebilirsiniz. Yerinde geçiş tamamlandıktan sonra, sağlanan durum "başarılı" olarak güncelleştirilir ve tüm trafiğin hedef model sürümüne veya model ailesine geçirildiğini gösterir.

Yerinde geçiş: model sürümü güncelleştirmesi

Mevcut sağlanan dağıtımı aynı model ailesindeki yeni bir model sürümüne güncelleştirmeyi hedefleyen yerinde geçişler Azure AI Foundry, REST API ve Azure CLI aracılığıyla desteklenir. Azure AI Foundry'de model sürümü güncelleştirmesini hedefleyen yerinde geçiş gerçekleştirmek için dağıtım adı sütununun altında Dağıtımlar'ı> seçin ve geçirmek istediğiniz sağlanan dağıtımın dağıtım adını seçin.

Dağıtım adı seçildiğinde model dağıtımının Özellikleri açılır. Bu görünümde, Dağıtımı güncelleştir iletişim kutusunu gösteren düzenle düğmesini seçin. Sağlanan dağıtım için yeni bir model sürümü ayarlamak için model sürümü açılan listesini seçin. Belirtildiği gibi, sağlama durumu geçiş sırasında "güncelleştiriliyor" olarak değişir ve geçiş tamamlandıktan sonra "başarılı" durumuna döner.

Seçim için kullanılabilen model sürümü seçeneklerini göstermek için model sürümü alan seçicisinin açık olduğu güncelleştirme dağıtımı iletişim kutusunun ekran görüntüsü.

Yerinde geçiş: model ailesi değişikliği

Mevcut sağlanan dağıtımı yeni bir model ailesine güncelleştirmeyi hedefleyen yerinde geçiş, REST API ve Azure CLI aracılığıyla desteklenir. Model ailesi değişikliğini hedefleyen yerinde geçiş gerçekleştirmek için aşağıdaki örnek isteği kılavuz olarak kullanın. İstekte, geçiş yaptığınız hedef model için model adını ve model sürümünü güncelleştirmeniz gerekir.

Bash 
curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-4o-ptu-deployment?api-version=2024-10-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"GlobalProvisionedManaged","capacity":100},"properties": {"model": {"format": "OpenAI","name": "gpt-4o-mini","version": "2024-07-18"}}}'

Örnek yanıt

JSON 
 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-4o-ptu-deployment",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-4o-ptu-deployment",
  "sku": {
    "name": "GlobalProvisionedManaged",
    "capacity": 100
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-4o-mini",
      "version": "2024-07-18"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "currentCapacity": 100
    "capabilities": {
      "area": "EUR",
      "chatCompletion": "true"
      "jsonObjectResponse": "true",
      "maxContextToken": "128000",
      "maxOutputToken": "16834",
      "assistants": "true"
    },
    "provisioningState": "Updating",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 300
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2025-01-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2025-01-29T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Not

Yetkilendirme belirteci oluşturmanın birden çok yolu vardır. İlk test için en kolay yöntem, Cloud Shell'i Azure portalından başlatmaktır. Ardından az account get-access-token komutunu çalıştırın. Bu belirteci API testi için geçici yetkilendirme belirteciniz olarak kullanabilirsiniz.

Sağlanan dağıtımlar için çoklu dağıtım geçişleri

Çoklu dağıtım geçişleri, model geçiş işlemi üzerinde daha fazla denetim sahibi olmanıza olanak sağlar. Çoklu dağıtım geçişleriyle, mevcut trafiğinizi yeni bir sağlanan dağıtımda hedef model sürümüne veya model ailesine ne kadar hızlı geçirmek istediğinizi dikte edebilirsiniz. Çoklu dağıtım geçiş yaklaşımını kullanarak yeni bir model sürümüne veya model ailesine geçiş işlemi aşağıdaki gibidir:

  • Yeni bir sağlanan dağıtım oluşturun. Bu yeni dağıtım için, mevcut dağıtımınızla aynı sağlanan dağıtım türünü korumayı veya isterseniz yeni bir dağıtım türü seçebilirsiniz.
  • Tüm trafik özgün dağıtımdan boşaltılana kadar trafiği mevcut sağlanan dağıtımdan hedef model sürümünüz veya model ailenizle yeni oluşturulan sağlanan dağıtıma geçin.
  • Trafik yeni dağıtıma geçirildikten sonra, Azure OpenAI İstekleri ölçümünün çıkarım trafiğinin yeni dağıtıma geçirilmesinden sonra 5-10 dakika içinde yapılan API çağrılarını göstermediğinden emin olarak önceki sağlanan dağıtımda hiçbir çıkarım isteği işlenmediğini doğrulayın. Bu ölçüm hakkında daha fazla bilgi için Azure OpenAI'yi izleme belgelerine bakın.
  • Çıkarım çağrısı yapılmadığını onayladıktan sonra, sağlanan özgün dağıtımı silin.

Sonraki adımlar