Microsoft Döküm Modelleri kaynağında Azure OpenAI oluşturma ve dağıtma (klasik)

Yalnızca şunlar için geçerlidir:Dökümhane (klasik) portalı. Bu makale yeni Dökümhane portalında kullanılamaz. Yeni portal hakkında daha fazla bilgi edinin.

Uyarı

Bu makaledeki bağlantılar, şu anda görüntülediğiniz Dökümhane (klasik) belgeleri yerine yeni Microsoft Foundry belgelerinde içerik açabilir.

Bu makalede, Azure OpenAI ile çalışmaya nasıl başlandığı açıklanır ve kaynak oluşturma ve model dağıtmaya yönelik adım adım yönergeler sağlanır. kaynakları Azure birkaç farklı yolla oluşturabilirsiniz:

• Azure portalı
• REST API'leri, Azure CLI, PowerShell veya istemci kitaplıkları
• Azure Resource Manager (ARM) şablonları

Bu makalede, Azure portalında, Azure CLI ve PowerShell ile kaynak oluşturma ve dağıtma örneklerini gözden geçireceksiniz.

Önkoşullar

• Azure aboneliği. Ücretsiz bir tane oluştur.
• OpenAI kaynaklarını Azure oluşturma ve modelleri dağıtma izinlerine erişin.

Kaynak oluşturma

Aşağıdaki adımlarda, Azure portalında Azure OpenAI kaynağının nasıl oluşturulacağı gösterilmektedir.

Kaynağı tanımlama

1. Azure portalında Azure aboneliğinizle oturum açın.

2. kaynak oluştur'u seçin ve Azure OpenAI için arama yapın. Hizmeti bulurken Oluştur'u seçin.

   

3. Create Azure OpenAI sayfasında, Basics sekmesindeki alanlar için aşağıdaki bilgileri sağlayın:

   Alan	Description
   Subscription	Azure OpenAI ekleme uygulamanızda kullanılan Azure aboneliği.
   Kaynak Grubu	Azure OpenAI kaynağınızı içerecek Azure kaynak grubu. Yeni bir grup oluşturabilir veya önceden var olan bir grubu kullanabilirsiniz.
   Region	Örneğinizin konumu. Farklı konumlar gecikmeye neden olabilir, ancak kaynağınızın çalışma zamanı kullanılabilirliğini etkilemez.
   İsim	Azure OpenAI kaynağınız için MyOpenAIResource gibi açıklayıcı bir ad.
   Fiyatlandırma Katmanı	Kaynağın fiyatlandırma katmanı. Şu anda Azure OpenAI hizmetinde yalnızca Standart katman mevcuttur. Fiyatlandırma hakkında daha fazla bilgi için Azure OpenAI fiyatlandırma sayfasını ziyaret edin

   

4. sonrakiseçin.

Ağ güvenliğini yapılandırma

Ağ sekmesi güvenlik Türü için üç seçenek sunar:

• Seçenek 1: İnternet de dahil olmak üzere tüm ağlar bu kaynağa erişebilir.
• Seçenek 2: Seçili ağlar, Döküm Araçları kaynağınız için ağ güvenliğini yapılandırın.
• Seçenek 3: Devre dışı, hiçbir ağ bu kaynağa erişemez. Bu kaynağa erişimin tek yolu olacak şekilde özel uç nokta bağlantıları yapılandırabilirsiniz.

Seçtiğiniz seçeneğe bağlı olarak ek bilgi sağlamanız gerekebilir.

1. Seçenek: Tüm ağlara izin ver

İlk seçenek, internet de dahil olmak üzere tüm ağların kaynağınıza erişmesine olanak tanır. Bu seçenek varsayılan ayardır. Bu seçenek için ek ayar gerekmez.

2. Seçenek: Yalnızca belirli ağlara izin ver

İkinci seçenek, kaynağınıza erişim sağlayabilecek belirli ağları tanımlamanıza olanak tanır. Bu seçeneği belirlediğinizde, sayfa aşağıdaki gerekli alanları içerecek şekilde güncelleştirilir:

Alan	Description
Sanal ağ	Sanal ağlardan hangilerinin kaynağınıza erişmesine izin verildiğini belirtin. Varsayılan sanal ağ adını Azure portalında düzenleyebilirsiniz.
Alt ağlar	Kaynağınıza erişim izni verilmiş alt ağları belirtin. Varsayılan alt ağ adını Azure portalında düzenleyebilirsiniz.

Güvenlik Duvarı bölümü, kaynağın güvenlik duvarı ayarlarını yapılandırmak için kullanabileceğiniz isteğe bağlı bir Adres aralığı alanı sağlar.

Seçenek 3: Ağ erişimini devre dışı bırakma

Üçüncü seçenek, kaynağınızda ağ erişimini devre dışı bırakmanızı sağlar. Bu seçeneği belirlediğinizde, sayfa Özel uç nokta tablosunu içerecek şekilde güncelleştirilir.

Azure portalında Azure OpenAI kaynağı için ağ güvenliğinin nasıl devre dışı bırakıldığını gösteren bir ekran görüntüsü.

Seçenek olarak, kaynağınıza erişim için özel bir uç nokta ekleyebilirsiniz. Özel uç nokta ekle'yi seçin ve uç nokta yapılandırmasını tamamlayın.

Yapılandırmayı onaylayın ve kaynağı oluşturun

1. İleri'yi seçin ve kaynağınız için istediğiniz etiketleri yapılandırın.

2. İşlemin son aşamasına geçmek için İleri'yi seçin: Gözden geçir + gönder.

3. Yapılandırma ayarlarınızı onaylayın ve Oluştur'u seçin.

4. Azure portalı, yeni kaynak kullanılabilir olduğunda bir bildirim görüntüler. Kaynağa git seçeneğini seçin.

   

Bir model dağıtın

Metin veya çıkarım oluşturabilmeniz için önce bir model dağıtmanız gerekir. Foundry portalında kullanılabilen çeşitli modellerden birini seçebilirsiniz.

Modeli dağıtmak için şu adımları izleyin:

1. Microsoft Foundry'da oturum açın. Yeni Dökümhane açma/kapama düğmesinin kapalı olduğundan emin olun. Bu adımlar Foundry (klasik) için geçerlidir.

   

2. Foundry ile çalışmaya devam et bölümünde Tüm kaynakları görüntüle seçeneğini seçin.

3. Kaynağınızı bulun ve seçin.

   Önemli

   Bu adımda, Azure OpenAI kaynağınızı Foundry'ye yükseltmeniz önerilebilir. bu sayfada iki kaynak türü arasındaki karşılaştırmaya ve kaynak yükseltme ve geri alma ayrıntılarına bakın. Kaynak türü yükseltmesi olmadan devam etmek için İptal'i seçin. Alternatif olarak İleri'yi seçin.

   Bu makalede Dökümhane kaynağı hakkındaki ek bilgilere bakın.

4. Sol bölmedeki Paylaşılan kaynaklar bölümünden Dağıtımlar'ı seçin. (Önceki adımda Foundry'ye yükselttiyseniz sol bölmedeki Varlıklarım bölümünde Modeller + uç noktalar'ı seçin.)

5. Dağıtım penceresini açmak için + Model Dağıt>Temel Modeli Dağıt seçin.

6. İstediğiniz modeli seçin ve ardından Onayla'yı seçin. Bölge başına kullanılabilir modellerin listesi için bkz. Model özet tablosu ve bölge kullanılabilirliği.

7. Sonraki pencerede aşağıdaki alanları yapılandırın:

   Alan	Description
   Dağıtım adı	Bir adı dikkatle seçin. Dağıtım adı, kodunuzda istemci kitaplıklarını ve REST API'lerini kullanarak modeli çağırmak için kullanılır.
   Dağıtım türü	Standart, Genel-Toplu, Genel-Standart, Sağlanan-Yönetilen. Dağıtım türü seçenekleri hakkında daha fazla bilgi edinin.
   Dağıtım ayrıntıları (İsteğe bağlı)	Kaynağınız için gerekli olan isteğe bağlı gelişmiş ayarları ayarlayabilirsiniz. - İçerik Filtresi için dağıtımınıza bir içerik filtresi atayın. - Dakika Başına Belirteç Hız Sınırı için Dakika Başına Belirteçleri (TPM) ayarlayarak dağıtımınız için geçerli hız sınırını ayarlayın. Bu değeri istediğiniz zaman Kotalar menüsünü kullanarak değiştirebilirsiniz. Dinamik Kota , ek kapasite kullanılabilir olduğunda daha fazla kotadan yararlanmanızı sağlar.

   Önemli

   Modele API aracılığıyla eriştiğinizde, OpenAI ile Azure OpenAI arasındaki key farklarından biri olan API çağrılarındaki temel model adı yerine dağıtım adına başvurmanız gerekir. OpenAI yalnızca model adını gerektirir. Azure OpenAI, model parametresini kullanırken bile her zaman dağıtım adı gerektirir. Belgelerimizde, hangi modelin belirli bir API uç noktasıyla çalıştığını belirtmeye yardımcı olmak için genellikle dağıtım adlarının model adlarıyla aynı olarak gösterildiği örnekler bulunur. Sonuç olarak dağıtım adlarınız, kullanım örneğiniz için en uygun adlandırma kuralını izleyebilir.

8. Dağıt'ı seçin.

9. Dağıtım Ayrıntıları , yeni dağıtımınızın tüm bilgilerini gösterir. Dağıtım tamamlandığında model Sağlama durumunuz Başarılı olarak değişir.

Önkoşullar

• Azure aboneliği. Ücretsiz bir tane oluştur.
• OpenAI kaynaklarını Azure oluşturma ve modelleri dağıtma izinlerine erişin.
• Azure CLI. Daha fazla bilgi için bkz. Azure CLI nasıl yüklenir?

Azure CLI oturum açın

Azure CLI'ye giriş yapın veya aşağıdaki adımlarda CloudShell'i aç seçeneğini seçin.

Azure kaynak grubu oluşturma

Azure OpenAI kaynağı oluşturmak için bir Azure kaynak grubuna ihtiyacınız vardır. Azure CLI aracılığıyla yeni bir kaynak oluşturduğunuzda, yeni bir kaynak grubu da oluşturabilir veya Azure var olan bir grubu kullanmasını bildirebilirsiniz. Aşağıdaki örnekte, az group create komutuyla OAIResourceGroup adlı yeni bir kaynak grubunun nasıl oluşturulacağı gösterilmektedir. Kaynak grubu Doğu ABD konumunda oluşturulur.

az group create \
--name OAIResourceGroup \
--location eastus

Kaynak oluşturma

Kaynak grubunda Azure OpenAI kaynağı oluşturmak için az cognitiveservices account create komutunu kullanın. Aşağıdaki örnekte, OAIResourceGroup kaynak grubunda MyOpenAIResourceadlı bir kaynak oluşturursunuz. Örneği denediğinizde, Azure abonelik kimliğiniz <subscriptionID> ile birlikte kaynak grubu ve kaynak adı için istediğiniz değerleri kullanacak şekilde kodu güncelleştirin.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

Kaynak hakkındaki bilgileri alma

Kaynağı oluşturduktan sonra, Microsoft Döküm Modelleri örneğinde Azure OpenAI'niz hakkında yararlı bilgiler bulmak için farklı komutlar kullanabilirsiniz. Aşağıdaki örnekler, REST API uç noktasının temel URL'sini ve yeni kaynağın erişim anahtarlarını nasıl alacağınızı göstermektedir.

Uç nokta URL'sini alma

Kaynağın REST API uç nokta temel URL'sini almak için az cognitiveservices account show komutunu kullanın. Bu örnekte, değerini bulmak için komut çıkışını .properties.endpoint JSON işlemcisi üzerinden yönlendireceğiz.

Örneği denediğinizde, kodu myResourceGroupName kaynak grubu < kaynağı >.<

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Birincil API anahtarını alma

Kaynağın access anahtarlarını almak için az cognitiveservices account keys list komutunu kullanın. Bu örnekte, değerini bulmak için komut çıkışını .key1 JSON işlemcisi üzerinden yönlendireceğiz.

Örneği denediğinizde, kaynak grubu ve kaynak için değerlerinizi kullanmak üzere kodu güncelleştirin.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Bir model dağıtın

Modeli dağıtmak için az cognitiveservices account deployment create komutunu kullanın. Aşağıdaki örnekte, modelin bir örneğini gpt-4o dağıtıp MyModel adını verirsiniz. Örneği denediğinizde, kaynak grubu ve kaynak için değerlerinizi kullanmak üzere kodu güncelleştirin. , model-version veya model-formatve sku-capacity değerlerini değiştirmeniz sku-namegerekmez.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name şu dağıtım türlerini kabul eder: Standard, GlobalBatch, GlobalStandardve ProvisionedManaged. Dağıtım türü seçenekleri hakkında daha fazla bilgi edinin.

Önemli

Modele API aracılığıyla eriştiğinizde, OpenAI ile Azure OpenAI arasındaki key farklarından biri olan API çağrılarındaki temel model adı yerine dağıtım adına başvurmanız gerekir. OpenAI yalnızca model adını gerektirir. Azure OpenAI, model parametresini kullanırken bile her zaman dağıtım adı gerektirir. Belgelerimizde, hangi modelin belirli bir API uç noktasıyla çalıştığını belirtmeye yardımcı olmak için genellikle dağıtım adlarının model adlarıyla aynı olarak gösterildiği örnekler bulunur. Sonuç olarak dağıtım adlarınız, kullanım örneğiniz için en uygun adlandırma kuralını izleyebilir.

Kaynağınızdan model silme

kaynağınızdan dağıtılan tüm modelleri az cognitiveservices account deployment delete komutuyla silebilirsiniz. Aşağıdaki örnekte MyModel adlı bir modeli silebilirsiniz. Örneği denediğinizde kodu kaynak grubu, kaynak ve dağıtılan model için değerlerinizi kullanacak şekilde güncelleştirin.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Kaynak silme

Bu alıştırmalardan sonra temizlemek istiyorsanız, Azure CLI aracılığıyla kaynağı silerek Azure OpenAI kaynağınızı kaldırabilirsiniz. Kaynak grubunu da silebilirsiniz. Kaynak grubunu silmeyi seçerseniz, gruptaki tüm kaynaklar da silinir.

Kaynak grubunu ve ilişkili kaynaklarını kaldırmak için az cognitiveservices account delete komutunu kullanın.

Bu alıştırmalarda oluşturulan kaynakları kullanmaya devam etmeyecekseniz, kaynak grubunuzu silmek için aşağıdaki komutu çalıştırın. Kaynak grubu ve kaynak için değerlerinizi kullanmak üzere örnek kodu güncelleştirin.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Önkoşullar

• Azure aboneliği. Ücretsiz bir tane oluştur.
• Azure PowerShell. Daha fazla bilgi için bkz. Azure PowerShell nasıl yüklenir?
• OpenAI kaynaklarını Azure oluşturma ve modelleri dağıtma izinlerine erişin.

Azure PowerShell oturum açın

Azure PowerShell'e giriş yapın veya aşağıdaki adımlarda CloudShell'i açın.

Azure kaynak grubu oluşturma

Azure OpenAI kaynağı oluşturmak için bir Azure kaynak grubuna ihtiyacınız vardır. Azure PowerShell aracılığıyla yeni bir kaynak oluşturduğunuzda, yeni bir kaynak grubu da oluşturabilir veya Azure var olan bir grubu kullanmasını bildirebilirsiniz. Aşağıdaki örnekte, New-AzResourceGroup komutuyla OAIResourceGroup adlı yeni bir kaynak grubunun nasıl oluşturulacağı gösterilmektedir. Kaynak grubu Doğu ABD konumunda oluşturulur.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Kaynak oluşturma

Kaynak grubunda Azure OpenAI kaynağı oluşturmak için New-AzCognitiveServicesAccount komutunu kullanın. Aşağıdaki örnekte, OAIResourceGroup kaynak grubunda MyOpenAIResourceadlı bir kaynak oluşturursunuz. Örneği denediğinizde, Azure abonelik kimliğiniz <subscriptionID> ile birlikte kaynak grubu ve kaynak adı için istediğiniz değerleri kullanacak şekilde kodu güncelleştirin.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Kaynak hakkındaki bilgileri alma

Kaynağı oluşturduktan sonra, Microsoft Döküm Modelleri örneğinde Azure OpenAI'niz hakkında yararlı bilgiler bulmak için farklı komutlar kullanabilirsiniz. Aşağıdaki örnekler, REST API uç noktasının temel URL'sini ve yeni kaynağın erişim anahtarlarını nasıl alacağınızı göstermektedir.

Uç nokta URL'sini alma

Kaynağın REST API uç nokta temel URL'sini almak için Get-AzCognitiveServicesAccount komutunu kullanın. Bu örnekte, Select-Object cmdlet'i aracılığıyla komut çıktısını endpoint değerini bulmak için yönlendiriyoruz.

Örneği denediğinizde, kaynak grubu <myResourceGroupName> ve kaynağı <myResourceName>için değerlerinizi kullanmak üzere kodu güncelleştirin.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Birincil API anahtarını alma

Kaynağın access anahtarlarını almak için Get-AzCognitiveServicesAccountKey komutunu kullanın. Bu örnekte, Select-Object cmdlet'i aracılığıyla komut çıktısını Key1 değerini bulmak için yönlendiriyoruz.

Örneği denediğinizde, kaynak grubu ve kaynak için değerlerinizi kullanmak üzere kodu güncelleştirin.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Bir model dağıtın

Modeli dağıtmak için New-AzCognitiveServicesAccountDeployment komutunu kullanın. Aşağıdaki örnekte, modelin bir örneğini gpt-4o dağıtıp MyModel adını verirsiniz. Örneği denediğinizde, kaynak grubu ve kaynak için değerlerinizi kullanmak üzere kodu güncelleştirin. , model-version veya model-formatve sku-capacity değerlerini değiştirmeniz sku-namegerekmez.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Name değişkeninin $sku özelliği şu dağıtım türlerini kabul eder: Standard, GlobalBatch, GlobalStandardve ProvisionedManaged. Dağıtım türü seçenekleri hakkında daha fazla bilgi edinin.

Önemli

Modele API aracılığıyla eriştiğinizde, OpenAI ile Azure OpenAI arasındaki key farklarından biri olan API çağrılarındaki temel model adı yerine dağıtım adına başvurmanız gerekir. OpenAI yalnızca model adını gerektirir. Azure OpenAI, model parametresini kullanırken bile her zaman dağıtım adı gerektirir. Belgelerimizde, hangi modelin belirli bir API uç noktasıyla çalıştığını belirtmeye yardımcı olmak için genellikle dağıtım adlarının model adlarıyla aynı olarak gösterildiği örnekler bulunur. Sonuç olarak dağıtım adlarınız, kullanım örneğiniz için en uygun adlandırma kuralını izleyebilir.

Kaynağınızdan model silme

Kaynağınızdan dağıtılan tüm modelleri Remove-AzCognitiveServicesAccountDeployment komutuyla silebilirsiniz. Aşağıdaki örnekte MyModel adlı bir modeli silebilirsiniz. Örneği denediğinizde kodu kaynak grubu, kaynak ve dağıtılan model için değerlerinizi kullanacak şekilde güncelleştirin.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Kaynak silme

Bu alıştırmalardan sonra temizlik yapmak istiyorsanız, Azure PowerShell aracılığıyla Azure OpenAI kaynağınızı silerek kaldırabilirsiniz. Kaynak grubunu da silebilirsiniz. Kaynak grubunu silmeyi seçerseniz, gruptaki tüm kaynaklar da silinir.

Kaynak grubunu ve ilişkili kaynaklarını kaldırmak için Remove-AzCognitiveServicesAccount komutunu kullanın.

Bu alıştırmalarda oluşturulan kaynakları kullanmaya devam etmeyecekseniz, kaynak grubunuzu silmek için aşağıdaki komutu çalıştırın. Kaynak grubu ve kaynak için değerlerinizi kullanmak üzere örnek kodu güncelleştirin.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

Sonraki Adımlar

• Azure OpenAI güvenlik yapı taşıyla çalışmaya başlayın
• Azure OpenAI modelleri hakkında daha fazla bilgi edinin.
• Fiyatlandırma hakkında bilgi için Azure OpenAI fiyatlandırma sayfasını ziyaret edin