Üretken yapay zeka modellerini dağıtma
Öncelikle tamamlamaları istemlere almak üzere API çağrıları yapmak için bir model dağıtmanız gerekir. Yeni bir dağıtım oluşturduğunuzda, dağıtılacak temel modeli belirtmeniz gerekir. TPM'leri bu bölgede toplam 240 binden daha az eklediği sürece, bir veya birden çok Azure OpenAI kaynağında istediğiniz sayıda dağıtım dağıtabilirsiniz. Temel modelinizi dağıtmanın birkaç yolu vardır.
Azure OpenAI Studio kullanarak dağıtma
Azure OpenAI Studio'nun Dağıtımlar sayfasında, menüden bir model adı seçerek yeni bir dağıtım oluşturabilirsiniz. Kullanılabilir temel modeller, modeller sayfasındaki listeden gelir.
Ayrıca, Studio'daki Dağıtımlar sayfasından dağıtım adı, model adı, model sürümü, durum, oluşturulma tarihi ve daha fazlası dahil olmak üzere tüm dağıtımlarınızla ilgili bilgileri görüntüleyebilirsiniz.
Azure CLI’yi kullanarak dağıtma
Konsolu kullanarak da bir model dağıtabilirsiniz. Bu örneği kullanarak aşağıdaki değişkenleri kendi kaynak değerlerinizle değiştirin:
- OAIResourceGroup: yerine kaynak grubunuzun adını yazın
- MyOpenAIResource: yerine kaynak adınızı yazın
- MyModel: değerini modeliniz için benzersiz bir adla değiştirin
- gpt-35-turbo: yerine dağıtmak istediğiniz temel modeli kullanın
az cognitiveservices account deployment create \
-g OAIResourceGroup \
-n MyOpenAIResource \
--deployment-name MyModel \
--model-name gpt-35-turbo \
--model-version "0301" \
--model-format OpenAI \
--sku-name "Standard" \
--sku-capacity 1
REST API kullanarak dağıtma
REST API kullanarak bir model dağıtabilirsiniz. İstek gövdesinde, dağıtmak istediğiniz temel modeli belirtirsiniz. Azure OpenAI belgelerindeki bir örne bakın.