Yalnızca şunlar için geçerlidir:
Dökümhane (klasik) portalı. Bu makale yeni Dökümhane portalında kullanılamaz.
Yeni portal hakkında daha fazla bilgi edinin.
Not
Bu makaledeki bağlantılar, şu anda görüntülediğiniz Dökümhane (klasik) belgeleri yerine yeni Microsoft Foundry belgelerinde içerik açabilir.
Bir modele ince ayar yaptıktan sonra, Sohbet Tamamlamaları API'sini veya Değerlendirmeler hizmetini kullanarak kalitesini test etmek isteyebilirsiniz.
Geliştirici Katmanı dağıtımı, Standart veya Genel dağıtımlar tarafından tahakkuk eden saatlik barındırma ücreti olmadan yeni modelinizi dağıtmanıza olanak tanır. Tahakkuk eden tek ücretler jeton başına hesaplanır. En güncel fiyatlandırmaya ulaşmak için fiyatlandırma sayfasına bakın.
Önemli
Geliştirici Katmanı kullanılabilirlik SLA'sı ve veri yerleşimi garantisi sağlamaz. SLA veya veri yerleşimi gerekiyorsa, modelinizi test için alternatif bir dağıtım türü seçin.
Geliştirici Katmanı dağıtımlarının sabit ömrü 24 saattir. Dağıtım yaşam döngüsü hakkında daha fazla bilgi edinin.
Ince ayarlı modelinizi dağıtın.
Model adayınızı dağıtmak için, dağıtılacak ince ayarlanmış modeli seçin ve ardından Dağıt seçin.
Modeli dağıt iletişim kutusu açılır. İletişim kutusuna Dağıtım adınızı girin ve ardından dağıtım türü açılan listesinden Geliştirici'yi seçin. Özel modelinizin dağıtımını başlatmak için Oluştur'u seçin.
Yeni dağıtımınızın ilerleme durumunu Microsoft Döküm portalındaki Deployments bölmesinde izleyebilirsiniz.
import json
import os
import requests
token = os.getenv("<TOKEN>")
subscription = "<YOUR_SUBSCRIPTION_ID>"
resource_group = "<YOUR_RESOURCE_GROUP_NAME>"
resource_name = "<YOUR_AZURE_OPENAI_RESOURCE_NAME>"
model_deployment_name = "gpt41-mini-candidate-01" # custom deployment name that you will use to reference the model when making inference calls.
deploy_params = {'api-version': "2025-07-01-preview"}
deploy_headers = {'Authorization': 'Bearer {}'.format(token), 'Content-Type': 'application/json'}
deploy_data = {
"sku": {"name": "developertier", "capacity": 50},
"properties": {
"model": {
"format": "OpenAI",
"name": <"fine_tuned_model">, #retrieve this value from the previous call, it will look like gpt41-mini-candidate-01.ft-b044a9d3cf9c4228b5d393567f693b83
"version": "1"
}
}
}
deploy_data = json.dumps(deploy_data)
request_url = f'https://management.azure.com/subscriptions/{subscription}/resourceGroups/{resource_group}/providers/Microsoft.CognitiveServices/accounts/{resource_name}/deployments/{model_deployment_name}'
print('Creating a new deployment...')
r = requests.put(request_url, params=deploy_params, headers=deploy_headers, data=deploy_data)
print(r)
print(r.reason)
print(r.json())
| Değişken |
Tanımı |
| Jeton |
Yetkilendirme belirteci oluşturmanın birden çok yolu vardır. İlk test için en kolay yöntem, Cloud Shell Azure portalından başlatmaktır. Ardından komutunu çalıştırın az account get-access-token. Bu belirteci API testi için geçici yetkilendirme belirteciniz olarak kullanabilirsiniz. Bunu yeni bir ortam değişkeninde depolamanızı öneririz. |
| Abonelik |
İlişkili Azure OpenAI kaynağının abonelik kimliği. |
| kaynak grubu |
Azure OpenAI kaynağınızın kaynak grubu adı. |
| resource_name |
Azure OpenAI kaynak adı. |
| model_dağıtım_adı |
Yeni özelleştirilmiş model dağıtımınız için özel ad. Bu, sohbet tamamlama çağrıları yapılırken kodunuzda başvurulacak addır. |
| ince_ayarlı_model |
Önceki adımda ince ayar iş sonuçlarınızdan bu değeri alın. Bu, gpt41-mini-candidate-01.ft-b044a9d3cf9c4228b5d393567f693b83 gibi görünecektir. Bu değeri deploy_data json'a eklemeniz gerekir. Alternatif olarak, ftchkpt-e559c011ecc04fc68eaa339d8227d02d biçiminde görünecek olan kimliği geçirerek bir denetim noktası dağıtabilirsiniz. |
Aşağıdaki örnekte, özelleştirilmiş modeliniz için model dağıtımı oluşturmak üzere REST API'nin nasıl kullanılacağı gösterilmektedir. REST API, özelleştirilmiş modelinizin dağıtımı için bir ad oluşturur.
curl -X POST "https://management.azure.com/subscriptions/<SUBSCRIPTION>/resourceGroups/<RESOURCE_GROUP>/providers/Microsoft.CognitiveServices/accounts/<RESOURCE_NAME>/deployments/<MODEL_DEPLOYMENT_NAME>?api-version=2025-07-01-preview" \
-H "Authorization: Bearer <TOKEN>" \
-H "Content-Type: application/json" \
-d '{
"sku": {"name": "developertier", "capacity": 50},
"properties": {
"model": {
"format": "OpenAI",
"name": "<FINE_TUNED_MODEL>",
"version": "1"
}
}
}'
| Değişken |
Tanımı |
| Jeton |
Yetkilendirme belirteci oluşturmanın birden çok yolu vardır. İlk test için en kolay yöntem, Cloud Shell Azure portalından başlatmaktır. Ardından komutunu çalıştırın az account get-access-token. Bu belirteci API testi için geçici yetkilendirme belirteciniz olarak kullanabilirsiniz. Bunu yeni bir ortam değişkeninde depolamanızı öneririz. |
| Abonelik |
İlişkili Azure OpenAI kaynağının abonelik kimliği. |
| kaynak grubu |
Azure OpenAI kaynağınızın kaynak grubu adı. |
| resource_name |
Azure OpenAI kaynak adı. |
| model_dağıtım_adı |
Yeni özelleştirilmiş model dağıtımınız için özel ad. Bu, sohbet tamamlama çağrıları yapılırken kodunuzda başvurulacak addır. |
| ince_ayarlı_model |
Önceki adımda ince ayar iş sonuçlarınızdan bu değeri alın. Bu, gpt-4.1-mini-2025-04-14.ft-b044a9d3cf9c4228b5d393567f693b83 gibi görünecektir. Bu değeri deploy_data json'a eklemeniz gerekir. Alternatif olarak, ftchkpt-e559c011ecc04fc68eaa339d8227d02d biçiminde görünecek olan kimliği geçirerek bir denetim noktası dağıtabilirsiniz. |
Azure CLI ile model dağıtma
Aşağıdaki örnekte, özelleştirilmiş modelinizi dağıtmak için Azure CLI nasıl kullanılacağı gösterilmektedir. Azure CLI, özelleştirilmiş modelinizin dağıtımı için bir ad belirtmeniz gerekir. Özelleştirilmiş modelleri dağıtmak için Azure CLI kullanma hakkında daha fazla bilgi için bkz. az cognitiveservices account deployment.
Bu Azure CLI komutunu konsol penceresinde çalıştırmak için, aşağıdaki <placeholders> özelleştirilmiş modelinize karşılık gelen değerlerle değiştirmeniz gerekir:
| Yer tutucu |
Değer |
|
<YOUR_AZURE_SUBSCRIPTION> |
Azure aboneliğinizin adı veya kimliği. |
|
<YOUR_RESOURCE_GROUP> |
Azure kaynak grubunuzun adı. |
|
<YOUR_RESOURCE_NAME> |
Azure OpenAI kaynağınızın adı. |
|
<YOUR_DEPLOYMENT_NAME> |
Model dağıtımınızda kullanmak istediğiniz ad. |
|
<YOUR_FINE_TUNED_MODEL_ID> |
Özelleştirilmiş modelinizin adı. |
az cognitiveservices account deployment create
--resource-group <YOUR_RESOURCE_GROUP>
--name <YOUR_RESOURCE_NAME>
--deployment-name <YOUR_DEPLOYMENT_NAME>
--model-name <YOUR_FINE_TUNED_MODEL_ID>
--model-version "1"
--model-format OpenAI
--sku-capacity "50"
--sku-name "Developer"
Dağıtılan ince ayar yapılmış modelinizi kullanın
Özel modeliniz dağıtıldıktan sonra diğer dağıtılan modellerde olduğu gibi kullanabilirsiniz. Yeni dağıtımınızı denemek için Döküm portalındakiOyun Alanları'nı kullanabilirsiniz. Özel modelinizde, diğer dağıtılan modellerde olduğu gibi temperature ve max_tokens ile aynı parametreleri kullanmaya devam edebilirsiniz.
Ayrıca, dağıtılan model adayınıza ve diğer model sürümlerine göre model değerlendirmeleri oluşturmak ve çalıştırmak için Değerlendirmeler hizmetini de kullanabilirsiniz.
import os
from openai import OpenAI
client = OpenAI(
base_url = "https://YOUR-RESOURCE-NAME.openai.azure.com/openai/v1/",
api_key=os.getenv("AZURE_OPENAI_API_KEY"),
)
response = client.chat.completions.create(
model="gpt41-mini-candidate-01", # model = "Custom deployment name you chose for your fine-tuning model"
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Does Azure OpenAI support customer managed keys?"},
{"role": "assistant", "content": "Yes, customer managed keys are supported by Azure OpenAI."},
{"role": "user", "content": "Do other Foundry Tools support this too?"}
]
)
print(response.choices[0].message.content)
curl $AZURE_OPENAI_ENDPOINT/openai/v1/chat/completions \
-H "Content-Type: application/json" \
-H "api-key: $AZURE_OPENAI_API_KEY" \
-d '"model": "YOUR_MODEL_DEPLOYMENT_NAME", {"messages":[{"role": "system", "content": "You are a helpful assistant."},{"role": "user", "content": "Does Azure OpenAI support customer managed keys?"},{"role": "assistant", "content": "Yes, customer managed keys are supported by Azure OpenAI."},{"role": "user", "content": "Do other Foundry Tools support this too?"}]}'
Dağıtımınızı temizleyin
Geliştirici dağıtımları, etkinlik ne olursa olsun kendi kendilerine otomatik olarak silinir. Her dağıtımın 24 saatlik sabit bir ömrü vardır ve bu sürenin ardından kaldırma işlemine tabi olur. Dağıtımın silinmesi, temel alınan özelleştirilmiş modeli silmez veya etkilemez ve özelleştirilmiş model istediğiniz zaman yeniden dağıtılabilir.
Dağıtımı el ile silmek için, Foundry portalını veya Azure CLI kullanabilirsiniz.
Dağıtımlar - REST API'sini Sil'i kullanmak için dağıtım kaynağına bir HTTP DELETE gönderin. Dağıtım oluşturmada olduğu gibi aşağıdaki parametreleri de eklemeniz gerekir:
- Azure abonelik kimliği
- Azure kaynak grubu adı
- Azure OpenAI kaynak adı
- Silinecek dağıtımın adı
Bir dağıtımı silmek için rest API örneği aşağıda verilmiştir:
curl -X DELETE "https://management.azure.com/subscriptions/<SUBSCRIPTION>/resourceGroups/<RESOURCE_GROUP>/providers/Microsoft.CognitiveServices/accounts/<RESOURCE_NAME>/deployments/<MODEL_DEPLOYMENT_NAME>?api-version=2025-07-01-preview" \
-H "Authorization: Bearer <TOKEN>"
Sonraki adımlar
