Startup'lar için Azure AI hizmetlerini kullanma hakkında sık sorulan sorular.
GitHub'da Yeni başlayanlar için üretken yapay zeka kursuna göz atın. Tüm ana Azure OpenAI özelliklerini tanıtır ve bunlarla uygulama oluşturmayı gösteren 18 derslik bir yönerge kümesidir.
Azure OpenAI modellerini dağıtma ve con çadır modu ration hizmetlerini uygulama gibi çeşitli yapay zeka özelliklerini test etmek için Azure AI Studio'yu kullanın.
Farklı Azure OpenAI modelleri farklı bölgeler ile sınırlıdır. Tam liste için model kullanılabilirlik tablosuna bakın.
Akış özelliğini kullanmadığınız sürece etki en düşük düzeydedir. Modelin kendi yanıtının gecikme süresi, bölge farklılıklarından çok daha fazla gecikme süresine sahiptir.
Ayrılmış bir Azure OpenAI sunucusu ve kullandıkça öde planı kullanma seçimi de performans üzerinde daha büyük bir etkiye sahiptir.
Kota sınırlarının nasıl çalıştığını ve bunların nasıl yönetileceğini anlamak için bkz . Azure OpenAI Hizmeti kotasını yönetme.
Kullandıkça öde modelini (en yaygın olarak) kullanan müşteriler için Bkz. Azure OpenAI Hizmeti kotasını yönetme sayfası. Ayrılmış Azure OpenAI sunucusu kullanan müşteriler için ilgili kılavuzun kota bölümüne bakın.
Daha fazla kullanıcıya dakikada daha fazla belirteç sunan bir sistem oluşturmak için gelişmiş mimaride birden çok Azure OpenAI dağıtımlarını birleştirmeyi göz önünde bulundurun.
İyi tanımlanmış, öngörülebilir aktarım hızı gereksinimleriniz olduğunda kullandıkça öde'den sağlanan aktarım hızına geçmeyi düşünmelisiniz. Genellikle, uygulama üretime hazır olduğunda veya üretimde zaten dağıtıldığında ve beklenen trafiğin anlaşılması söz konusu olduğunda bu durum söz konusudur. Bu, kullanıcıların gerekli kapasiteyi doğru şekilde tahmin etmesine ve beklenmeyen faturalamayı önlemesine olanak tanır.
Yüksek trafiği yönetmek ve Azure OpenAI uygulamamın yanıt vermeye devam etmesini sağlamak Nasıl yaparım??
Uygulamanız için bir yük dengeleyici oluşturun.
Kullandıkça öde modelini kullanıyorsanız Yük dengeleme örneğine bakın. Ayrılmış bir Azure OpenAI sunucusu kullanıyorsanız yük dengeleme hakkında bilgi için PTU kılavuzuna bakın.
Azure AI Studio'da istem akışını kullanarak çevrimiçi dağıtım oluşturun. Ardından, form düzenleyicisine veya JSON düzenleyicisine değer girerek test edin.
Risk ve güvenlik ölçümlerinin yanı sıra bir dizi yanıt kalitesi ölçümünü izleme hakkında bilgi için Değerlendirme ve izleme ölçümleri kılavuzuna bakın.
Azure OpenAI Studio'nun izleme özelliğini kullanın. Modellerinizin zaman içindeki performans ölçümlerini izleyen bir pano sağlar.
Standart bir sohbet uygulaması dağıtmaya yönelik en iyi yöntemler için bkz. Azure OpenAI sohbet başvuru mimarisi .
Azure OpenAI Hizmeti'nin başarılı uygulamalarıyla ilgili örnekler veya örnek olay incelemeleri sağlayabilir misiniz?
Daha fazla bilgi edinmek için bkz . Startup'lar için Microsoft.