İngilizce dilinde oku Düzenle

Aracılığıyla paylaş


Startup'lar için yapay zeka hakkında SSS

Startup'lar için Azure AI hizmetlerini kullanma hakkında sık sorulan sorular.

Başlarken

Başlangıç için Azure OpenAI Hizmeti'ni kullanmaya başlamanın en iyi yolu hangisidir?

GitHub'da Yeni başlayanlar için üretken yapay zeka kursuna göz atın. Tüm ana Azure OpenAI özelliklerini tanıtır ve bunlarla uygulama oluşturmayı gösteren 18 derslik bir yönerge kümesidir.

Düşük/kod içermeyen bir yaklaşımla Azure AI özelliklerini nasıl hızlı bir şekilde test ederim?

Bölgesel kullanılabilirlik ve veri yerleşimi

OpenAI hizmeti hangi Azure bölgelerinde kullanılabilir?

Farklı Azure OpenAI modelleri farklı bölgeler ile sınırlıdır. Tam liste için model kullanılabilirlik tablosuna bakın.

Bölge seçimi Azure OpenAI hizmetlerinin gecikme süresini ve performansını nasıl etkiler?

Akış özelliğini kullanmadığınız sürece etki en düşük düzeydedir. Modelin kendi yanıtının gecikme süresi, bölge farklılıklarından çok daha fazla gecikme süresine sahiptir.

Ayrılmış bir Azure OpenAI sunucusu ve kullandıkça öde planı kullanma seçimi de performans üzerinde daha büyük bir etkiye sahiptir.

Hız sınırları ve kaynak yönetimi

Uygulamamın Azure OpenAI kotasını ölçeklendirdiğinden nasıl emin olabilirim?

Kota sınırlarının nasıl çalıştığını ve bunların nasıl yönetileceğini anlamak için bkz . Azure OpenAI Hizmeti kotasını yönetme.

Azure OpenAI Hizmeti'nin hız sınırları nelerdir ve bunları nasıl yönetebilirim?

Kullandıkça öde modelini (en yaygın olarak) kullanan müşteriler için Bkz. Azure OpenAI Hizmeti kotasını yönetme sayfası. Ayrılmış Azure OpenAI sunucusu kullanan müşteriler için ilgili kılavuzun kota bölümüne bakın.

Azure OpenAI Hizmeti'nde dakika başına belirteç kısıtlamalarını Nasıl yaparım? işleyebilir?

Daha fazla kullanıcıya dakikada daha fazla belirteç sunan bir sistem oluşturmak için gelişmiş mimaride birden çok Azure OpenAI dağıtımlarını birleştirmeyi göz önünde bulundurun.

Kullandıkça öde modeli yerine ne zaman ayrılmış bir Azure OpenAI sunucusu (PTU) kullanmalıyım?

İyi tanımlanmış, öngörülebilir aktarım hızı gereksinimleriniz olduğunda kullandıkça öde'den sağlanan aktarım hızına geçmeyi düşünmelisiniz. Genellikle, uygulama üretime hazır olduğunda veya üretimde zaten dağıtıldığında ve beklenen trafiğin anlaşılması söz konusu olduğunda bu durum söz konusudur. Bu, kullanıcıların gerekli kapasiteyi doğru şekilde tahmin etmesine ve beklenmeyen faturalamayı önlemesine olanak tanır.

Yük dengeleme ve ölçeklendirme

Yüksek trafiği yönetmek ve Azure OpenAI uygulamamın yanıt vermeye devam etmesini sağlamak Nasıl yaparım??

Uygulamanız için bir yük dengeleyici oluşturun.

Kullandıkça öde modelini kullanıyorsanız Yük dengeleme örneğine bakın. Ayrılmış bir Azure OpenAI sunucusu kullanıyorsanız yük dengeleme hakkında bilgi için PTU kılavuzuna bakın.

Geliştirme ve test

Azure OpenAI uygulamalarını test etmek için bir geliştirme ortamı Nasıl yaparım??

Azure AI Studio'da istem akışını kullanarak çevrimiçi dağıtım oluşturun. Ardından, form düzenleyicisine veya JSON düzenleyicisine değer girerek test edin.

İzleme ve ölçümler

Yapay zeka uygulamamın kullanım ölçümlerini nasıl izleyebilir ve değerlendirebilirim?

Risk ve güvenlik ölçümlerinin yanı sıra bir dizi yanıt kalitesi ölçümünü izleme hakkında bilgi için Değerlendirme ve izleme ölçümleri kılavuzuna bakın.

Azure OpenAI uç noktalarımın performansını izlemek için hangi araçları kullanabilirim?

Azure OpenAI Studio'nun izleme özelliğini kullanın. Modellerinizin zaman içindeki performans ölçümlerini izleyen bir pano sağlar.

Üretim uygulaması ve en iyi yöntemler

Azure'da OpenAI uygulamalarını üretim ortamına dağıtmaya yönelik bazı en iyi yöntemler nelerdir?

Azure OpenAI Hizmeti'nin başarılı uygulamalarıyla ilgili örnekler veya örnek olay incelemeleri sağlayabilir misiniz?

Yapay Zeka ve Makine Öğrenmesi teknoloji topluluğu forumunu ziyaret edin.

Daha fazla bilgi edinmek için bkz . Startup'lar için Microsoft.