Aracılığıyla paylaş

Azure Yapay Zeka Stüdyosu ile Azure OpenAI modellerini dağıtma

  • Makale

Önemli

Bu makalede açıklanan özelliklerden bazıları yalnızca önizleme aşamasında kullanılabilir. Bu önizleme, hizmet düzeyi sözleşmesi olmadan sağlanır ve üretim iş yükleri için önerilmez. Bazı özellikler desteklenmiyor olabileceği gibi özellikleri sınırlandırılmış da olabilir. Daha fazla bilgi için bkz. Microsoft Azure Önizlemeleri Ek Kullanım Koşulları.

Bu makalede, Azure AI Studio'da Azure OpenAI model dağıtımları oluşturmayı öğreneceksiniz.

Azure OpenAI hizmeti, farklı özelliklere ve fiyat noktalarına sahip çeşitli modeller sunar. Azure OpenAI modellerini Azure AI Studio'da dağıttığınızda, istem akışını veya başka bir aracı kullanarak dağıtımları kullanabilirsiniz. Modelin kullanılabilirlik durumu bölgeye göre değişir. Her modelin ayrıntıları hakkında daha fazla bilgi edinmek için bkz. Azure OpenAI Service modelleri.

Azure AI Studio oyun alanında bir Azure OpenAI modelini değiştirmek ve bunlarla etkileşime geçmek için öncelikle projenize temel bir Azure OpenAI modeli dağıtmanız gerekir. Model dağıtıldıktan ve projenizde kullanıma sunulduktan sonra REST API uç noktasını olduğu gibi kullanabilir veya kendi verilerinizle ve diğer bileşenlerle (eklemeler, dizinler ve daha fazlası) daha fazla özelleştirme yapabilirsiniz.

Azure OpenAI modelini model kataloğundan dağıtma

AI Studio model kataloğundan gerçek zamanlı bir uç noktaya gibi gpt-4 bir Azure OpenAI modeli dağıtmak için aşağıdaki adımları izleyin:

  1. AI Studio'da oturum açın ve Giriş sayfasına gidin.

  2. Sol kenar çubuğundan Model kataloğu'nu seçin.

  3. Koleksiyonlar filtresinde Azure OpenAI'yi seçin.

    Katalogda Azure OpenAI modellerine göre filtrelemeyi gösteren ekran görüntüsü.

  4. Azure OpenAI koleksiyonundan gibi gpt-4 bir model seçin.

  5. Dağıtım penceresini açmak için Dağıt'ı seçin.

  6. Modeli dağıtmak istediğiniz hub'ı seçin. Hub'larınız yoksa bir hub oluşturabilirsiniz.

  7. Dağıtım adını belirtin ve gereksinimlerinize bağlı olarak diğer varsayılan ayarları değiştirin.

  8. Dağıt'ı seçin.

  9. Dağıtım ayrıntıları sayfasına gidin. Oyun alanında aç'ı seçin.

  10. Uygulamanızda dağıtılan modeli kullanmak için kullanılabilecek kod örneklerini almak için Kodu Görüntüle'yi seçin.

Projenizden Azure OpenAI modeli dağıtma

Alternatif olarak, AI Studio'daki projenizden başlayarak dağıtımı başlatabilirsiniz.

  1. AI Studio'da projenize gidin.
  2. Bileşen Dağıtımları'ni> seçin.
  3. + Dağıtım oluştur'u seçin.
  4. Koleksiyonlar filtresinde Azure OpenAI'yi seçin.
  5. Azure OpenAI koleksiyonundan gibi gpt-4 bir model seçin.
  6. Dağıtım penceresini açmak için Onayla'yı seçin.
  7. Dağıtım adını belirtin ve gereksinimlerinize bağlı olarak diğer varsayılan ayarları değiştirin.
  8. Dağıt'ı seçin.
  9. Dağıtım ayrıntıları sayfasına gidin. Oyun alanında aç'ı seçin.
  10. Uygulamanızda dağıtılan modeli kullanmak için kullanılabilecek kod örneklerini almak için Kodu Görüntüle'yi seçin.

Azure OpenAI modelini çıkarsama

Dağıtılan modelde çıkarım yapmak için oyun alanı veya kod örneklerini kullanabilirsiniz. Oyun alanı, modelle gerçek zamanlı olarak etkileşim kurmanızı sağlayan web tabanlı bir arabirimdir. Farklı istemlerle modeli test etmek ve modelin yanıtlarını görmek için oyun alanı kullanabilirsiniz.

Dağıtılan modeli uygulamanızda kullanma hakkında daha fazla örnek için aşağıdaki Azure OpenAI hızlı başlangıçlarına bakın:

Modelin bölgesel kullanılabilirlik ve kota sınırları

Azure OpenAI modellerinde modeller için varsayılan kota modele ve bölgeye göre değişiklik gösterir. Bazı modeller yalnızca bazı bölgelerde kullanılabilir. Kullanılabilirlik ve kota sınırları hakkında daha fazla bilgi için bkz . Azure OpenAI Hizmeti kotaları ve sınırları.

Modeli dağıtma ve çıkarsama kotası

Azure OpenAI modelleri için dağıtım ve çıkarım, aboneliğinize bölge başına, model bazında Dakika Başına Belirteç (TPM) birimlerinde atanan kotayı kullanır. Azure AI Studio'ya kaydolduğunda, kullanılabilir modellerin çoğu için varsayılan kotayı alırsınız. Ardından, tpm'yi oluşturulduğu şekilde her dağıtıma atarsınız, böylece bu model için kullanılabilir kotayı atadığınız miktara göre azaltırsınız. Kota sınırınıza ulaşana kadar dağıtım oluşturmaya ve bunlara TPM'ler atamaya devam edebilirsiniz.

Kota sınırınıza ulaştıktan sonra, bu modelin yeni dağıtımlarını oluşturmanın tek yolu:

Kota hakkında daha fazla bilgi edinmek için bkz . Azure AI Studio kotası ve Azure OpenAI Hizmeti kotasını yönetme.

İlgili içerik