Microsoft Döküm Modellerinde model sürümleri

Microsoft Döküm Modelleri düzenli olarak model sağlayıcılarının en son özelliklerini ve iyileştirmelerini içeren yeni model sürümleri yayınlar. Bu makalede model sürümü oluşturmanın nasıl çalıştığı, dağıtımlarınız için hangi güncelleştirme ilkelerinin kullanılabilir olduğu ve Azure OpenAI ve iş ortağı modeli sürümlerinin nasıl yönetildiğini açıklanmaktadır.

Bu makaleyi okuduktan sonra, bir modeli dağıtırken hangi yükseltme ilkesini seçeceğinizi, Azure sürüm yükseltmelerini otomatik olarak nasıl yöneteceğini ve iş ortağı modeli sürüm oluşturmanın Azure OpenAI model sürümü oluşturmadan nasıl farklı olduğunu öğreneceksiniz.

Model sürümleri nasıl çalışır?

Belirli bir model sürümüyle başlayıp bu sürümde kalmayı seçebilir veya yeni sürümler yayımlandıkçe otomatik olarak güncelleştirebilirsiniz.

Modellerle çalışırken dikkate alınması gereken iki farklı sürüm vardır:

  • Modelin kendi sürümü.
  • Model dağıtımını kullanmak için kullanılan API sürümü.

Model sürümü

Not

Aşağıdaki yükseltme kılavuzu yalnızca Standart dağıtım türleri için geçerlidir. Sağlanan dağıtım türlerini güncelleştirme veya geçirme yönergeleri için model yönetimi belgelerini gözden geçirin.

Foundry portalında bir model dağıtırken güncelleştirme ilkelerini yapılandırabilirsiniz. İlkeyi daha sonra dağıtım ayarlarından da değiştirebilirsiniz. Güncelleştirme ilkeleri dağıtım başına yapılandırılır ve modele ve sağlayıcıya göre değişir .

Sürüm yükseltme ilkeleri aşağıdaki seçenekleri içerir:

  • Otomatik model sürümü yükseltmelerini geri çevirme olarak ayarlanmış dağıtımlar, yeni bir sürüm yayınlandığında el ile yükseltme gerektirir. Model kullanımdan kaldırıldığında bu dağıtımlar çalışmayı durdurur.
  • Yeni varsayılan sürüm kullanıma sunulduğunda dağıtımlar Yükselt olarak ayarlanır ve yeni varsayılan sürümü kullanmak üzere otomatik olarak güncelleştirilir.
  • Dağıtımlar, geçerli sürümleri kullanımdan kaldırıldığında otomatik olarak güncellenmek üzere ayarlanır.

Örneğin, dağıtımı gpt-4o sürümü 2024-08-06 hedeflenebilir. Sürüm 2024-11-20 kullanıma sunulduğunda, otomatik güncelleştirme olarak ayarlanan dağıtımlar otomatik olarak yeni sürüme geçer.

Dağıtımın geçerli sürümünü denetlemek için aşağıdaki yöntemlerden birini kullanın:

  • Dökümhane portalı: Dökümhane portalında dağıtımınıza gidin ve geçerli model sürümünü görmek için Ayrıntılar sekmesini açın.
  • REST API: Kaynağınız için dağıtımlar uç noktasını sorgular. Yanıt, her dağıtım için model sürümünü içerir.

Model dağıtımını kullanmak için kullanılan API'nin sürümü

API sürümü, koddaki modelle arabirim oluştururken kullandığınız sözleşmeyi gösterir. REST API'leri kullanırken, sorgu parametresini api-versionkullanarak API sürümünü belirtirsiniz. Azure SDK sürümleri genellikle belirli API sürümleriyle eşleştirilir, ancak kullanmak istediğiniz API sürümünü belirtebilirsiniz.

Bir model dağıtımı birden çok API sürümünü destekleyebilir. Yeni model sürümünün yayımlanması, modelin ağırlıklarında bir güncelleştirme olduğunda olduğu gibi her zaman yeni bir API sürümüne yükseltmenizi gerektirmez. Azure, modelin önceki ana sürümünü kullanımdan kaldırma tarihine kadar korur, böylece gerekirse modele geri dönebilirsiniz.

Azure OpenAI modeli yükseltmeleri

Azure, yeni model sürümleri yayınlamak için OpenAI ile yakından çalışır. Modelin yeni bir sürümü yayınlandığında, modeli yeni dağıtımlarda hemen test edebilirsiniz. Azure, modellerin yeni sürümleri yayınlandığında yayımlar ve yeni bir sürüm modelin varsayılan sürümü haline gelmeden en az iki hafta önce müşterilere bildirir. Azure ayrıca modelin önceki ana sürümünü kullanımdan kaldırma tarihine kadar korur, böylece müşteriler isterse bu sürüme geri dönebilir.

Azure OpenAI modeli sürüm yükseltmelerine hazırlanma

Azure OpenAI modellerinin müşterisi olarak, sürüm yükseltmesi sonrasında model davranışında ve uyumluluğunda bazı değişiklikler olduğunu fark edebilirsiniz. Bu değişiklikler, modelleri kullanan uygulamalarınızı ve iş akışlarınızı etkileyebilir. Sürüm yükseltmelerine hazırlanmanıza ve etkiyi en aza indirmenize yardımcı olacak bazı ipuçları şunlardır:

  • Değişiklikleri ve yeni özellikleri anlamak için yeni ve modelleri okuyun.
  • Model sürümleriyle nasıl çalışılacağı hakkında bilgi edinmek için DökümHane Modellerini Dağıtma ve sürüm yükseltmeleri hakkındaki belgeleri okuyun.
  • Yayından sonra uygulamalarınızı ve iş akışlarınızı yeni model sürümüyle test edin.
  • Kodunuzu ve yapılandırmanızı yeni model sürümünün özelliklerini ve yeteneklerini kullanacak şekilde güncelleyin.

Yeni model sürümü henüz bu bölgede mevcut değilse model yükseltmesi gerçekleşir mi?

Evet, en son model sürümünün henüz bir bölgede kullanılamadığı durumlarda bile, Azure zamanlanan yükseltme penceresi sırasında dağıtımları otomatik olarak yükselter. Mühendislik ekibimiz, duyurulan yükseltme tarihinden itibaren yeni model sürümünü kullanıma sunmaya başlar. Örneğin, gpt-35-turbo-0125 henüz Doğu Japonya'da kullanılamıyorsa, Azure mühendislik ekibi varsayılan model sürümü yükseltme işleminin bir parçası olarak eski model sürümlerini yükseltmek için gpt-35-turbo-0125 Doğu Japonya'ya dağıtır.

Ortak model yükseltmeleri

Azure, yeni model sürümleri yayınlamak için model sağlayıcılarıyla yakından çalışır. Modelin yeni bir sürümü yayınlandığında, modeli yeni dağıtımlarda hemen test edebilirsiniz.

Yeni model sürümleri, yeni bir model kimliğinin yayımlanması ile sonuçlanabilir. Örneğin, Meta-Llama-3-70B-Instruct ve Meta-Llama-3.1-70B-Instruct her ikisi de Llama-3.3-70B-Instruct lehine kullanımdan kaldırılmıştır. Her nesil farklı bir model kimliği kullanır. Bazı durumlarda, tüm model sürümleri aynı API sürümünde kullanılabilir. Diğer durumlarda, API sözleşmesi bir modelden diğerine değişmiş olabileceğinden modeli kullanmak için kullanılan API sürümünü de ayarlamanız gerekebilir.

Modeller kullanımdan kaldırıldığında ne olur?

Model sürümü kullanımdan kaldırıldığı tarihe ulaştığında bundan sonra ne olacağı, bu dağıtım için yapılandırılan yükseltme ilkesine bağlıdır:

  • Otomatik model sürümü yükseltmelerini geri çevirme: Dağıtım istekleri kabul etme işlemini durdurur ve model kullanımdan kaldırıldıktan sonra hatalar döndürür. Hizmet kesintisini önlemek için dağıtımı kullanımdan kaldırma tarihinden önce desteklenen bir model sürümüne güncelleştirin.
  • Yeni varsayılan sürüm kullanıma sunulduktan sonra yükseltme: Dağıtım otomatik olarak geçerli varsayılan sürüme güncelleştirilir. Eylem gerekmez.
  • Geçerli sürümün süresi dolduktan sonra: Geçerli sürüm sona erdiğinde dağıtım otomatik olarak bir sonraki kullanılabilir sürüme güncelleştirilir.

Azure, abonelik sahiplerine ve katkıda bulunanlara e-posta yoluyla, Azure Hizmet Durumu uyarıları aracılığıyla ve Microsoft Foundry Modelleri için Model kullanımdan kaldırma ve emekliye ayrılma tablolarındaki yaklaşan emekliye ayrılmaları bildirir.

İlgili içerik

  • Last updated on