Microsoft DökümHane Modellerine Genel Bakış

Microsoft Foundry Modelleri, güçlü yapay zeka modellerini bulmak, değerlendirmek ve dağıtmak için tek durağınızdır. İster özel bir yardımcı pilot, bir aracı, var olan bir uygulamayı geliştirin, ister yeni yapay zeka özelliklerini araştırın, Foundry Models'te şunları ele alırsınız.

DökümHane Modellerini kullanarak şunları yapabilirsiniz:

  • Microsoft, Azure OpenAI, Anthropic, DeepSeek, Meta, Mistral, Cohere, Hugging Face ve daha birçok yeni modelin zengin bir kataloğunu keşfedin.
  • Gerçek dünya görevlerini ve kendi verilerinizi kullanarak modelleri yan yana karşılaştırın ve değerlendirin.
  • Hassas ayarlama, gözlemlenebilirlik ve sorumlu yapay zeka için yerleşik araçlar sayesinde güvenle dağıtın.
  • Yolunuzu seçin: Kendi modelinizi getirin, barındırılan bir modeli kullanın veya Azure hizmetleriyle sorunsuz bir şekilde tümleştirin.

İster geliştirici, veri bilimcisi ister kurumsal mimar olun, Foundry Modelleri size güvenli, sorumlu ve hızlı ölçeklendirilen yapay zeka çözümleri oluşturma esnekliği ve denetimi sağlar.

Foundry, yapay zeka modellerinin kapsamlı bir kataloğunu sunar. Katalog, her ay yaklaşık 50 yeni modelin yayımlandığı 10.000'den fazla model içerir. Bu modeller temel modellerden, akıl yürütme modellerinden, küçük dil modellerinden, çok modüllü modellerden, etki alanına özgü modellerden ve sektör modellerinden değişir.

Model kataloğu iki ana kategoride düzenlenmiştir:

Bu kategoriler arasındaki ayrımı anlamak, özel gereksinimleriniz ve stratejik hedefleriniz için doğru modelleri seçmenize yardımcı olur.

Not

Tüm modeller için şunlardan siz sorumlusunuz:

  • Herhangi bir model veya sistemi kullanımınızda yasalara uymak
  • Model kataloğundaki model açıklamalarını, model sağlayıcısı tarafından sağlanan model kartlarını ve diğer ilgili belgeleri gözden geçirme
  • Kullanım örneğiniz için uygun modeli seçme
  • Döküm Araçları kullanımınızın Microsoft Ürün Koşulları ve Microsoft Kurumsal Yapay Zeka Hizmetleri Kullanım Kuralları'ndaki Kabul Edilebilir Kullanım İlkesi ile uyumlu olduğundan emin olmak için uygun önlemleri (Azure Yapay Zeka İçerik Güvenliği kullanımı dahil) uygulamak.

Azure tarafından satılan modeller

Microsoft, bu modelleri Microsoft Ürün Koşulları kapsamında barındırıp satar. Microsoft bu modelleri değerlendirir ve Azure yapay zeka ekosistemine derinlemesine tümleştirir. Modeller çeşitli sağlayıcılardan gelir ve kurumsal düzeyde hizmet düzeyi sözleşmeleri (SLA) dahil olmak üzere gelişmiş tümleştirme, iyileştirilmiş performans ve doğrudan Microsoft desteği sunar. Bu modellerin ve özelliklerinin ayrıntılı bir listesi için Azure'un sunduğu Foundry Modelleri bölümüne bakın.

Azure tarafından satılan modellerin özellikleri:

  • Microsoft destek sağlar.
  • Azure hizmetleri ve altyapı ile yüksek düzeyde tümleştirme.
  • Microsoft Sorumlu yapay zeka standartlarına göre iç analize ve incelemeye tabidir: Doğrudan Azure aracılığıyla satılan modeller, Microsoft iç Sorumlu yapay zeka inceleme süreçlerinden geçer ve bu incelemelerin üst düzey sonuçları, adresinde https://ai.azure.com/explore/modelsbulunan Model Kataloğu'ndaki her modele özgü belgelere yansıtılır.
    • Müşteriler, her modeli uygulamalarla tümleştirmeden önce sınırlamaları anlamak için belgelerdeki değerlendirme ayrıntılarına başvurmalıdır.
    • Müşteriler, bu incelemelerin olası risklerin azaltılmasını garanti etmediğini unutmayın. Farklı modellerin farklı güvenlik özellikleri vardır ve müşteriler, dağıtım öncesinde risklerin anlaşılmasını veya azaltılmasını sağlamak için belgeleri dikkatlice gözden geçirmeli ve uygulamaları bağlamında kendi değerlendirmelerini yapmalıdır.
  • Model belgeleri ve saydamlık raporları, model risklerine, risk azaltmalarına ve sınırlamalarına yönelik müşteri görünürlüğü sağlar.
  • Kurumsal düzeyde ölçeklenebilirlik, güvenilirlik ve güvenlik.

Bu modellerden bazıları ayrıca esnek ayrılmış aktarım hızı sunar; başka bir deyişle, kotanızı ve rezervasyonlarınızı bu modellerden herhangi birinde esnek bir şekilde kullanabilirsiniz. Azure tarafından satılan Foundry Modellerine sağladığınız verilerin Foundry tarafından nasıl işlendiğini öğrenmek için Microsoft Foundry'de Azure tarafından satılan Modeller için Veri, gizlilik ve güvenlik bölümüne bakın.

İş ortaklarından ve topluluktan modeller

Bu modeller Dökümhane Modellerinin büyük çoğunluğunu oluşturur. Güvenilir üçüncü taraf kuruluşlar, iş ortakları, araştırma laboratuvarları ve topluluk katkıda bulunanları bu modelleri sağlar. Çok çeşitli senaryoları, endüstrileri ve yenilikleri kapsayan özel ve çeşitli yapay zeka özellikleri sunar. İş ortaklarının ve topluluğun modellerine örnek olarak, Anthropic tarafından geliştirilen büyük dil modelleri ailesi ve Yüz Tanıma Hub'ından açık modeller verilebilir.

Antropik metin ve görüntü girişini, metin çıkışını, çok dilli özellikleri ve görme özelliklerini destekleyen, en son modellerden oluşan Claude ailesini içerir. Antropik modellerle ilgili yardım için Microsoft Desteği kullanın. Gizlilik hakkında daha fazla bilgi edinmek için Microsoft Foundry (önizleme) içindeki Claude modelleri için Veri, gizlilik ve güvenlik'e bakın. Veri işlemeyi yöneten koşullar için bkz. Antropik'in Veri İşleme Eki ve Antropik'in Ticari Hizmet Koşulları. Antropik modellerle çalışmayı öğrenmek için bkz. Deploy ve Microsoft Foundry'da Claude modellerini kullanma.

Hugging Face hub'ı, yönetilen hesaplama ile gerçek zamanlı çıkarım için yüzlerce model içerir. Hugging Face, bu koleksiyonda listelenen modelleri oluşturur ve korur. YüzLeri Kucaklama modelleriyle ilgili yardım için YüzLeri Kucaklama forumunu veya Yüz Tanıma desteği'ni kullanın. Yönetilen işlem dağıtımı (klasik) ile nasıl dağıtım yapılır ve çıkarım yapılır makalesinde Hugging Face modellerini nasıl dağıtacağınızı öğrenin.

Önemli

Yönetilen bilgisayarlar üzerinde dağıtılabilen, Hugging Face gibi modellerle çalışmak için, Foundry portalında (klasik sürüm) hub tabanlı bir proje kullanın. Mevcut Foundry portalları hakkında daha fazla bilgi edinmek için bkz. Microsoft Foundry nedir?

İş ortakları ve topluluktan gelen modellerin özellikleri:

  • Dış iş ortakları ve topluluk katkıda bulunanları tarafından geliştirilmiş ve desteklenmektedir
  • Niş veya geniş kullanım örneklerine hitap eden çeşitli özel modeller
  • Genellikle sağlayıcılar tarafından, Azure tarafından sağlanan tümleştirme yönergeleriyle doğrulanır
  • Topluluk odaklı yenilikler ve son teknoloji modellerin hızlı kullanılabilirliği
  • Destek ve bakımı ilgili sağlayıcılar tarafından yönetilen standart Azure AI entegrasyonu.

Yönetilen işlem veya sunucusuz dağıtım seçeneklerini kullanarak iş ortaklarından ve topluluktan modelleri dağıtırsınız. Model sağlayıcısı, modellerin nasıl dağıtılabilir olduğunu seçer. Bu dağıtım seçenekleri arasındaki farklar hakkında bilgi edinmek için bkz . Model dağıtım seçenekleri: yönetilen işlem ve sunucusuz dağıtımlar.

Modelin model kataloğuna eklenmesini isteme

Microsoft'tan, Foundry portalındaki model kataloğu sayfasından doğrudan model kataloğuna bir model eklemesini isteyin.

  1. Model kataloğu sayfasına gidin.
  2. Arama çubuğunda, mymodel gibi katalogda mevcut olmayan bir modeli arayın.
  3. İstekte bulunmak istediğiniz modelle ilgili ayrıntıları paylaşmak için Model iste'yi seçin.

Azure tarafından satılan modeller ile iş ortakları ve topluluk modelleri arasında seçim

Hangi DökümHane Modellerinin kullanılacağını seçerken aşağıdaki faktörleri göz önünde bulundurun:

  • Kullanım örneği ve gereksinimleri: Azure tarafından satılan modeller derin Azure tümleştirmesi, garantili destek ve kurumsal SLA'lar gerektiren senaryolar için idealdir. İş ortaklarının ve topluluğun modelleri, özel kullanım örneklerinde ve yenilik odaklı senaryolarda üstünlük sağlar.
  • Destek beklentileri: Azure tarafından satılan modeller, Microsoft tarafından sağlanan güçlü destek ve bakım ile birlikte gelir. İş ortağı ve topluluk modelleri, farklı SLA düzeyleri ve destek yapıları ile sağlayıcıları tarafından desteklenir.
  • Yenilik ve uzmanlık: İş ortaklarının ve topluluğun modelleri, genellikle önde gelen araştırma laboratuvarları ve gelişmekte olan yapay zeka sağlayıcıları tarafından geliştirilen özel yeniliklere ve niş özelliklere hızlı erişim sağlar.

Model kataloğu özelliklerine genel bakış

Foundry portalındaki model kataloğu, üretken yapay zeka uygulamaları oluşturmak için çok çeşitli modelleri keşfetmeye ve kullanmaya yönelik merkezdir. Model kataloğunda Azure OpenAI, Anthropic, Mistral, Meta, Cohere, NVIDIA ve Hugging Face gibi sağlayıcılardan eğitilmiş Microsoft modeller de dahil olmak üzere binlerce model bulunur. Microsoft dışındaki sağlayıcılardan gelen modeller, Microsoft Ürün Koşulları'da tanımlanan Microsoft Olmayan Ürünlerdir ve modellerle sağlanan koşullara tabidir.

Anahtar sözcük arama ve filtreler aracılığıyla gereksinimlerinizi karşılayan modelleri arayın ve keşfedin. Model kataloğu, belirli modeller için model performans puan tablosu ve karşılaştırma ölçümleri de sunar. Puan tablosunu görüntüle ve Modelleri karşılaştır'ı seçerek bunlara erişin. Karşılaştırma verilerine model kartının Kıyaslamalar sekmesinden de ulaşabilirsiniz.

Model kataloğu, bazıları şunlara göre filtreleme içeren çeşitli filtreler içerir:

  • Koleksiyonlar: Model sağlayıcısı koleksiyonları
  • Bölge: Belirli Azure bölgelerinde dağıtım için model kullanılabilirliği
  • Dağıtım seçenekleri: Desteklenen dağıtım seçenekleri (yönetilen işlem veya Sunucusuz API)
  • Dağıtım SKU'su: Sunucusuz API dağıtım seçeneği için kullanılabilir dağıtım türleri
  • Yaşam Döngüsü: Model yaşam döngüsü (Önizleme, Genel kullanıma sunuldu veya Kullanım Dışı)
  • Sektör: Modelleri eğitmek için kullanılan sektöre özgü veri kümesi (örneğin, sağlık, perakende veya üretim)
  • Desteklenen özellikler: Akıl yürütme ve araç çağırma gibi benzersiz model özellikleri
  • Çıkarım görevleri: Çıkarım görev türü (örneğin, sohbet tamamlama, ses oluşturma veya eklemeler)

Model kartında bulunan bazı ayrıntılar şunlardır:

  • Hızlı bilgiler: Hızlı bir bakışta modelle ilgili önemli bilgiler
  • Ayrıntılar sekmesi: Açıklama, sürüm bilgileri ve desteklenen veri türü gibi model hakkında ayrıntılı bilgiler
  • Dağıtımlar sekmesi: Model için mevcut dağıtımların listesi
  • Karşılaştırmalar sekmesi: Belirli modeller için performans karşılaştırması ölçümleri
  • Lisans sekmesi: Model lisanslamayla ilgili yasal bilgiler

Model dağıtım seçenekleri: yönetilen işlem ve sunucusuz dağıtımlar

Ipucu

Her zaman dağıtım oluşturmanız gerekmez. Anında erişim (önizleme) ile desteklenen modelleri ada göre çağırır ve çıkarım çalıştırmaya hemen başlarsınız; dağıtım gerekmez.

Model kataloğu, kullanımınız için modelleri dağıtmak için iki farklı seçenek sunar: yönetilen işlem ve sunucusuz dağıtımlar. Dağıtım seçenekleri hakkında bilgi edinmek için bkz. Microsoft DökümHane Modelleri için dağıtıma genel bakış. Azure tarafından satılan Foundry Modellerine sağladığınız verilerin Foundry tarafından nasıl işlendiğini öğrenmek için Microsoft Foundry'de Azure tarafından satılan Modeller için Veri, gizlilik ve güvenlik bölümüne bakın.

Model dağıtım seçeneklerinin özellikleri

Her model için kullanılabilen dağıtım seçenekleri ve özellikleri, aşağıdaki tabloda açıklandığı gibi farklılık gösterir:

Özellik Yönetilen bilgi işlem Sunucusuz dağıtım
Dağıtım deneyimi ve faturalama Model ağırlıkları, yönetilen işlem içeren ayrılmış sanal makinelere dağıtılır. Bir veya daha fazla dağıtıma sahip olabilecek yönetilen bir bilişim, çıkarım için bir REST API'sini erişime sunar. Dağıtımların kullandığı sanal makine çekirdek saatleri için faturalandırılırsınız. Api sağlayan bir dağıtım aracılığıyla modellere erişin. API, Microsoft'un barındırdığı ve yönettiği modele çıkarım amaçlı erişim sağlar. API'lere girdi ve çıktılar için genellikle jeton olarak faturalandırılırsınız. Fiyatlandırma bilgileri dağıtmadan önce sağlanır.
API kimlik doğrulaması Anahtarlar ve Microsoft Entra kimlik doğrulaması. Anahtarlar ve Microsoft Entra kimlik doğrulaması.
İçerik güvenliği Azure Yapay Zeka İçerik Güvenliği hizmet API'lerini kullanın. Azure Yapay Zeka İçerik Güvenliği filtreleri çıkarım API'leriyle tümleşik olarak kullanılabilir. Azure Yapay Zeka İçerik Güvenliği filtreleri ayrı olarak faturalandırılır.
Ağ yalıtımı Microsoft Foundry hub'ları (klasik) için yönetilen ağı yapılandırın. Yönetilen ağlar, Foundry kaynağınız için genel ağ erişimi (PNA) bayrağı ayarını izler. Daha fazla bilgi için bu makalenin devamında sunucusuz dağıtımlar aracılığıyla dağıtılan modeller için ağ yalıtımı bölümüne bakın.

Yönetilen hesaplama dağıtımları ile sunucusuz dağıtımlar arasındaki hizmet döngüsü farklarını gösteren diyagram Microsoft Foundry Models içinde.

Yönetilen bilgi işlem

Modelleri yönetilen işlem olarak dağıtma özelliği, büyük dil modeli (LLM) işlemlerinin tüm yaşam döngüsü boyunca model kataloğundaki geniş model koleksiyonunun sorunsuz tümleştirilmesini sağlamak için Azure Machine Learning platform özelliklerini temel alır.

Önemli

Yönetilen işlemlerde dağıtılabilen modellerle çalışmak için, Foundry portalında (klasik) merkez tabanlı bir proje kullanın. Mevcut Foundry portalları hakkında daha fazla bilgi edinmek için bkz. Microsoft Foundry nedir?

Yönetilen işlemle büyük dil modeli (LLM) işlemlerinin yaşam döngüsünü gösteren diyagram.

Yönetilen bilişim hizmeti olarak dağıtım için modellerin kullanılabilirliği

Bu modellere Azure Machine Learning kayıt defterleri aracılığıyla erişebilirsiniz. Bu kayıt defterleri, Azure Machine Learning varlıkları barındırmak ve dağıtmak için makine öğrenmesi öncelikli bir yaklaşım sağlar. Bu varlıklar model ağırlıklarını, modelleri çalıştırmaya yönelik kapsayıcı çalışma zamanlarını, modelleri değerlendirmeye ve ince ayarlamaya yönelik işlem hatlarını ve karşılaştırmalar ve örnekler için veri kümelerini içerir.

Kayıt defterleri, aşağıdakileri sağlayan yüksek oranda ölçeklenebilir ve kurumsal kullanıma hazır bir altyapının üzerine inşa edilir:

  • Yerleşik coğrafi çoğaltma ile tüm Azure bölgelerinde model nesnelerine düşük gecikme süreli erişim sağlar.

  • Azure İlkesi kullanarak modellere erişimi sınırlama ve yönetilen sanal ağları kullanarak güvenli dağıtım gibi kurumsal güvenlik gereksinimlerini destekler.

Yönetilen işlemle çıkarım için modellerin dağıtımı

Gerçek zamanlı çıkarım için, yönetilen işleme dağıtılabilen modelleri Azure Machine Learning'in yönetilen işlemine dağıtın. Yönetilen hesaplama sistemine dağıtım yapmak için, modellerinin en iyi şekilde çalıştırılabilmesi amacıyla belirli ürünler için Azure aboneliğinizde bir sanal makine kotasına ihtiyacınız vardır. Bazı modeller, model testi için geçici olarak paylaşılan bir kotaya dağıtmanıza izin verir.

Modelleri dağıtma hakkında daha fazla bilgi edinin:

Yönetilen hesaplama kaynaklarıyla üretken yapay zeka uygulamaları oluşturma

Azure Machine Learning'daki prompt flow özelliği prototip oluşturma için harika bir deneyim sunar. Open Model LLM aracıyla komut akışında yönetilen hesaplamayla dağıtılan modelleri kullanın. LangChain gibi popüler LLM araçlarında yönetilen işlem tarafından kullanıma sunulan REST API'yi Azure Machine Learning uzantısı ile de kullanabilirsiniz.

Yönetilen hesaplama olarak dağıtılan modeller için içerik güvenliği

Azure Yapay Zeka İçerik Güvenliği hizmeti, cinsel içerik, şiddet, nefret ve kendine zarar verme gibi çeşitli zararlı içerik kategorilerini taramak üzere yönetilen işlemle kullanılabilir. Jailbreak risk algılama ve korumalı materyal metni algılama gibi gelişmiş tehditleri taramak için de hizmeti kullanabilirsiniz.

Llama 2 için Azure Yapay Zeka İçerik Güvenliği ile referans entegrasyonu hakkında daha fazla bilgi için bu not defterine bakın. Alternatif olarak, modelden gelen yanıtları taramak için Content Safety (Metin) aracını kullanarak Azure Yapay Zeka İçerik Güvenliği'e yönlendirin. Azure Yapay Zeka İçerik Güvenliği fiyatlandırma bölümünde açıklandığı gibi bu tür kullanım için ayrı olarak faturalandırılırsınız.

Sunucusuz dağıtımlar

Sunucusuz dağıtımlar, Foundry Modellerini aboneliğinizde barındırmadan API olarak kullanmanın bir yolunu sağlar. Microsoft modelleri yönetilen bir altyapıda barındırarak model sağlayıcısının modeline API tabanlı erişim sağlar. API tabanlı erişim, modele erişim maliyetini önemli ölçüde azaltabilir ve kurulum deneyimini basitleştirebilir.

Model sağlayıcıları sunucusuz dağıtımlar için modeller sunar, ancak Microsoft bunları yönetilen bir Azure altyapısında barındırıp API'ler aracılığıyla erişim sağlar. Model sağlayıcıları lisans koşullarını tanımlar ve modellerinin kullanım fiyatını belirler. Azure Machine Learning hizmeti:

  • Barındırma altyapısını yönetir.
  • Çıkarım API'lerini kullanılabilir hale getirir.
  • Sunucusuz dağıtımlar için gönderilen istemler ve içerik çıkışı için veri işlemcisi görevi görür.

Sunucusuz dağıtımlar için Microsoft Foundry Modelleri'nin model yayımcısı hizmet döngüsünü gösteren diyagram.

Sunucusuz dağıtım türleri

Foundry Models için sunucusuz dağıtım seçeneği iki ana dağıtım kategorisi sunar: standart (belirteç bazında ödeme) ve tahsisli (ayrılmış kapasite). Her kategoride, uyumluluk gereksinimlerinize göre genel, veri bölgesi veya bölgesel işlemeyi seçebilirsiniz.

Kullanılabilir sunucusuz dağıtım türleri şunlardır: Genel Standart, Genel Sağlanan, Genel Toplu İşlem, Veri Bölgesi Standart, Veri Bölgesi Sağlanan, Veri Bölgesi Toplu İşlemi, Standart, Bölgesel Sağlanan ve Geliştirici. Bu dağıtım türleri ve kullanımınız için doğru olanı seçme hakkında daha fazla bilgi edinmek için bkz. Microsoft Döküm Modelleri için dağıtım türleri.

Sunucusuz dağıtımlar için faturalama

Sunucusuz dağıtım olarak kullanıma sunulan modeller için bulma, abonelik ve kullanım deneyimi, Foundry portalı ve Azure Machine Learning stüdyosundadır. Kullanıcılar, modellerin kullanımı için lisans koşullarını kabul edebilir. Dağıtım sırasında tüketim için fiyatlandırma bilgileri sağlanır.

İş ortakları ve topluluk tarafından sağlanan dökümhane modelleri, Microsoft Ticari Market Kullanım Koşulları uyarınca Azure Market üzerinden faturalandırılır.

Azure tarafından satılan Foundry Modelleri, birinci taraf tüketim hizmetleri kapsamında Azure sayaçları üzerinden faturalandırılır. Ürün Koşulları bölümünde açıklandığı gibi, Azure ölçümlerini kullanarak Birinci Taraf Tüketim Hizmetleri satın alırsınız, ancak bunlar Azure hizmet koşullarına tabi değildir. Bu modellerin kullanımı, sağlanan lisans koşullarına tabidir.

RAG sunucusuz hizmet olarak dağıtılan modellerle

Foundry portalında, özel verilere dayalı eklemeler ve çıkarımlar oluşturmak için sunucusuz dağıtımlar aracılığıyla dağıtılan modellerle vektör dizinlerini ve alma artırılmış nesli (RAG) kullanın. Kullanım örneğine özgü yanıtlar oluşturmak için bu eklemeleri ve çıkarımları kullanın. Daha fazla bilgi için bkz. Build ve Microsoft Foundry portalında vektör dizinlerini kullanma (klasik).

Sunucusuz dağıtımlar aracılığıyla dağıtılan modeller için içerik güvenliği

Sunucusuz API aracılığıyla dağıtılan dil modelleri için Azure yapay zeka, nefret, kendine zarar verme, cinsel ve şiddet içeren içerik gibi zararlı içerikleri algılayan Azure Yapay Zeka İçerik Güvenliği metin denetim filtrelerinin varsayılan yapılandırmasını uygular. İçerik filtreleme hakkında daha fazla bilgi edinmek için Azure tarafından satılan Modeller için güvenlik önlemleri ve denetimler bölümüne bakın.

Ipucu

sunucusuz API aracılığıyla dağıtılan belirli model türleri için içerik filtreleme kullanılamaz. Bu model türleri, ekleme modellerini ve zaman serisi modellerini içerir.

Hizmet içerik oluşturmak için istemleri işlediğinde içerik filtreleme zaman uyumlu olarak gerçekleşir. Bu tür kullanım için Azure Yapay Zeka İçerik Güvenliği fiyatlandırma göre ayrı olarak faturalandırılabilirsiniz. Tek tek sunucusuz uç noktalar için içerik filtrelemeyi devre dışı bırakabilirsiniz:

  • Bir dil modelini ilk kez dağıttığınızda
  • Daha sonra, dağıtım ayrıntıları sayfasında içerik filtreleme anahtarını seçerek içeriği yönetebilirsiniz.

Diyelim ki sunucusuz bir API üzerinden dağıtılan bir modelle çalışmak için Azure OpenAI v1 API’leriyle birlikte Azure OpenAI SDK’sı dışında bir API kullanmaya karar verdiniz. Böyle bir durumda, Azure Yapay Zeka İçerik Güvenliği kullanarak ayrı ayrı uygulamadığınız sürece içerik filtreleme etkinleştirilmez.

Azure Yapay Zeka İçerik Güvenliği kullanmaya başlamak için bkz. Quickstart: Metin içeriğini çözümleme. Sunucusuz API aracılığıyla dağıtılan modellerle çalışırken içerik filtreleme kullanmıyorsanız, kullanıcıları zararlı içeriğe maruz bırakarak daha yüksek bir riskle karşılaşırsınız.

DökümHane Modelleri için bölgesel kullanılabilirlik

Belirteç başına ödeme faturalaması yalnızca Azure aboneliği, model sağlayıcısının teklifi kullanıma sunduğu bir ülkede veya bölgede bulunan bir ödeme hesabına ait olan kullanıcılar tarafından kullanılabilir. Teklif ilgili bölgede kullanılabiliyorsa, kullanıcının modelin dağıtım veya ince ayar için uygun olduğu Azure bölgede bir proje kaynağına sahip olması gerekir. DökümHane Modellerinin bölge kullanılabilirliği için bkz:

Sunucusuz dağıtımlar aracılığıyla dağıtılan modeller için ağ yalıtımı

Sunucusuz dağıtım olarak dağıtılan modellerin uç noktaları, dağıtımın bulunduğu projenin bulunduğu Foundry hub'ının genel ağ erişim bayrağı ayarını izler. Sunucusuz dağıtımınızın güvenliğini sağlamaya yardımcı olmak için, Foundry hub'ınızdaki genel ağ erişim bayrağını devre dışı bırakın. Merkez için özel bir uç nokta kullanarak istemciden uç noktanıza gelen iletişimin güvenliğini sağlamaya yardımcı olabilirsiniz.

Foundry hub'ına yönelik genel ağ erişim bayrağını ayarlamak için:

  1. Azure portalına gidin.
  2. Hub'ın ait olduğu kaynak grubunu arayın ve bu kaynak grubu için listelenen kaynaklardan Foundry hub'ınızı seçin.
  3. Hub'a genel bakış sayfasında, sol bölmede Ayarlar>Ağ'a gidin.
  4. Genel erişim sekmesinde, genel ağ erişim bayrağı ayarlarını yapılandırın.
  5. Değişikliklerinizi kaydedin. Değişikliklerin yayılması beş dakika kadar sürebilir.

Sınırlama

  • 11 Temmuz 2024'e kadar oluşturulmuş özel uç nokta içeren bir Foundry hub'ına sahipseniz, bu hub'daki projelere eklenen sunucusuz dağıtımlar hub'ın ağ yapılandırmasını izlemez. Bunun yerine, yeni dağıtımların hub'ın ağ yapılandırmasını izleyebilmesi için hub için yeni bir özel uç nokta ve projede yeni bir sunucusuz dağıtım oluşturun.

  • 11 Temmuz 2024'te oluşturulmuş sunucusuz dağıtımlara sahip bir Foundry hub'ına sahipseniz ve bu hub'da özel bir uç noktayı etkinleştirdiyseniz, mevcut sunucusuz dağıtımlar hub'ın ağ yapılandırmasını izlemez. Hub'daki sunucusuz dağıtımların hub'ın ağ yapılandırmasını izlemesi için dağıtımları yeniden oluşturun.

  • Şu anda Azure Verilerinizde OpenAI desteği özel hub'lardaki sunucusuz dağıtımlar için kullanılamamaktadır çünkü özel hub'larda genel ağ erişim bayrağı devre dışı bırakılmıştır.

  • Tüm ağ yapılandırma değişikliklerinin (örneğin, genel ağ erişim bayrağını etkinleştirme veya devre dışı bırakma) yayılması beş dakika kadar sürebilir.

Modellerde ince ayar

Bazı modeller de ince ayarlamayı destekler. Bu modeller için, sağladığınız verileri kullanarak modelleri uyarlamak amacıyla yönetilen hesaplama veya sunucusuz dağıtımlar üzerinde ince ayarlama yapabilirsiniz. Daha fazla bilgi için bkz. Microsoft Foundry (klasik) ile Modelleri İnce Ayarlayın.  

Model yaşam döngüsü: devreden çıkarma ve kullanımdan kaldırma

Yapay zeka modelleri hızla gelişir. Aynı model ailesindeki güncelleştirilmiş özelliklere sahip yeni bir sürüm veya yeni bir model kullanıma sunulduğunda, eski modeller Dökümhane modeli kataloğunda kullanımdan kaldırılabilir. Bazı modeller, daha yeni bir model sürümüne sorunsuz bir geçiş sağlamak için kullanıcıların otomatik güncelleştirmeleri etkinleştirmesine olanak tanır. Farklı modellerin model yaşam döngüsü, yaklaşan model kullanımdan kaldırma tarihleri ve önerilen yeni model ve sürümler hakkında bilgi edinmek için bkz: