Bu belgede sorularınızın yanıtlarını bulamıyorsanız ve hala yardıma ihtiyacınız varsa Foundry Tools destek seçenekleri kılavuzuna bakın.
General
Azure OpenAI ile Microsoft Foundry Modelleri arasındaki fark nedir?
Azure OpenAI, müşterilere OpenAI'den gelişmiş dil modellerine access sağlar. Microsoft Foundry Modelleri, müşterilere aynı hizmet, uç nokta ve kimlik bilgileri altında Microsoft Foundry'deki tüm amiral gemisi modellerine access sağlayan bu özelliği genişletir. OpenAI, Cohere, Mistral AI, Meta Llama, AI21 laboratuvarları vb. Azure içerir. Müşteriler kodlarını değiştirmeden modeller arasında sorunsuz bir şekilde geçiş yapabilir.
Azure OpenAI, Foundry Models içindeki Azure tarafından satılan modeller arasında yer alır.
Döküm Araçları ile Microsoft Foundry arasındaki fark nedir?
Döküm Araçları, yaygın yapay zeka senaryoları için önceden oluşturulmuş API'ler sağlayan bir yapay zeka hizmetleri paketidir. Döküm Araçları, Microsoft Foundry platformunun bir parçasıdır. Döküm Araçları, önceden oluşturulmuş yapay zeka özellikleriyle modellerinizi geliştirmek için Microsoft Foundry portalında kullanılabilir.
Sunucusuz API dağıtımları ile DökümHane Modelleri arasındaki fark nedir?
Her iki özellik de Microsoft Foundry'de Hizmet Olarak Modeller modellerini dağıtmanıza olanak tanır. Bununla birlikte, aralarında bazı farklar vardır:
- Kaynak dahil: Sunucusuz API dağıtımları bir yapay zeka project kaynağı içinde dağıtılırken, Foundry Modelleri Microsoft Foundry kaynağının bir parçasıdır.
- Dağıtım seçenekleri: Sunucusuz API dağıtımları bölgesel dağıtımlara izin verirken, Döküm Modelleri genel kapasite altında dağıtımlara izin verir.
- Models: Foundry Models ayrıca Azure OpenAI modellerinin dağıtımını destekler.
- Uç nokta: Sunucusuz API dağıtımları dağıtım başına bir uç nokta ve kimlik bilgisi oluştururken, Foundry Modelleri kaynak başına bir uç nokta ve kimlik bilgisi oluşturur.
- Model yönlendiricisi: Foundry Models, model yönlendirici kullanarak kodunuzu değiştirmeden modelleri değiştirmenizi sağlar.
Models
Microsoft model kataloğundaki tüm modeller neden Microsoft Foundry hizmetlerinde desteklenmiyor?
Foundry Modelleri, Azure AI kataloğundaki kullandıkça öde faturalaması olan tüm modelleri destekler. Daha fazla bilgi için bakınız Modeller makalesi.
Microsoft model kataloğu daha geniş bir model listesi içerir, ancak bu modeller aboneliğinizden işlem kotası gerektirir. Ayrıca dağıtımı barındıracakları bir project veya yapay zeka hub'ına da sahip olmaları gerekir. Daha fazla bilgi için bkz. Microsoft Foundry'de dağıtım seçenekleri.
Şirketim belirli modelleri kullanım için onaylamadı. Kullanıcıların bunları dağıtmasını nasıl engelleyebilirim?
Azure ilkelerini kullanarak Döküm Araçları'nda dağıtım için kullanılabilecek modelleri kısıtlayabilirsiniz. Modeller katalogda listelenir, ancak bunları dağıtma girişimleri engellenir. Özel ilkelerle yapay zeka modeli dağıtımını denetleme bölümüne bakın.
SDK'lar ve programlama dilleri
DökümHane Modelleri için desteklenen SDK'lar ve programlama dilleri hangileridir?
Azure Çıkarım SDK'sını, Microsoft Foundry hizmetlerindeki Foundry Modeller tarafından desteklenen herhangi bir modelle, OpenAI SDK'sında AzureOpenAI sınıfıyla veya Azure OpenAI SDK'sı ile kullanabilirsiniz.
Cohere SDK, Mistral SDK ve model sağlayıcısına özgü SDK'lar, Foundry Araçları'na bağlandığında desteklenmez.
Daha fazla bilgi için bkz . Desteklenen SDK'lar ve programlama dilleri.
Foundry Modelleri, OpenAI (sürüm>=1.0) tarafından yayımlanan en son Python kitaplığıyla çalışır mı?
Döküm Araçları, OpenAI Python kitaplığının (sürüm>=1.0) en son sürümünü destekler.
Foundry Modellerini destekleyen bir model için istekte bulunuyorum ancak 404 hatası alıyorum. Ne yapmalıyım?
Verilen model için bir dağıtım oluşturduğunuzdan emin olun ve dağıtım adının, parametrede geçirdiğiniz değerle model eşleştiğinden emin olun. Yönlendirme büyük/küçük harfe duyarlı olmasa da, bunlar yaygın hatalar olduğundan özel noktalama işaretleri veya boşluklar olmadığından emin olun.
Python için 'azure-ai-inference' paketini kullanıyorum ve anahtarları kullanarak kimlik doğrulaması yapmaya çalıştığımda 401 hatası alıyorum. Ne yapmalıyım?
Döküm Araçları kaynağı, Python için azure-ai-inference>=1.0.0b5 sürümünü gerektirir. Bu sürümü kullandığınızdan emin olun.
OpenAI SDK'yi kullanıyorum ve Azure OpenAI çıkarım uç noktasını temel URL olarak https://<resource-name>.openai.azure.com şeklinde belirledim. Ancak 404 hatası alıyorum. Ne yapmalıyım?
Azure OpenAI için doğru uç noktayı ve doğru kimlik bilgileri kümesini kullandığınızdan emin olun. Ayrıca, kullanılan kimlik doğrulama mekanizması ve URL'ler farklı olduğundan OpenAI SDK'sından sınıfını AzureOpenAI kullandığınızdan emin olun.
Foundry Models özel API başlıklarını destekliyor mu? API isteklerimize özel üst bilgiler ekliyoruz ve HTTP 431 hata hataları görüyoruz.
Geçerli API'lerimiz, işlem hattı üzerinden geçirilen ve döndürülen en fazla 10 özel üst bilgi sağlar. Bazı müşterilerin artık bu üst bilgi sayısını aştığını fark ettik ve bu da HTTP 431 hatalarıyla sonuçlandı. Bu hatanın üst bilgi hacmini azaltmak dışında bir çözümü yoktur. Gelecekteki API sürümlerinde artık özel üst bilgilerden geçmeyeceğiz. Gelecekteki sistem mimarilerinde özel üst bilgilere bağımlı kalmamanızı öneririz.
Fiyatlandırma ve Faturalama
DökümHane Modelleri nasıl faturalandırılır?
API'lere yapılan giriş ve çıkışlar için genellikle token olarak faturalandırılırsınız. Kaynağın kendisiyle veya dağıtımlarla ilişkili bir maliyet yoktur.
Belirteç fiyatı her modele göre değişir ve 1.000 belirteç başına faturalandırılırsınız. Belirli bir modeli dağıtmadan önce fiyatlandırma ayrıntılarını görebilirsiniz. Faturalama hakkında daha fazla bilgi için Maliyeti Yönetme'ye bakın.
Fatura ayrıntılarını nerede görebilirim?
Faturalama ve maliyetler Microsoft Maliyet Yönetimi + Faturalama görüntülenir. kullanım ayrıntılarını Azure portal görebilirsiniz.
Faturalama Microsoft Foundry portalında gösterilmez.
Faturama nasıl harcama limiti ekleyebilirim?
Azure portalMicrosoft Maliyet Yönetimi + Faturalama altında bir harcama limiti ayarlayabilirsiniz. Bu sınır, belirlediğiniz limitten daha fazla harcama yapılmasını engeller. Harcama limitine ulaşıldıktan sonra abonelik devre dışı bırakılır ve bir sonraki faturalama dönemine kadar uç noktayı kullanamazsınız.
Veri ve Gizlilik
İş ortakları ve topluluk modelleri nasıl kullanılabilir?
Kullandıkça öde fiyatlandırmasıyla Foundry Tools'da dağıtım için kullanılabilen iş ortağı ve topluluk modelleri (örneğin Meta AI modelleri veya Mistral modelleri), model sağlayıcısı tarafından sunulur; ancak Microsoft tarafından yönetilen Azure altyapısında barındırılır ve Foundry Models uç noktası üzerinden API aracılığıyla bunlara erişilir. Model sağlayıcıları lisans koşullarını tanımlar ve modellerinin kullanım fiyatını belirlerken, Foundry Araçları hizmeti barındırma altyapısını yönetir, çıkarım API'lerini kullanılabilir hale getirir ve gönderilen istemler ve dağıtılan modeller tarafından içerik çıkışı için veri işlemcisi görevi görür. Üçüncü taraf modeller için veri gizliliği ve güvenlik hakkında bilgi edinin.
Veriler Global-Standard dağıtım türüne göre nasıl işlenir?
Döküm Araçları kaynakları altındaki model dağıtımları için istemler ve çıkışlar, trafiği her istek için en iyi kullanılabilirliğe sahip veri merkezine dinamik olarak yönlendirmek üzere Azure genel altyapısı kullanılarak işlenir. Genel standart en yüksek varsayılan kotayı sağlar ve birden çok kaynak arasında yük dengeleme gereksinimini ortadan kaldırır. Beklemede depolanan veriler belirlenen Azure coğrafyada kalırken, veriler herhangi bir Azure konumda çıkarım için işlenebilir. Veri yerleşimi hakkında daha fazla bilgi edinin.
Şirket verilerimi, modelleri eğitmek için kullanıyor musunuz?
Dökümhane Modelleri, modelleri yeniden eğitmek için müşteri verilerini kullanmaz ve müşteri verileri hiçbir zaman model sağlayıcılarıyla paylaşılamaz.
Veriler model sağlayıcılarıyla paylaşılıyor mu?
Microsoft, Foundry Tools kaynakları altında bir model dağıtımı için gönderilen istemler ve oluşturulan çıkışlar için veri işleyicisi olarak görev yapar. Microsoft bu istemleri ve çıkışları model sağlayıcısıyla paylaşmaz. Ayrıca Microsoft, Microsoft modellerini, model sağlayıcısının modellerini veya üçüncü tarafların modellerini eğitmek veya geliştirmek için bu istemleri ve çıkışları kullanmaz. Modellerin Hizmet Olarak (Models-as-a-Service) dağıtım süreci sırasında açıklandığı gibi, Microsoft, model yayıncısının müşterilerle model hakkında iletişim kurabilmesi için müşteri iletişim bilgilerini ve işlem ayrıntılarını (teklifle ilişkili kullanım hacmi dahil) model yayıncısı ile paylaşabilir. Microsoft Ticari Marketi için İçgörülere Erişim bölümünde, İş Ortağı Merkezi'ndeki model yayıncıları için sunulan bilgiler hakkında daha fazla bilgi edinin.
Müşteri Telif Hakkı Taahhüdü
Müşteri Telif Hakkı Taahhüdü kapsamında nasıl kapsam elde edebilirim?
Müşteri Telif Hakkı Taahhüdü, 1 Aralık 2023 tarihli Microsoft Ürün Koşulları'na dahil edilecek ve Microsoft'un Çıkış İçeriği ile ilgili belirli Microsoft dışı fikri mülkiyet taleplerine karşı müşterileri savunma yükümlülüğünü açıklayan bir hükümdür. Talebin konusu Azure OpenAI'den oluşturulan Çıkış İçeriği (veya müşterilerin güvenlik sistemlerini yapılandırmalarına izin veren başka bir Kapsanan Ürün) ise, kapsamı almak için müşterilerin Çıktı İçeriği'ni teslim eden teklifteki Azure OpenAI belgelerinin gerektirdiği tüm risk azaltmaları uygulamış olması gerekir. Gerekli azaltmalar here belgelenir ve sürekli olarak güncelleştirilir. Yeni hizmetler, özellikler, modeller veya kullanım örnekleri için yeni CCC gereksinimleri yayımlanır ve bu tür hizmet, özellik, model veya kullanım örneğinin başlatılması sırasında veya sonrasında geçerli olur. Aksi takdirde, müşterilerin CCC kapsamında kapsamı korumak için yeni önlemler uygulamaları için yayın tarihinden itibaren altı ayları olacaktır. Bir müşteri talepte bulunursa müşterinin ilgili gereksinimlere uyumluluğu göstermesi gerekir. Bu risk azaltmalar, müşterilerin OpenAI Azure dahil olmak üzere güvenlik sistemlerini yapılandırmalarına olanak sağlayan Kapsanan Ürünler için gereklidir; diğer Kapsanan Ürünleri kullanan müşteriler için kapsamı etkilemez.