Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Bu makalede , Mozaik AI Model Sunumunu kullanarak hizmet veleyebileceğiniz temel modeller açıklanmaktadır.
Temel modeller, hem büyük hem de geniş veri aralıkları üzerinde eğitilen büyük, önceden eğitilmiş sinir ağlarıdır. Bu modeller dil, görüntü veya diğer veri türlerindeki genel desenleri öğrenmek için tasarlanmıştır ve ek eğitimle belirli görevler için ince ayar yapılabilir. Belirli temel modelleri kullanımınız modelin koşullarına ve kabul edilebilir kullanım ilkesine tabidir. Bkz. Geçerli model koşulları.
Model Sunma, gereksinimlerinize göre temel modelleri barındırmak ve sorgulamak için esnek seçenekler sunar:
- Belirteç başına ödeme: Denemeler ve hızlı keşifler için idealdir. Bu seçenek, önceden yapılandırılmış uç noktaları önceden yapılandırılmış altyapı taahhütleri olmadan Databricks çalışma alanınızda sorgulamanıza olanak tanır.
- AI İşlevleri (toplu çıkarım): Databricks tarafından barındırılan modellerin bir alt kümesi yapay zeka İşlevleri için iyileştirilmiştir. Verilerinize yapay zeka uygulayabilir ve bu işlevleri ve bunların desteklenen modellerini kullanarak toplu çıkarım üretim iş yüklerini büyük ölçekte çalıştırabilirsiniz.
- Sağlanan aktarım hızı: Performans garantisi gerektiren üretim kullanım örnekleri için önerilir. Bu seçenek, iyileştirilmiş sunum uç noktalarına sahip ince ayarlı temel modellerin dağıtımını sağlar.
- Dış modeller: Bu seçenek, OpenAI veya Antropik tarafından sağlananlar gibi Databricks dışında barındırılan temel modellere erişim sağlar. Bu modeller, kolaylaştırılmış idare için Databricks'in içinde merkezi olarak yönetilebilir.
Databricks'te barındırılan temel modeller
Databricks, Meta Llama gibi en yeni açık temel modelleri barındırır. Bu modeller, Foundation Model API'leri kullanılarak kullanılabilir hale getirilir.
Aşağıdaki tabloda, Model Sunma özelliğine bağlı olarak her bölgede hangi Databricks tarafından barındırılan model ve model ailelerinin desteklendiği özetlenmektedir.
Önemli
- Antropik Claude 3.7 Sonnet artık kullanılamıyor. Önerilen değiştirme modeli için kullanımdan kaldırılan modeller ve kullanımdan kaldırma sırasında geçişin nasıl yapılacağını gösteren yönergeler için bkz. Kullanımdan kaldırılan modeller .
- Meta Llama 4 Maverick, Genel Önizleme'de sunulan Temel Model API'leri ile sağlanan aktarım hızı iş yükleri için kullanılabilir.
- Meta-Llama-3.1-405B-Instruct artık belirteç başına ödeme yapılan iş yükleri için kullanılamaz. 15 Mayıs 2026'dan itibaren sağlanan aktarım hızı iş yükleri için de kullanımdan kaldırılacaktır. Önerilen değiştirme modeli için kullanımdan kaldırılan modeller ve kullanımdan kaldırma sırasında geçişin nasıl yapılacağını gösteren yönergeler için bkz. Kullanımdan kaldırılan modeller .
- Birkaç eski model ailesi kullanımdan kaldırılmıştır. Kullanımdan kaldırılan modellerin ve önerilen değiştirmelerin tam listesi için bkz. Kullanımdan kaldırılan modeller.
⥂ Bu model GPU kullanılabilirliğine göre desteklenir ve coğrafyalar arası yönlendirmenin etkinleştirilmesini gerektirir.
Databricks dışında barındırılan temel modellere erişim
OpenAI ve Antropik gibi LLM sağlayıcıları tarafından oluşturulan temel modellere Databricks'te Dış modeller kullanılarak da erişilebilir. Bu modeller Databricks dışında barındırılır ve bunları sorgulamak için bir uç nokta oluşturabilirsiniz. Bu uç noktalar, kuruluşunuzdaki çeşitli LLM sağlayıcılarının kullanımını ve yönetimini kolaylaştıran Azure Databricks merkezi olarak yönetilebilir.
Aşağıdaki tabloda desteklenen modellerin ve ilgili uç nokta türlerinin kapsamlı olmayan bir listesi sunulmaktadır. Listelenen model ilişkilendirmelerini, belirli bir sağlayıcıda kullanılabilir hale gelen yeni yayımlanan model türleri için bir uç noktayı yapılandırmanıza yardımcı olması için kullanabilirsiniz. Müşteriler, geçerli model lisanslarıyla uyumluluğu sağlamakla sorumludur.
Not
LLM'lerin hızlı bir şekilde geliştirilmesiyle, bu listenin her zaman güncel olduğunu garanti etmemektedir. Aynı sağlayıcının yeni model sürümleri, listede olmasalar bile genellikle desteklenir.
| Model sağlayıcısı | llm/v1/tamamlama işlemleri | llm/v1/chat | llm/v1/gömülüler |
|---|---|---|---|
| OpenAI** |
|
|
|
| Azure OpenAI** |
|
|
|
| İnsansı |
|
|
|
| Bağdaşmak |
|
|
|
| Mozaik AI Modeli Dağıtımı | Uç nokta sunan Databricks | Uç nokta sunan Databricks | Uç nokta sunan Databricks |
| Amazon Bedrock | Antropik:
Uyum içinde olmak
AI21 Laboratuvarları:
|
Antropik:
Uyum içinde olmak
Amazon:
|
Amazon:
Uyum içinde olmak
|
AI21 Labs† |
|
||
| Google Cloud Vertex AI | metin bizonu |
|
|
** Model sağlayıcısı hassas tamamlama ve sohbet modellerini destekler. hassas bir modeli sorgulamak için, name yapılandırmasının external model alanını ince ayarlı modelinizin adıyla doldurun.
† Model sağlayıcısı özel tamamlama modellerini destekler.
Uç noktalara hizmet veren temel model oluşturma
Yapay zeka uygulamalarınızda temel modelleri sorgulamak ve kullanmak için önce uç noktaya hizmet veren bir model oluşturmanız gerekir. Model Sunma, uç noktalara hizmet veren temel modeli oluşturmak ve güncelleştirmek için birleşik bir API ve kullanıcı arabirimi kullanır.
- Temel Model API'leri tarafından sağlanan aktarım hızı kullanılarak kullanıma sunulan temel modellerinin ince ayarlı varyantlarına hizmet veren bir uç nokta oluşturmak için bkz. REST API kullanarak sağlanan aktarım hızı uç noktanızı oluşturma.
- Harici model teklifi kullanılarak erişime açılan temel modeller için hizmet uç noktaları oluşturmak konusunda bilgi almak üzere bkz. Harici bir model sunma uç noktası oluşturma.
Uç noktaları sunan sorgu temeli modeli
Sunum uç noktanızı oluşturduktan sonra temel modelinizi sorgulayabilirsiniz. Model Sunma, temel modelleri sorgulamak için birleştirilmiş OpenAI uyumlu BIR API ve SDK kullanır. Bu birleşik deneyim, desteklenen bulutlar ve sağlayıcılar arasında üretim için temel modellerle deneme ve özelleştirme işlemlerini basitleştirir.