Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Bu makalede, Model Sunumunu kullanarak hizmet veleyebileceğiniz temel modeller açıklanmaktadır.
Tavsiye
Başlıyorsanız ve bir LLM çağırmak istiyorsanız, Unity AI Gateway'de model API'lerini (model hizmetleri) kullanın. Model servisleri, Azure Databricks tarafından doğal olarak sunulan temel modellere tek bir arayüz üzerinden yönetilen erişim sağlar. LLM'leri sorgulamaya başlamak için, Databricks'te LLM'leri sorgulamaya başla sayfasına bakınız. Temel modeller için hizmet uç noktalarını barındırmak, ince ayar yapmak veya yapılandırmak için aşağıdaki Model Servisi seçeneklerini kullanın.
Temel modeller, hem büyük hem de geniş veri aralıkları üzerinde eğitilen büyük, önceden eğitilmiş sinir ağlarıdır. Bu modeller dil, görüntü veya diğer veri türlerindeki genel desenleri öğrenmek için tasarlanmıştır ve ek eğitimle belirli görevler için ince ayar yapılabilir. Belirli temel modelleri kullanımınız modelin koşullarına ve kabul edilebilir kullanım ilkesine tabidir. Bkz. Geçerli model koşulları.
Model Sunma, gereksinimlerinize göre temel modelleri barındırmak ve sorgulamak için esnek seçenekler sunar:
- Belirteç başına ödeme: Denemeler ve hızlı keşifler için idealdir. Bu seçenek, önceden yapılandırılmış uç noktaları önceden yapılandırılmış altyapı taahhütleri olmadan Databricks çalışma alanınızda sorgulamanıza olanak tanır.
- AI İşlevleri (toplu çıkarım): Databricks tarafından barındırılan modellerin bir alt kümesi yapay zeka İşlevleri için iyileştirilmiştir. Verilerinize yapay zeka uygulayabilir ve bu işlevleri ve bunların desteklenen modellerini kullanarak toplu çıkarım üretim iş yüklerini büyük ölçekte çalıştırabilirsiniz.
- Sağlanan aktarım hızı: Performans garantisi gerektiren üretim kullanım örnekleri için önerilir. Bu seçenek, iyileştirilmiş sunum uç noktalarına sahip ince ayarlı temel modellerin dağıtımını sağlar.
- Dış modeller: Bu seçenek, OpenAI veya Antropik tarafından sağlananlar gibi Databricks dışında barındırılan temel modellere erişim sağlar. Bu modeller, kolaylaştırılmış idare için Databricks'in içinde merkezi olarak yönetilebilir.
Not
Temel modellere yönelik istekler, gerek Databricks tarafından barındırılan gerekse harici olanlar, Unity AI Gateway üzerinden yönlendirilir; bu sayede maliyeti ve erişimi kontrol etmek için hız sınırları, bütçeler ve koruma önlemleri uygulayabilirsiniz.
Databricks'te barındırılan temel modeller
Databricks, en yeni açık temel modelleri barındırıyor. Bu modeller, Foundation Model API'leri kullanılarak kullanılabilir hale getirilir. Kuruluşunuzun kullanabileceği Databricks tarafından barındırılan temel modelleri kısıtlamak için bkz. Temel model Unity Kataloğu izinleri.
Not
Azure Databricks'te, OpenAI ve Google Gemini modelleri Databricks tarafından sağlanan ADI Services aracılığıyla erişilebilir. OpenAI ve Google Gemini modellerinin açıklamaları için, Foundation Model API’lerinde kullanılabilen Databricks tarafından barındırılan temel modeller bölümüne bakın. Kurulum ve erişim için ADI Hizmetleri'ne bakınız.
Aşağıdaki tabloda, Model Sunma özelliğine bağlı olarak her bölgede hangi Databricks tarafından barındırılan model ve model ailelerinin desteklendiği özetlenmektedir.
Önemli
- Anthropic Claude Sonnet 4 kullanım dışıdır. Kullanımdan kaldırma tarihi, önerilen değiştirme modeli ve kullanımdan kaldırma sırasında geçiş için yönergeler için bkz. Kullanımdan kaldırılan ve kullanımdan kaldırılan modeller .
- Antropik Claude 3.7 Sonnet artık kullanılamıyor. Önerilen değiştirme modeli ve kullanımdan kaldırma sırasında geçişin nasıl yapılacağını gösteren yönergeler için bkz. Kullanım dışı ve kullanımdan kaldırılan modeller .
- Meta Llama 4 Maverick, Genel Önizleme'de sunulan Temel Model API'leri ile sağlanan aktarım hızı iş yükleri için kullanılabilir.
- Meta-Llama-3.1-405B-Instruct artık token başına ödeme veya ayrılmış aktarım hızı iş yükleri için kullanılamamaktadır. Önerilen değiştirme modeli ve kullanımdan kaldırma sırasında geçişin nasıl yapılacağını gösteren yönergeler için bkz. Kullanım dışı ve kullanımdan kaldırılan modeller .
- Birkaç eski model ailesi kullanımdan kaldırılmıştır. Kullanımdan kaldırılan modellerin ve önerilen değiştirmelerin tam listesi için bkz. Kullanım dışı ve kullanımdan kaldırılan modeller.
† 30 Nisan 2026'dan sonra oluşturulan uksouth çalışma alanları için Model Sunumu etkin değildir.
⥂ Bu model GPU kullanılabilirliğine göre desteklenir ve coğrafyalar arası yönlendirmenin etkinleştirilmesini gerektirir.
Databricks dışında barındırılan temel modellere erişim
OpenAI ve Antropik gibi LLM sağlayıcıları tarafından oluşturulan temel modellere Databricks'te Dış modeller kullanılarak da erişilebilir. Bu modeller Databricks dışında barındırılır ve bunları sorgulamak için bir uç nokta oluşturabilirsiniz. Bu uç noktalar, kuruluşunuzdaki çeşitli LLM sağlayıcılarının kullanımını ve yönetimini kolaylaştıran Azure Databricks merkezi olarak yönetilebilir.
Aşağıdaki tabloda desteklenen modellerin ve ilgili uç nokta türlerinin kapsamlı olmayan bir listesi sunulmaktadır. Listelenen model ilişkilendirmelerini, belirli bir sağlayıcıda kullanılabilir hale gelen yeni yayımlanan model türleri için bir uç noktayı yapılandırmanıza yardımcı olması için kullanabilirsiniz. Müşteriler, geçerli model lisanslarıyla uyumluluğu sağlamakla sorumludur.
Not
LLM'lerin hızlı bir şekilde geliştirilmesiyle, bu listenin her zaman güncel olduğunu garanti etmemektedir. Aynı sağlayıcının yeni model sürümleri, listede olmasalar bile genellikle desteklenir.
| Model sağlayıcısı | llm/v1/tamamlama işlemleri | llm/v1/chat | llm/v1/gömülüler |
|---|---|---|---|
| OpenAI** |
|
|
|
| Azure OpenAI** |
|
|
|
| İnsansı |
|
|
|
| Bağdaşmak |
|
|
|
| Model Hizmeti | Uç nokta sunan Databricks | Uç nokta sunan Databricks | Uç nokta sunan Databricks |
| Amazon Bedrock | Antropik:
Uyum içinde olmak
AI21 Laboratuvarları:
|
Antropik:
Uyum içinde olmak
Amazon:
|
Amazon:
Uyum içinde olmak
|
AI21 Laboratuvarları† |
|
||
| Google Cloud Vertex AI | metin bizonu |
|
|
** Model sağlayıcısı hassas tamamlama ve sohbet modellerini destekler. hassas bir modeli sorgulamak için, name yapılandırmasının external model alanını ince ayarlı modelinizin adıyla doldurun.
† Model sağlayıcısı özel tamamlama modellerini destekler.
Uç noktalara hizmet veren temel model oluşturma
Yapay zeka uygulamalarınızda temel modelleri sorgulamak ve kullanmak için önce uç noktaya hizmet veren bir model oluşturmanız gerekir. Model Sunma, uç noktalara hizmet veren temel modeli oluşturmak ve güncelleştirmek için birleşik bir API ve kullanıcı arabirimi kullanır.
- Temel Model API'leri tarafından sağlanan aktarım hızı kullanılarak kullanıma sunulan temel modellerinin ince ayarlı varyantlarına hizmet veren bir uç nokta oluşturmak için bkz. REST API kullanarak sağlanan aktarım hızı uç noktanızı oluşturma.
- Harici model teklifi kullanılarak erişime açılan temel modeller için hizmet uç noktaları oluşturmak konusunda bilgi almak üzere bkz. Harici bir model sunma uç noktası oluşturma.
Uç noktaları sunan sorgu temeli modeli
Sunum uç noktanızı oluşturduktan sonra temel modelinizi sorgulayabilirsiniz. Model Sunma, temel modelleri sorgulamak için birleştirilmiş OpenAI uyumlu BIR API ve SDK kullanır. Bu birleşik deneyim, desteklenen bulutlar ve sağlayıcılar arasında üretim için temel modellerle deneme ve özelleştirme işlemlerini basitleştirir.