Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
В этой статье описаны базовые модели, которые можно обслуживать с помощью службы моделей.
Tip
Если вы только начинаете и хотите вызвать LLM, используйте модельные API (сервисы моделей) в Unity AI Gateway. Сервисы моделей предоставляют вам контролируемый доступ к базовым ИИ-моделям, которые предоставляются напрямую в Azure Databricks через единый интерфейс. Чтобы начать отправлять запросы к LLM, см. раздел «Начать запросы к LLM на Databricks». Используйте приведённые ниже параметры Model Serving, если вам нужно самостоятельно размещать, дообучать или настраивать конечные точки обслуживания для базовых моделей.
Базовые модели представляют собой большие, предварительно обученные нейронные сети, обученные как на больших, так и на широких диапазонах данных. Эти модели предназначены для изучения общих шаблонов на языке, изображениях или других типах данных и могут быть точно настроены для конкретных задач с дополнительным обучением. Использование определенных базовых моделей зависит от условий модели и приемлемой политики использования. См. термины применимых моделей.
Служба моделей предлагает гибкие варианты размещения и запроса базовых моделей на основе ваших потребностей:
- Оплата за токен: идеально подходит для экспериментирования и быстрого изучения. Этот параметр позволяет запрашивать предварительно настроенные конечные точки в рабочей области Databricks без предварительных обязательств по инфраструктуре.
- Функции ИИ (пакетные выводы) — подмножество моделей, размещённых на Databricks, оптимизировано для Функций ИИ. Вы можете применять ИИ к данным и запускать рабочие нагрузки пакетной обработки в масштабах производства с помощью этих функций и поддерживаемых моделей.
- Подготовленная пропускная способность: рекомендуется для рабочих вариантов использования, требующих гарантий производительности. Этот параметр позволяет развертывать точно настроенные базовые модели с оптимизированными конечными точками обслуживания.
- Внешние модели: этот параметр обеспечивает доступ к базовым моделям, размещенным за пределами Databricks, например к моделям, предоставляемым OpenAI или Anthropic. Эти модели можно централизованно управлять в Databricks для упрощения управления.
Заметка
Запросы к фондовым моделям, как размещённым на Databricks, так и внешних, направляются через Unity AI Gateway, который позволяет применять лимиты тарифов, бюджеты и ограничения для контроля стоимости и доступа.
Базовые модели, размещенные в Databricks
Databricks предоставляет передовые открытые базовые модели. Эти модели доступны с помощью API-интерфейсов модели Foundation. Чтобы ограничить, какие размещённые в Databricks базовые модели может использовать ваша организация, см. разрешения Unity Catalog для базовых моделей.
Заметка
На Azure Databricks модели OpenAI и Google Gemini доступны через ADI Services, предоставляемые Databricks. Описание моделей OpenAI и Google Gemini см. в базовых моделях, размещённых в Databricks и доступных в Foundation Model APIs. Для настройки и доступа см. раздел ADI Services.
В следующей таблице приведены сведения о том, какие семейства моделей и моделей, размещенные в Databricks, поддерживаются в каждом регионе на основе функции обслуживания моделей.
Важно
- Anthropic Claude Sonnet 4 не рекомендуется. См. Устаревшие и выведенные из эксплуатации модели, чтобы узнать дату вывода из эксплуатации, рекомендуемую модель для замены и рекомендации по миграции в период вывода из эксплуатации.
- Anthropic Claude 3.7 Sonnet больше недоступен. См. раздел Устаревшие и выведенные из эксплуатации модели, чтобы узнать, какая модель рекомендуется в качестве замены и как выполнить миграцию в период вывода из эксплуатации.
- Meta Llama 4 Maverick доступен для API базовой модели при обеспечении пропускной способности рабочих нагрузок в общедоступном предварительном просмотре.
- Meta-Llama-3.1-405B-Instruct больше не доступна для рабочих нагрузок с оплатой за каждый токен или с выделенной пропускной способностью. См. раздел Устаревшие и выведенные из эксплуатации модели, чтобы узнать, какая модель рекомендуется в качестве замены и как выполнить миграцию в период вывода из эксплуатации.
- Несколько старых модельных рядов были сняты с производства. См. Устаревшие и выведенные из эксплуатации модели, чтобы просмотреть полный список выведенных из эксплуатации моделей и рекомендуемых замен.
† обслуживание моделей не включено для uksouth рабочих областей, созданных после 30 апреля 2026 г.
⥂ Эта модель поддерживается на основе доступности GPU и требует включения маршрутизации между географическими регионами.
Доступ к фундаментальным моделям, размещенным за пределами Databricks
Базовые модели, созданные поставщиками LLM, такими как OpenAI и Anthropic, также доступны в Databricks с помощью внешних моделей. Эти модели размещаются за пределами Databricks и можно создать конечную точку для их запроса. Этими конечными точками можно управлять централизованно с помощью Azure Databricks, что упрощает использование и управление различными поставщиками LLM в вашей организации.
В следующей таблице представлен неполный список поддерживаемых моделей и соответствующие типы конечных точек . Сопоставления перечисленных моделей помогут вам настроить конечную точку для всех недавно выпущенных типов моделей, так как они становятся доступными для данного поставщика. Клиенты отвечают за обеспечение соответствия применимым лицензиям модели.
Заметка
При быстром развитии LLM нет никакой гарантии, что этот список находится в актуальном состоянии в любое время. Новые версии модели из того же поставщика обычно поддерживаются, даже если они не находятся в списке.
| Поставщик моделей | llm/v1/completions | llm/v1/chat | llm/v1/вложения |
|---|---|---|---|
| OpenAI** |
|
|
|
| Azure OpenAI** |
|
|
|
| Антропный |
|
|
|
| Ко-хир** |
|
|
|
| Обслуживание моделей | Конечная точка сервисного взаимодействия Databricks | Конечная точка сервисного взаимодействия Databricks | Конечная точка сервисного взаимодействия Databricks |
| Амазонский бедрок | Anthropic:
Сплотиться
Лаборатории AI21:
|
Anthropic:
Сплотиться
Амазонка:
|
Амазонка:
Сплотиться
|
Лаборатории AI21† |
|
||
| Google Cloud Vertex AI | text-bison |
|
|
Поставщик моделей ** поддерживает кастомизированные модели завершения и чата. Чтобы запросить настраиваемую модель, заполните поле name конфигурации external model именем настраиваемой модели.
† Поставщик моделей поддерживает пользовательские модели завершения.
Создание базовых моделей обслуживания конечных точек
Чтобы запрашивать и использовать базовые модели в приложениях ИИ, необходимо сначала создать конечную точку обслуживания модели. Служба моделей использует унифицированный API и пользовательский интерфейс для создания и обновления конечных точек службы базовых моделей.
- Чтобы создать конечную точку, которая обслуживает точно настроенные варианты базовых моделей, доступных с помощью API моделей Foundation с обеспеченной пропускной способностью, см. статью "Создание конечной точки с обеспеченной пропускной способностью с помощью REST API".
- Сведения о создании конечных точек обслуживания, которые получают доступ к базовым моделям с помощью предложения внешних моделей, см. в статье "Создание внешней конечной точки обслуживания модели".
Модель создания запросов, обслуживающая конечные точки
После того как вы создадите конечную точку обслуживания, вы сможете выполнить запрос к базовой модели. Служба моделей использует унифицированный API, совместимый с OpenAI, и пакет SDK для запроса базовых моделей. Этот унифицированный интерфейс упрощает экспериментирование и настройку базовых моделей для рабочей среды в поддерживаемых облаках и поставщиках.
См. статью "Использование базовых моделей".