Доступ к моделям ИИ и LLM из каталога Unity

Important

Эта функция доступна в общедоступной предварительной версии.

Azure Databricks включает в себя выбор высококачественных моделей ИИ и LLM в каталоге Unity. В этой статье описывается, как использовать эти модели и внедрять их в рабочие процессы вывода. Эти модели позволяют вам использовать современные возможности искусственного интеллекта, экономя ваше время и средства на создание собственных пользовательских моделей.

Сведения об использовании собственных пользовательских моделей с каталогом Unity см. в статье Управление жизненным циклом модели в каталоге Unity.

Найдите базовые модели в каталоге Unity

В регионах, в которых доступна функция Model Serving, в Azure Databricks предварительно установлен набор современных базовых моделей. Эти модели имеют разрешительные лицензии и оптимизированы для обслуживания с помощью подготовленных API моделей с задаными параметрами пропускной способности. См. термины применимых моделей.

Databricks рекомендует использовать базовые версии этих моделей для задач тонкой настройки и версии instruct для развертывания и обслуживания моделей.

Эти модели доступны в обозревателе каталогов, в каталоге system, в схеме ai (system.ai).

Эти модели можно развернуть одним щелчком мыши, а затем включить конечные точки развертывания модели непосредственно в рабочие процессы пакетного вывода. Чтобы служить моделью, щелкните имя модели в каталоге, чтобы открыть страницу модели и нажмите кнопку "Обслуживать эту модель". Дополнительные сведения о службе моделей см. в разделе "Развертывание моделей с помощью службы моделей". Для получения списка регионов, поддерживаемых для обслуживания моделей, см. раздел Доступность регионов.

По умолчанию модели в system.ai доступны всем пользователям учетной записи. Администратор хранилища метаданных может управлять доступом к схеме system.ai и его моделям без администратора учетной записи. См. разрешения каталога Unity модели Foundation.

Найдите и предоставьте базовую модель в Unity Catalog.