Каталог моделей и коллекции

  • Статья

Каталог моделей в Студия машинного обучения Azure — это центр для широкого спектра сторонних открытый код, а также предварительно подготовленных корпорацией Майкрософт моделей для различных языков, речевых и визуального использования. Вы можете оценить, настроить и развернуть эти модели с помощью собственных возможностей для создания и эксплуатации моделей основы с открытым исходным кодом в масштабе, чтобы легко интегрировать эти предварительно обученные модели в приложения с корпоративной безопасностью и управлением данными.

  • Обнаружение: просмотр описаний модели, пример вывода и просмотр примеров кода для оценки, точной настройки или развертывания модели.
  • Оценка. Оцените, подходит ли модель для конкретной рабочей нагрузки, предоставив собственные тестовые данные. Метрики оценки позволяют легко визуализировать, насколько хорошо выбранная модель работает в вашем сценарии.
  • Точной настройки: настройте эти модели с помощью собственных обучающих данных. Встроенные оптимизации, которые ускоряют настройку и сокращают объем памяти и вычислительные ресурсы, необходимые для точной настройки. Применяйте возможности экспериментирования и отслеживания Машинного обучения Azure, чтобы упорядочить задания обучения и найти модель, которая наилучшим образом подойдет для ваших потребностей.
  • Развертывание. Развертывание: развертывание предварительно обученных моделей Foundation Или точно настроенных моделей в сетевых конечных точках для вывода в режиме реального времени или пакетных конечных точек для обработки больших наборов данных вывода в режиме задания. Применение ведущих в отрасли возможностей эксплуатации машинного обучения в Машинное обучение Azure.
  • Импорт: модели с открытым исходным кодом выпускаются часто. Вы всегда можете использовать последние модели в Машинное обучение Azure путем импорта моделей, аналогичных моделям в каталоге. Например, можно импортировать модели для поддерживаемых задач, использующих те же библиотеки.

Начните с изучения коллекций моделей или фильтрации на основе задач и лицензий, чтобы найти модель для вашего варианта использования. Task вызывает задачу вывода, для которую можно использовать базовую модель. Finetuning-tasks перечислить задачи, для которые можно настроить эту модель. License вызывает сведения о лицензировании.

Коллекции

В каталоге моделей есть три типа коллекций:

Модели с открытым кодом, курируемые СИ Azure: наиболее популярные открытый код сторонние модели, курируемые Машинное обучение Azure. Эти модели упаковываются для использования вне коробки и оптимизированы для использования в Машинное обучение Azure, предлагая состояние производительности и пропускной способности на оборудовании Azure. Они предлагают встроенную поддержку распределенного обучения и могут быть легко перенесены на оборудование Azure.

"Курируемые Azure AI" и коллекции от партнеров, таких как Meta, NVIDIA, Mistral AI являются всеми курируемыми коллекциями в каталоге.

Модели Azure OpenAI, доступные исключительно в Azure: развертывание моделей Azure OpenAI с помощью коллекции Azure Open AI в каталоге моделей.

Модели преобразователей из концентратора HuggingFace: тысячи моделей из концентратора HuggingFace доступны через коллекцию Hugging Face для вывода в режиме реального времени с сетевыми конечными точками.

Внимание

Модели в каталоге моделей охватываются сторонними лицензиями. Ознакомьтесь с лицензией моделей, которые вы планируете использовать, и убедитесь, что лицензия позволяет использовать вариант использования. Некоторые модели в каталоге моделей в настоящее время находятся в предварительной версии. Модели находятся в предварительной версии, если к ним применяется одна или несколько следующих инструкций:
Модель недоступна (можно развертывать, настраивать и оценивать) в изолированной сети.
Схема упаковки и вывода модели может изменяться для более новых версий модели. Дополнительные сведения о предварительной версии см. в дополнительных условиях использования для предварительных версий Microsoft Azure.

Сравнение возможностей моделей по коллекции

Функция Модели с открытым кодом, курируемые Машинным обучением Azure Модели преобразователей из HuggingFace hub
Вывод Вывод в сети и пакетный вывод Вывод в сети
Оценка и тонкая настройка Оценка и точное настройку с помощью пользовательского интерфейса, пакета SDK или ИНТЕРФЕЙСА командной строки недоступно
Модели импорта Ограниченная поддержка импорта моделей с помощью SDK или CLI недоступно

Сравнение атрибутов коллекций

Атрибут Модели с открытым кодом, курируемые Машинным обучением Azure Модели преобразователей из HuggingFace hub
Формат модели Проверено в формате модели MLFlow или Triton для простого развертывания без кода с помощью сетевых и пакетных конечных точек Преобразователи
Размещение моделей Весы модели, размещенные в Azure Весовые коэффициенты для моделей извлекаются по запросу во время развертывания из HuggingFace hub.
Использование в изолированной сети рабочей области Внеограничная возможность исходящего трафика для использования моделей. Для установки пакетов во время выполнения некоторые модели требуют исходящего трафика в общедоступные домены. Разрешить исходящий трафик к концентратору HuggingFace, концентратору Docker и их CDN
Поддержка Поддерживается Microsoft и регламентируется Соглашением об уровне обслуживания службы "Машинное обучение" Azure Hugging face создает и поддерживает модели, перечисленные в реестре сообщества HuggingFace. Для получения помощи воспользуйтесь форумом HuggingFace или службой поддержки HuggingFace.

Подробнее