Введение

  • 3 мин

Для создания эффективных созданных приложений ИИ требуется выбор подходящей базовой модели для конкретного варианта использования. Благодаря тысячам доступных моделей требуется структурированный подход для обнаружения, сравнения, развертывания и проверки соответствия модели вашим требованиям.

Рассмотрим сценарий, в котором вы создаете чат-бот для поддержки клиентов, работающий на базе ИИ, для розничной компании. Необходимо выбрать языковую модель, которая может понять вопросы клиента, предоставить точные ответы и поддерживать соответствующие стандарты тонности и безопасности. Но как выбрать из обширного каталога доступных моделей? Как узнать, хорошо ли работает модель для конкретных потребностей? И как измерить и улучшить производительность после развертывания?

Портал Microsoft Foundry предоставляет полную платформу для всего рабочего процесса. Вы можете изучить более 1900 моделей от поставщиков, таких как Microsoft, Anthropic, OpenAI, Meta и Hugging Face. Вы можете сравнить модели с помощью стандартных отраслевых показателей качества, безопасности, стоимости и производительности. Выбрав модель, вы развернете ее в конечной точке, где приложение может использовать его. Наконец, вы оцениваете производительность модели с помощью автоматических метрик и ручного тестирования, чтобы обеспечить соответствие требованиям к качеству и безопасности.

В этом модуле вы узнаете, как использовать портал Microsoft Foundry для выбора, развертывания и оценки моделей из каталога моделей. Вы узнаете, как принимать обоснованные решения о выборе модели, понимать различные варианты развертывания и оценивать производительность модели с помощью различных подходов оценки.

К концу этого модуля вы сможете:

  • Изучение и фильтрация моделей в каталоге моделей
  • Сравнение моделей с использованием эталонных метрик для качества, безопасности, затрат и производительности
  • Развертывание модели в конечной точке и тестирование ее на детской площадке
  • Оценка производительности модели с помощью ручных и автоматизированных подходов
  • Общие сведения о различных метриках оценки и их использовании

Замечание

Мы понимаем, что разные люди любят учиться по-разному. Этот модуль можно выполнить в видеоформате или прочитать его как текст и изображения. Текст содержит больше подробностей, чем видео, поэтому в некоторых случаях может потребоваться ссылаться на него как дополнительный материал для презентации видео.