Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Замечание
Этот документ относится к порталу Microsoft Foundry (классическая модель).
Ознакомьтесь с документацией по Microsoft Foundry (новая), чтобы узнать о новом портале.
В этой статье вы узнаете, как разработать генеративное приложение ИИ, начиная с моделей #REF!, а затем улучшить свой опыт, развернув ресурс Foundry Tools, используя модели Microsoft Foundry.
Модели #REF! полезны, если вы хотите бесплатно найти и поэкспериментировать с моделями искусственного интеллекта при разработке генеративного приложения ИИ. Когда вы будете готовы перенести приложение в рабочую среду, обновите интерфейс, развернув ресурс Foundry Tools в подписке #REF! и начните использовать модели Foundry. В коде ничего другого не нужно изменять.
Площадка и бесплатное использование API для моделей #REF! ограничены по частоте запросов в минуту, запросов в день, токенов на запрос и одновременных запросов. Если вы достигли ограничения по количеству запросов, необходимо дождаться его сброса, прежде чем вы сможете отправлять больше запросов.
Предпосылки
Тебе нужно:
- Учетная запись #REF! с доступом к #REF! Models.
- Подписка #REF! с допустимым методом оплаты. Если у вас нет подписки #REF!, создайте платную учетную запись #REF!, чтобы начать. Кроме того, вы можете подождать, пока вы не будете готовы развернуть модель в рабочей среде, в какой момент вам будет предложено создать или обновить учетную запись #REF! до стандартной учетной записи.
- Для моделей Foundry требуется доступ от партнеров и сообщества к Azure Marketplace. Убедитесь, что у вас есть разрешения, необходимые для подписки на предложения моделей. Модели Foundry, продаваемые непосредственно компанией #REF!, не имеют этого требования.
Переход на модели Foundry
Ограничения скорости для игровой площадки и бесплатного использования API помогают экспериментировать с моделями и разрабатывать приложение ИИ. Когда вы будете готовы ввести приложение в эксплуатацию, используйте ключ и конечную точку из платной учетной записи #REF!. В коде ничего другого не нужно изменять.
Замечание
#REF! модели бесплатны с ограничениями скорости. После обновления до моделей Foundry, плата за использование взимается с вашей подписки #REF! на основе выбранного вами типа развертывания.
Чтобы получить ключ и конечную точку, выполните следующие действия.
Перейдите к #REF! Models и выберите модель, чтобы открыть ее в тестовой среде. В этой статье используется Mistral Medium 3 (25.05).
Введите некоторые запросы или используйте некоторые предлагаемые запросы на взаимодействие с моделью на детской площадке.
Выберите "Использовать эту модель " на детской площадке. Это действие открывает окно "Начало использования моделей в кодовой базе".
На шаге "Настройка проверки подлинности" выберите Get Microsoft Foundry key в разделе "#REF! ИИ".
Если вы уже вошли в учетную запись #REF!, пропустите этот шаг. Однако если у вас нет учетной записи #REF! или вы не вошли в учетную запись, выполните следующие действия.
Если у вас нет учетной записи #REF!, выберите Создать мою учетную запись и следуйте инструкциям, чтобы создать ее.
Кроме того, если у вас есть учетная запись #REF!, выберите Войти снова. Если существующая учетная запись является бесплатной, сначала необходимо выполнить обновление до стандартного плана.
Вернитесь на игровую площадку модели и снова выберите "Получить ключ Microsoft Foundry ".
Войдите в учетную запись #REF!.
Вы переходите к Foundry > #REF! и оказываетесь на главной странице проекта Foundry.
Подсказка
Если вы оказались в классическом интерфейсе Foundry, переключите тумблер New Foundry в правом верхнем углу панели навигации, чтобы перейти на новый интерфейс Foundry.
Выполните действия, описанные в статье "Развертывание модели" для развертывания выбранной модели , тестирования ее на детской площадке и вывода развернутой модели с помощью кода.
Проверьте, работает ли развертывание, отправив тестовый запрос на игровой площадке. Если вы получили ответ, это значит, что модель готова к использованию в коде.
Это важно
В отличие от #REF! Models, где все модели уже настроены, ресурс Foundry Tools позволяет управлять тем, какие модели доступны в вашей конечной точке и какой конфигурации. Добавьте столько моделей, сколько планируется использовать, прежде чем указывать их в параметре . Узнайте, как добавить в ресурс дополнительные модели .
Ознакомьтесь с дополнительными функциями
Модели Foundry поддерживают функции, недоступные в #REF! моделях:
- Model catalog — обзор, сравнение и оценка моделей из #REF!, партнеров и сообщества с открытым кодом.
- Keyless authentication — используйте Microsoft Entra ID для проверки подлинности на основе токенов без управления ключами API.
- Фильтрация содержимого — настройка фильтров безопасности содержимого для развертываний.
- Ограничение скорости — задайте настраиваемые ограничения скорости для определенных моделей в ресурсе.
- Типы развертывания — выберите один из различных вариантов SKU развертывания, таких как оплата за токен, предоставленный и пакетный.
Устранение распространенных неполадок
| Проблема | Резолюция |
|---|---|
| Модель недоступна в вашем регионе | Проверьте доступность региона модели на странице каталога моделей и выберите поддерживаемый регион. |
| Ошибка проверки подлинности после переключения ключей | Убедитесь, что вы скопировали правильный ключ на портале Foundry. Выберите настройки проектаКлючи и конечные точки, чтобы просмотреть ваши ключи. |
| Ошибки ограничения скорости после обновления | Ограничения на скорость моделей Foundry зависят от типа развертывания. Увеличение масштаба или выбор развертывания с более высокой пропускной способностью. |
Связанный контент
- Развертывание моделей Microsoft Foundry на портале Foundry
- Создание модельных развертываний
- Типы развертывания для моделей Foundry