Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
В этой статье вы узнаете, как разработать генеративное приложение ИИ, начиная с моделей GitHub, а затем улучшить ваш опыт, развернув ресурс Foundry Tools с использованием моделей Microsoft Foundry.
Модели GitHub полезны, если вы хотите найти и поэкспериментировать с моделями искусственного интеллекта бесплатно при разработке создания приложения искусственного интеллекта. Когда вы будете готовы перенести приложение в рабочую среду, обновите интерфейс, развернув ресурс Foundry Tools в подписке Azure и начните использовать модели Foundry. В коде ничего другого не нужно изменять.
Платформа и бесплатное использование API для моделей GitHub ограничены запросами в минуту, запросами в день, маркерами на запрос и одновременные запросы. Если вы достигли ограничения по количеству запросов, необходимо дождаться его сброса, прежде чем вы сможете отправлять больше запросов.
Предпосылки
Тебе нужно:
- Учетная запись GitHub с доступом к моделям GitHub.
- Подписка Azure с допустимым методом оплаты. Если у вас нет подписки Azure, создайте платную учетную запись Azure, чтобы начать работу. Кроме того, вы можете ждать, пока вы не будете готовы развернуть модель в рабочей среде, в какой момент вам будет предложено создать или обновить учетную запись Azure до стандартной учетной записи.
- Модели foundry от партнеров и сообщества требуют доступа к Azure Marketplace. Убедитесь, что у вас есть разрешения, необходимые для подписки на предложения моделей. Модели Foundry, проданные непосредственно через Azure, не имеют этого требования.
Переход на модели Foundry
Ограничения скорости для игровой площадки и бесплатного использования API помогают экспериментировать с моделями и разрабатывать приложение ИИ. Когда вы будете готовы перенести приложение в рабочую среду, используйте ключ и конечную точку из платной учетной записи Azure. В коде ничего другого не нужно изменять.
Замечание
Модели GitHub бесплатны с ограничениями скорости. После обновления до Foundry Models биллинг за использование производится на подписку Azure на основе выбранного типа развертывания.
Чтобы получить ключ и конечную точку, выполните следующие действия.
Перейдите к моделям GitHub и выберите модель, чтобы приземлиться на своей площадке. В этой статье используется Mistral Medium 3 (25.05).
Введите некоторые запросы или используйте некоторые предлагаемые запросы на взаимодействие с моделью на детской площадке.
Выберите "Использовать эту модель " на детской площадке. Это действие открывает окно "Начало использования моделей в кодовой базе".
На шаге "Настройка проверки подлинности" выберите "Получить ключ Microsoft Foundry " в разделе "Azure AI".
Если вы уже вошли в учетную запись Azure, пропустите этот шаг. Однако если у вас нет учетной записи Azure или вы не вошли в учетную запись, выполните следующие действия.
Если у вас нет учетной записи Azure, нажмите кнопку "Создать учетную запись " и выполните действия, чтобы создать ее.
Кроме того, если у вас есть учетная запись Azure, нажмите кнопку "Войти". Если существующая учетная запись является бесплатной, сначала необходимо выполнить обновление до стандартного плана.
Вернитесь на игровую площадку модели и снова выберите "Получить ключ Microsoft Foundry ".
Войдите в свою учетную запись Azure.
Вас перенаправляют в GitHub Foundry >, где вы попадаете на главную страницу проекта Foundry.
Подсказка
Если вы оказались в классическом интерфейсе Foundry, переключите тумблер New Foundry в правом верхнем углу панели навигации, чтобы перейти на новый интерфейс Foundry.
Выполните действия, описанные в статье "Развертывание модели" для развертывания выбранной модели , тестирования ее на детской площадке и вывода развернутой модели с помощью кода.
Проверьте, работает ли развертывание, отправив тестовый запрос на игровой площадке. Если вы получили ответ, это значит, что модель готова к использованию в коде.
Это важно
В отличие от моделей GitHub, где все модели уже настроены, ресурс Foundry Tools позволяет управлять моделями, доступными в конечной точке, и в какой конфигурации. Добавьте столько моделей, сколько планируется использовать, прежде чем указывать их в параметре model . Узнайте, как добавить в ресурс дополнительные модели .
Ознакомьтесь с дополнительными функциями
Foundry Models поддерживает функции, недоступные в моделях GitHub:
- Каталог моделей — обзор, сравнение и оценка моделей из Azure, партнеров и сообщества с открытым кодом.
- Проверка подлинности без ключей — используйте идентификатор Microsoft Entra для проверки подлинности на основе токенов без управления ключами API.
- Фильтрация содержимого — настройка фильтров безопасности содержимого для развертываний.
- Ограничение скорости — задайте настраиваемые ограничения скорости для определенных моделей в ресурсе.
- Типы развертывания — выберите один из различных вариантов SKU развертывания, таких как оплата за токен, предоставленный и пакетный.
Устранение распространенных неполадок
| Проблема | Резолюция |
|---|---|
| Модель недоступна в вашем регионе | Проверьте доступность региона модели на странице каталога моделей и выберите поддерживаемый регион. |
| Ошибка проверки подлинности после переключения ключей | Убедитесь, что вы скопировали правильный ключ на портале Foundry. Выберите настройки проекта>Ключи и конечные точки, чтобы просмотреть ваши ключи. |
| Ошибки ограничения скорости после обновления | Ограничения на скорость моделей Foundry зависят от типа развертывания. Увеличение масштаба или выбор развертывания с более высокой пропускной способностью. |