Миграция из концентраторов в проекты Foundry (классическая модель)

Замечание

Этот документ относится к порталу Microsoft Foundry (классическая модель).

🔍 Ознакомьтесь с документацией по Microsoft Foundry (новая), чтобы узнать о новом портале.

Что вы будете делать: создайте новый проект Foundry и при необходимости переносите агенты и подключения из центральных проектов.

Оценка времени: 5–10 минут.

Prerequisites:

• Существующий центральный проект
• Роль Azure: роль владельца подписки или группы ресурсов для создания ресурсов и проектов и назначения ролей новому проекту.

Это руководство помогает существующим клиентам перенести проекты на основе концентраторов в новые проекты Foundry, чтобы получить доступ к новейшим возможностям платформы.

Microsoft Foundry переходит на единую платформу как службу, заменив предыдущую модель ресурсов, требующую управления несколькими службами Azure. По мере того как рабочие нагрузки ИИ становятся более сложными, проект Foundry:

• Упрощение настройки платформы и управления
• Улучшение рабочих процессов, охватывающих несколько моделей и средств Foundry
• Укрепление возможностей управления

Подробнее.

Это важно

Новые генеративные функции ИИ и ориентированные на модели функции доступны только через ресурс Foundry и его проекты Foundry. В настоящее время для некоторых возможностей по-прежнему требуется хаб рядом с ресурсом Foundry. Сравнение возможностей см. в разделе "Какой тип проекта мне нужен?"

Обзор проектов New Foundry

Проекты Foundry объединяют и упрощают состав рабочих процессов разработчиков и управление основными стандартными блоками приложений ИИ. К этим стандартным блокам относятся:

• Модели
• Агенты и их инструменты
• Наблюдаемость, безопасность и доверие

Ранее возможности проекта Foundry требовали управления несколькими ресурсами Azure и пакетами SDK для рабочих процессов в серверной части для создания этих компонентов.

К новым возможностям относятся:

• Доступ к API Foundry, который предназначен для создания и оценки API-first агентских приложений, компонентами которых являются агенты, оценки, индексы моделей и данные в едином опыте и согласованном контракте между поставщиками моделей.

• Microsoft Foundry SDK оборачивает Foundry API, что делает легкой интеграцию возможностей в код, будь то ваше приложение на Python, C#, JavaScript, TypeScript или Java.

• Агенты, модели и подключения инструментов управляются вместе в Foundry для управления разрешениями, сети, анализа затрат и настройки политики. Ранее некоторые средства и модели были доступны через платформу Машинного обучения Azure, требуя также подготовки дополнительных ресурсов для хранения данных и хранилища ключей.

• Проекты теперь являются дочерними ресурсами; они могут иметь собственные элементы управления, такие как Azure RBAC, но по умолчанию разделяют общие параметры с родительским ресурсом. Этот принцип направлен на то, чтобы ИТ-администраторы вышли из повседневного цикла. После того как безопасность, подключение к ресурсам и управление ресурсами установлены на уровне ресурсов, как разработчик, вы можете создать собственный проект в виде папки для организации своей работы.

Это важно

Набор функций для проектов Foundry пока не имеет полного соответствия с проектами, основанными на центрах. Для получения актуальной информации о поддерживаемых функциях см. эту матрицу поддержки.

Как переключиться на проект Foundry

Создайте новые проекты Foundry в ресурсе моделей Foundry из проекта на базе узла. Этот процесс позволяет новым проектам получать доступ к работе, выполняемой первоначально в проекте на основе концентратора.

Что переносится в проекты Foundry

• Развертывания моделей
• Файлы данных
• Точно настроенные модели
• Assistants
• Хранилища векторов

Что не передается

• Состояние агента предварительной версии (сообщения, потоки, файлы) — вы можете повторно создать агент с помощью кода в новом проекте.
• Развертывания моделей с открытым исходным кодом в настоящее время не поддерживаются проектами Foundry
• Доступ к проекту концентратора — у проектов на основе концентратора нет доступа к каким-либо из новых проектов, созданных на ресурсе моделей Foundry

В следующих разделах вы узнаете, как перейти из центральных проектов в проекты Foundry:

1. Найдите существующий ресурс Foundry
2. Создайте проект Foundry в ресурсе ИИ.

После создания нового проекта может потребоваться:

• (Необязательно) Повторное создание подключений
• (Необязательно) Перенести агентов

1. Поиск существующего ресурса Foundry

Большинство пользователей Foundry уже имеют ресурс Foundry (прежнее название — службы ИИ), который они ранее создали вместе с проектом на основе концентратора для доступа к развертываниям моделей.

Замечание

Если у вас нет существующего ресурса Foundry, что чаще всего происходит из-за использования вашего хаба Azure OpenAI для доступа к развёртыванию моделей, вам необходимо сначала создать новый ресурс Foundry. Вы можете подключить существующий ресурс Azure OpenAI для продолжения доступа к существующим развертываниям моделей. Для использования со службой агента применяются другие действия по настройке. Дополнительные сведения см. в статье "Создание проекта для сборки с помощью агентов (Bicep)" и "Стандартная настройка агента".

Портал Foundry

1. На портале Foundry откройте проект на основе концентратора.

2. В левой области выберите центр управления.

3. Выберите подключенные ресурсы в разделе Концентратор.

4. Найдите соединение моделей Foundry и выберите ссылку для просмотра сведений.

   

   Подсказка

   Если столбец Type не отображается, выберите "Столбцы " в правом верхнем углу, чтобы настроить отображаемые столбцы.

5. Перейдите по ссылке в сведениях о подключении, чтобы открыть страницу обзора ресурса Foundry.

   

Портал Azure

1. На портале Azure выберите группу ресурсов, содержащую проект на основе концентратора.

2. Чтобы найти ваш ресурс, используйте тип ресурса «Foundry».

   

3. Перейдите по ссылке, чтобы открыть страницу обзора ресурса Foundry.

Бицепс

1. Если вы используете шаблоны инфраструктуры как кода, такие как Bicep (или шаблон Azure Resource Manager или Terraform), шаблон обычно содержит несколько ресурсов Azure.

2. Найдите ресурс типа CognitiveServices/account/kind=AIServices. Этот ресурс является вашим ресурсом Foundry, так как он отображается на портале Foundry или на портале Azure.

2. Создание нового проекта

Новые возможности, включая службу агента, доступны только через проекты. Каждый проект упорядочивает работу разработки в качестве папки для каждого варианта использования. Можно создать несколько проектов, чтобы упорядочить работу для вариантов использования с аналогичными требованиями к настройке и подключению.

Портал Foundry

Вы можете создать проект одним из двух способов:

• В центре управления:

  1. В левой области выберите центр управления для управления ресурсом Foundry.

  2. Выберите "Обзор" в разделе "Ресурс ".

  3. Выберите новый проект , чтобы создать проект в этом ресурсе. Это действие создает проект Foundry.

     

  4. После создания проекта в левой области выберите "Перейти к проекту".

• В разделе "Агенты" ресурса:

  1. В левой области выберите "Агенты".

  2. Так как ресурс еще не имеет проекта, вам будет предложено создать его.

     

Портал Azure

1. В левой области выберите "Проекты " в разделе "Управление ресурсами ".
2. Выберите "Создать" , чтобы создать проект.
3. Введите имя и нажмите кнопку "Создать".

Бицепс

1. В шаблоне проект является дочерним ресурсом в ресурсе Foundry, как показано в этом примере.

2. По умолчанию в базовой конфигурации служба агента использует возможности развертывания и хранилища, которые входят в ресурс Foundry.

3. Кроме того, служба агента поддерживает возможность использовать существующие ресурсы Azure OpenAI для развертываний моделей и использовать собственные ресурсы хранилища для хранения потоков, сообщений и файлов. Эта настройка также называется "Стандартный". Смотрите этот пример в качестве примера шаблона Bicep.

Теперь вы готовы начать создание агентов в общедоступной доступности и с новейшими возможностями. Начало работы с пакетом SDK или игровой площадкой агента.

(Необязательно) Повторное создание подключений

Если проект на основе концентратора использовал подключения для доступа к средствам, источникам данных или моделям, вы можете повторно создать эти подключения в ресурсе Foundry без использования концентратора.

Портал Foundry

В центре управлениядобавьте все подключения к средствам и данным, которые вы использовали раньше в первоначальном проекте на основе концентратора.

Портал Azure

Невозможно добавить подключения на портале Azure. Используйте портал Foundry или шаблон Bicep для добавления подключений.

Бицепс

Если вы предпочитаете использовать шаблоны Bicep, ознакомьтесь с этим репозиторием с примерами.

Вы определяете подключения как экземпляры типа CognitiveServices/account/connections и CognitiveServices/account/project/connections. Выберите подключения на уровне учетной записи для общего доступа в проектах.

(Необязательно) Перенос агентов управления кодом

Чтобы перейти от предварительной версии службы агента к службе агента в общедоступной доступности в проектах Foundry, обновите агенты кода, выполнив следующие изменения:

1. Установите последнюю версию предпочтительного клиента ПАКЕТА SDK.

2. Обновите клиент проекта, чтобы использовать API Foundry. Вместо строки подключения теперь используется конечная точка проекта Foundry. Например, в Python:

   from azure.identity import DefaultAzureCredential
   from azure.ai.projects import AIProjectClient
   
   project = AIProjectClient(
     endpoint="your_project_endpoint",  # Replace with your endpoint
     credential=DefaultAzureCredential())
   

   Этот фрагмент кода аутентифицируется в вашем проекте Foundry с помощью библиотеки удостоверений Azure и создает экземпляр клиента для проекта. Конечная точка вашего проекта Foundry — это endpoint; для проверки подлинности через DefaultAzureCredential используются ваши учетные данные Azure.

   Справочник: AIProjectClient, DefaultAzureCredential, руководство по миграции пакета SDK

3. Обновите скрипт, чтобы отразить изменения структуры классов между предварительным просмотром и стабильными пакетами SDK.

Дополнительные сведения см. в руководстве по миграции пакета SDK.

(Необязательно) Упорядочивание хаб-ориентированных проектов

Если вам больше не нужен доступ к проектам, основанным на хабе, удалите их из подписки Azure.

Возможно, вы захотите сохранить концентраторы и проекты на их основе в вашей подписке по ряду причин:

• Доступ к выбору функций, которые еще не поддерживаются в проектах Foundry. Смотрите эту матрицу поддержки.

• Варианты использования, ориентированные на обучение пользовательской модели машинного обучения. Проект на основе концентратора основан на стеке машинного обучения Azure и остается доступным через Студию машинного обучения Azure, ИНТЕРФЕЙС командной строки или пакет SDK.

Портал Foundry

1. На портале Foundry откройте проект на основе концентратора.

2. Выберите центр управления.

3. Выберите «Обзор» в разделе «Концентратор».

4. Выберите все проекты, которые вы больше не хотите хранить.

5. Выберите "Удалить проект".

6. Удалите все проекты, которые вы больше не хотите хранить.

7. В разделе свойств Концентратора справа выберите пункт "Удалить концентратор ", если вы хотите удалить концентратор и все его проекты. Этот параметр открывает портал Azure для удаления концентратора.

Портал Azure

1. На портале Azure выберите группу ресурсов, содержащую проект на основе концентратора.
2. Выберите ссылку для ресурса Центра искусственного интеллекта Azure .
3. Выберите "Удалить", чтобы удалить концентратор и все связанные с ним проекты.

Предостережение

Убедитесь, что не удаляете ресурс Foundry, так как он содержит ваши текущие развертывания, файлы и задания тонкой настройки, а в будущем будет управлять проектами Foundry.

Бицепс

1. Сохраните тип ресурса CognitiveServices/account/kind=AIServices . Этот тип ресурса представляет ваш ресурс Foundry.

2. Удалите Microsoft.MachineLearningServices/workspace/kind=project и Microsoft.MachineLearningServices/workspace/kind=hub из определения шаблона.

3. Используйте альтернативные методы для удаления ресурсов, так как Bicep не поддерживает это действие.

Узнать больше

• Развертывание платформы Foundry в моей организации

• Примеры шаблонов Bicep

• Примеры шаблонов Terraform

• Руководство по миграции пакета SDK