Поделиться через


Обновление или смена моделей с помощью Ask AI (предварительная версия)

Это важно

Элементы, обозначенные в этой статье как (предварительная версия), сейчас предлагаются в общедоступной предварительной версии. Эта предварительная версия предоставляется без соглашения об уровне обслуживания, и мы не рекомендуем ее для рабочих нагрузок. Некоторые функции могут не поддерживаться или их возможности могут быть ограничены. Дополнительные сведения см. в разделе Supplemental Terms of Use for Microsoft Azure Previews.

Используйте Спросите ИИ — встроенный помощник на портале Microsoft Foundry — для обнаружения устаревших или вышедших из употребления моделей, сравнения альтернатив и обновления развернутых моделей или агентов до более новых версий. Просмотрите рекомендации по обновлению, оцените новую модель, сравните производительность и обновите агент — все из панели чата Ask AI.

Замечание

Рекомендации по обновлению модели ИИ доступны для моделей, развернутых с помощью моделей Foundry. Дополнительные сведения о возможностях и доступности Ask AI см. в статье "Что такое Ask AI?"

Предпосылки

Открытие сеанса чата в Ask AI

Вы можете начать чат с Ask AI с любой страницы на портале Foundry.

  1. Щелкните значок Ask AI в верхней части страницы.

  2. Выберите предопределенный запрос, например следует ли обновить модель?, в баннере Ask AI . Эти подсказки отображаются на страницах сведений о модели, агенте и мониторинге. Снимок экрана панели Ask AI, показывающий предопределенные запросы для обновления модели, включая: «Должен ли я обновить свою модель?» и «Есть ли какая-либо модель, которую я использую, устарела?».

    Откроется панель чата Ask AI справа от страницы. Вы можете ввести вопросы или выбрать предопределенный запрос для начала.

Просмотр рекомендаций по обновлению модели

Используйте ИИ, чтобы проверить, устарели ли какие-либо развернутые модели или доступны более новые версии.

  1. На панели чата Ask AI введите вопрос о развернутых моделях. Например, попробуйте "Стоит ли обновить мою модель?" или "Не устарела ли какая-то из моделей, которые я использую?"

    Снимок экрана: Запрос ИИ, отображающий список рекомендуемых обновлений моделей с подробными сведениями о сравнении версий.

  2. Просмотрите список рекомендуемых моделей, которые отображает Ask AI. Выделены ключевые различия между текущей моделью и рекомендуемыми альтернативами.

  3. Выберите имя модели для просмотра сведений в каталоге моделей или выберите "Развернуть ", чтобы перейти на страницу развертывания модели. Сведения о развертывании модели см. в статье "Добавление и настройка моделей в модели Foundry".

    Скриншот страницы сведений о модели, показывающий возможности модели, с функцией "Ask AI," предлагающей страницы связанных моделей для ознакомления.

  4. После развертывания рекомендуемой модели перейдите на страницу "Развертывания" и убедитесь, что состояние развертывания отображается успешно , прежде чем продолжить оценку.

Оценка и сравнение производительности модели

После развертывания новой модели оцените ее в отношении текущей модели, используя те же инструкции и конфигурации агента.

  1. В Ask AI попросите оценить только что развернутую модель. Перейдите по ссылке, которую предоставляет ИИ, или позвольте ИИ настроить для вас тестовый запуск. Дополнительные сведения о настройке вручную см. в разделе "Оценка создаваемого приложения ИИ".

    Скриншот страницы создания оценки, где AI помогает шаг за шагом настраивать оценку модели.

  2. После завершения оценки откройте страницу сведений об оценке, чтобы просмотреть оценки метрик для обеих моделей параллельно.

  3. Используйте анализ сравнения или кластера для анализа различий в релевантности, заземленности и согласованности.

Если новая модель не является удовлетворительной, проверьте другие модели и повторите эти действия. Каждый новый запуск отображается вместе с предыдущими запусками в одной и той же оценке, чтобы сравнить результаты между несколькими моделями.

Обновите вашего агента для использования новой модели

Убедившись, что новая модель соответствует вашим требованиям, обновите агента, чтобы начать её использовать.

  1. Введите в Ask AI запрос, например "Обновить моего агента для использования новой модели".
  2. Спросите ИИ идентифицировать агента и текущую модель, а затем отобразить предлагаемое изменение. Проверьте сводные данные.
  3. Нажмите Применить для подтверждения переключения модели. Ask AI создает новую версию агента, которая использует обновленную модель.
  4. Проверьте обновление, проверив историю версий агента на странице Agent Playground. На странице отображается новая версия с обновленной моделью, которая видна в истории версий.

Чтобы обновить вручную, перейдите на страницу Agent Playground, выберите своего агента и измените модель в конфигурации агента. Чтобы найти других агентов в вашем проекте, использующих ту же модель, введите "Найти других агентов, использующих эту модель" в Ask AI.

Замечание

При обновлении модели агента изменение применяется к новым беседам. Разговоры, находящиеся в процессе, продолжают использовать предыдущую модель до тех пор, пока они не завершатся.

Откат к предыдущей модели

Если новая модель не соответствует вашим требованиям после обновления, вернитесь к предыдущей версии:

  1. Перейдите на страницу Agent Playground и выберите вашего агента.
  2. Откройте журнал версий и выберите предыдущую версию.
  3. Выберите "Восстановить", чтобы вернуть агент в конфигурацию более ранней модели.
  4. Проверьте откат изменений, проверив агент в тестовой среде.

Замечание

Откат восстанавливает только конфигурацию агента. Записи о выполнении и развертывании для новой модели остаются в истории проекта.

Устранение распространенных неполадок

Проблема Резолюция
Функция "Спросить ИИ" не предлагает обновления моделей. Убедитесь, что развернутая модель имеет более новую версию, доступную в каталоге моделей. Ask AI рекомендует обновления только если существуют более новые версии.
Не удается запустить процесс оценки Убедитесь, что набор данных оценки находится в формате CSV или JSONL, и у вас есть роль пользователя Azure AI (или более высокая) в проекте.
Новая модель работает хуже текущей модели Используйте сравнить для оценки по метрикам. Перед переключением рекомендуется протестировать другую модель или настроить инструкции агента.
Обновление агента не вступает в действие Проверьте историю версий агента в Agent Playground для подтверждения создания новой версии. Чтобы вернуться, см. раздел "Откат к предыдущей модели".

После обновления модели и проверки производительности агента рассмотрите возможность мониторинга текущей производительности модели или изучения параметров оптимизации затрат.