Модель, обслуживающая наблюдаемость с помощью Кода Genie

Это важно

Эта функция доступна в общедоступной предварительной версии.

В этой статье описывается, как Genie Code помогает диагностировать проблемы, анализировать производительность и получать рекомендации по конечным точкам обслуживания модели.

Требования

Чтобы использовать Код Genie для обеспечения наблюдаемости модели, рабочей области потребуется следующее:

Замечание

В настоящее время Genie Code поддерживает только пользовательские конечные точки обслуживания моделей.

С чем может помочь Genie Code?

При использовании Genie Code на странице конечной точки обслуживания модели он становится компаньоном для обслуживания моделей. Он может анализировать работоспособность конечных точек, диагностировать сбои развертывания, исследовать проблемы задержки и предоставлять рекомендации — все из панели кода Genie.

Панель кода Genie на странице конечной точки

Genie Code — это помощник только для чтения в этом режиме. Он может проверять конечные точки и предоставлять рекомендации, но не может изменять конфигурации или развертывания. Она содержит четкие пошаговые инструкции и ссылки на документацию, чтобы вы могли вносить изменения самостоятельно.

Начало работы

Чтобы приступить к работе, выполните приведенные действия.

  1. Перейдите на страницу конечной точки обслуживания модели.
  2. Щелкните значок Sparkle genie Code., чтобы открыть панель Genie Code.
  3. В правом нижнем углу выберите агент. Этот параметр переключается в режиме агента Genie Code.
  4. Введите запрос, описывающий необходимую помощь. Например, "Проверьте работоспособность этой конечной точки" или "Почему моя задержка настолько высока?"

Возможности

Проверки состояния и диагностика

Genie Code может анализировать состояние и конфигурацию конечной точки, чтобы определить потенциальные проблемы:

  • Проверьте работоспособность конечных точек и состояния развертывания.
  • Ознакомьтесь с рекомендациями по настройке.
  • Оценка масштабирования и использования ресурсов.

Устранение неполадок и анализ

Genie Code может помочь устранить проблемы с конечными точками:

  • Диагностика сбоев развертывания с помощью журналов сборки, событий и состояния конечной точки.
  • Изучение проблем с высокой задержкой или временем ожидания с помощью метрик, событий и данных таблицы вывода.
  • Анализ шаблонов ошибок из журналов служб и таблиц вывода заключений.
  • Определите неправильные конфигурации или ограничения ресурсов.
  • Сравнение текущих и ожидающих конфигураций с оценкой рисков.

Руководство и рекомендации

Genie Code содержит рекомендации на основе конфигурации конечной точки:

  • Рекомендуем оптимальные конфигурации масштабирования для производственных и разработческих нагрузок.
  • Объяснение состояний и переходов конечной точки.
  • Руководство по настройке мониторинга и наблюдаемости.
  • Выполните поиск документации Azure Databricks и предоставьте ссылки на соответствующие статьи.

Случаи использования

Попробуйте начать работу с этими запросами:

  • Проверки работоспособности:
    • "Проверьте работоспособность этой конечной точки".
    • "Правильно ли настроена моя конечная точка?"
    • "Просмотрите конфигурацию масштабирования моей конечной точки".
  • Сбои развертывания:
    • "/диагностика" или "Почему произошел сбой развертывания?"
    • "Помогите мне устранить ошибки развертывания".
    • "Моя конечная точка застряла в состоянии ожидания".
  • Отладка задержки:
    • "Почему моя задержка так высока?"
    • Проанализируйте резкий скачок задержки сегодня утром.
    • "Показать мне метрики производительности за последние 24 часа".
  • Проверка конфигурации:
    • "Что изменилось в моей ожидающей конфигурации?"
    • "Подходит ли параметр параллелизма для рабочей среды?"
    • "Показать мне конфигурацию таблицы вывода".
  • Журнал запросов:
    • "Показать мне последние запросы к этой конечной точке".
    • "Какие ошибки возникают у моих пользователей?"
    • "Анализ шаблонов ошибок с прошлой недели".

Дополнительные ресурсы