Трассировка и обработка данных

Foundry tracing — это функция наблюдаемости в Microsoft Foundry, которая собирает клиентские данные из агентов ИИ. Это помогает разработчикам и операторам понять системное поведение, отладочные проблемы и оптимизировать производительность.

Сведения о трассировке записей, например:

  • Входные данные и запросы пользователей
  • Входные и выходные данные агента и модели
  • Вызовы инструментов и промежуточные шаги
  • Метаданные выполнения (метки времени, задержка, использование маркеров, ошибки и т. д.)

Эти данные могут включать содержимое, созданное пользователем, и операционную телеметрию.

Эти данные используются для получения сведений о том, как работают агенты, что позволяет устранять неполадки и повысить производительность в рабочих процессах агента. Foundry использует стандарты OpenTelemetry и сохраняет данные трассировки в подключенных системах телеметрии Azure Monitor Application Insights.

Important

Когда вы включаете AppInsights для проекта, AppInsights записывает трассировки, чтобы помочь отслеживать и оценивать взаимодействия пользователей с агентами. Участники проекта с ролью «Читатель Log Analytics» в AppInsights могут просматривать данные трассировки, которые могут содержать персональные данные и клиентский контент. Если базовые Log Analytics таблицы защищены (их уровень защиты имеет значение "Защищенный"), членам требуется роль "Читатель привилегированных данных мониторинга" для просмотра данных трассировки. Просмотрите, какие данные трассировки собираются и кто может просматривать и использовать эти данные. Дополнительные сведения см. в следующем разделе.

Состояние по умолчанию:

  • Трассировка отключена по умолчанию.
  • Данные трассировки не собираются и не хранятся, если только владелец учетной записи Foundry или владелец Foundry явно не включит эту функцию.

Может взиматься дополнительная плата за Azure Monitor App Insights.

Это гарантирует, что клиенты сохраняют контроль над началом сбора данных.

Включить трассировку

Трассировка включается, когда проект подключён к ресурсу Azure Monitor Application Insights. Типичные сценарии активации включают:

  • Создание или подключение ресурса Application Insights во время создания проекта.
  • Создание или подключение ресурса Application Insights к существующему проекту без подключенного ресурса Application Insights.

При включении трассировки:

  • Данные трассировки начинают собираться и храниться для всех агентов проекта.
  • Чтобы просматривать трассировки в интерфейсе Foundry Tracing, пользователям необходим доступ к проекту Foundry и права на чтение в подключённой рабочей области Application Insights или Log Analytics. Например, этот доступ могут предоставлять такие роли, как «Читатель Log Analytics», «Читатель мониторинга» или «Читатель» на уровне ресурса Application Insights, рабочей области Log Analytics или соответствующей родительской области. Если базовые таблицы Log Analytics защищены, назначенным пользователям также требуется роль Privileged Monitoring Data Reader для чтения этих данных.

Отключение трассировки

Отключите отслеживание следующим образом:

  • Отключение или удаление ресурса Application Insights.

После отключения трассировки:

  • В этом проекте агенты не собирают новые данные трассировки.
  • Ранее собранные данные остаются подвержены политикам хранения Application Insights.

Note

Точные шаги по отключению трассировки зависят от поверхности пользовательского интерфейса или пакета SDK и должны соответствовать документации по продуктам.

Место хранения данных

Рекомендации по совместному использованию данных

  • Данные трассировки могут быть доступны пользователям с соответствующими разрешениями на подключенный ресурс телеметрии.
  • В зависимости от конфигурации пользователи в одном проекте или клиенте могут видеть данные.
  • Чтобы просматривать трассировки в интерфейсе Foundry Tracing, пользователям необходимы доступ к проекту Foundry и разрешение на чтение в подключенной рабочей области Application Insights или Log Analytics. Например, такие роли, как Log Analytics Reader, Monitoring Reader или Reader, назначенные для ресурса Application Insights, рабочей области Log Analytics или соответствующей родительской области, могут предоставлять такой доступ. Если базовые таблицы Log Analytics защищены, назначенным пользователям также требуется роль Privileged Monitoring Data Reader, чтобы читать эти данные.
  • Дополнительные сведения и важную информацию, относящиеся к размещённым агентам, см. в разделах размещённые агенты и переменные среды размещённого агента, внедряемые платформой.

Клиенты отвечают за настройку элементов управления доступом и обеспечение соответствия их политикам организации.

Конфиденциальность

Трассировка может собирать персональные данные, включая:

  • Запросы и ответы пользователей
  • Содержимое для конкретного приложения

Лучшие практики

  • Не записывайте в журналы секреты, учетные данные или токены.
  • Перед ведением журнала редактируйте или сведите к минимуму персональные данные.
  • Применение элементов управления доступом и политик хранения для трассировки данных.

Элементы управления защитой данных

  • Маскирование персональных данных: маскируйте персональные данные, такие как адреса электронной почты и номера телефонов.
  • Ограничьте доступ к данным трассировки, тщательно контролируя, каким пользователям назначается роль RBAC Log Analytics Reader. Если базовые таблицы Log Analytics защищены, также контролируйте, кому назначена роль Privileged Monitoring Data Reader, поскольку она предоставляет право чтения защищенных таблиц.
  • Настраиваемые политики: управление тем, какие данные записываются и отображаются.

Эти элементы управления помогают управлять рисками и соответствовать требованиям конфиденциальности.

Обязанности клиента

При включении трассировки вы несете ответственность за:

  • Информирование конечных пользователей о сборе данных, включая типы собираемых данных, цель сбора, кто имеет доступ к этим данным, доступные им варианты и другие сведения, необходимые им для принятия обоснованных решений (где применимо).
  • Обеспечение соответствия требованиям к конфиденциальности, юридическим и нормативным требованиям.
  • Настройка соответствующих элементов управления доступом и политик хранения данных.

Сводка

Foundry Tracing — это мощная возможность наблюдаемости, которая позволяет отлаживать, отслеживать и оптимизировать ИИ-агентов. Так и есть:

  • Отключено по умолчанию.
  • Явно включается при подключении ресурсов телеметрии.
  • Разработано с учетом того, что клиент контролирует сбор и обработку данных.