파운드리 추적은 AI 에이전트에서 고객 데이터를 캡처하는 Microsoft Foundry의 관찰 기능입니다. 개발자와 운영자가 시스템 동작을 이해하고, 문제를 디버그하고, 성능을 최적화하는 데 도움이 됩니다.
추적은 다음과 같은 정보를 기록합니다.
- 사용자 입력 및 프롬프트
- 에이전트 및 모델 입력 및 출력
- 도구 호출 및 중간 단계
- 실행 메타데이터(타임스탬프, 대기 시간, 토큰 사용, 오류 등)
이 데이터에는 사용자 생성 콘텐츠 및 운영 원격 분석이 포함될 수 있습니다.
이 데이터는 에이전트가 실행되는 방식에 대한 가시성을 제공하여 에이전트 워크플로 전체에서 문제 해결 및 성능 향상을 가능하게 하는 데 사용됩니다. Foundry는 OpenTelemetry 표준을 사용하며 추적 데이터를 연결된 원격 분석 시스템인 Azure Monitor Application Insights에 저장합니다.
Important
프로젝트에 AppInsights를 사용하도록 설정하면 AppInsights는 추적을 기록하여 에이전트와의 사용자 수준 상호 작용을 모니터링하고 평가하는 데 도움이 됩니다. AppInsights에서 Log Analytics 읽기 권한자 역할을 가진 Project 멤버는 개인 데이터 및 고객 콘텐츠를 포함할 수 있는 추적 데이터를 볼 수 있습니다. 기본 Log Analytics 테이블이 보호되는 경우(해당 보호 수준이 보호됨으로 설정됨) 멤버는 해당 추적 데이터를 보려면 Privileged Monitoring Data Reader 역할이 필요합니다. 수집되는 추적 데이터와 이 데이터를 보고 사용할 수 있는 사용자를 검토합니다. 자세한 내용은 다음 섹션에 있습니다.
기본 상태:
- 추적은 기본적으로 꺼져 있습니다.
- Foundry 계정 소유자 또는 Foundry 소유자가 명시적으로 사용하도록 설정하지 않는 한 추적 데이터가 수집되거나 저장되지 않습니다.
추가 Azure Monitor App Insights 가격 책정 적용될 수 있습니다.
이렇게 하면 고객이 데이터 수집이 시작되는 시기를 제어할 수 있습니다.
추적 사용 설정
프로젝트가 Azure Monitor Application Insights 리소스에 연결된 경우 추적이 활성화됩니다. 일반적인 활성화 절차는 다음과 같습니다:
- 프로젝트를 만드는 동안 Application Insights 리소스를 만들거나 연결합니다.
- 연결된 Application Insights 리소스가 없는 기존 프로젝트에 대해 Application Insights 리소스를 만들거나 연결합니다.
추적을 사용하도록 설정하는 경우:
- 추적 데이터는 프로젝트 내의 모든 에이전트에 대해 수집 및 저장되기 시작합니다.
- Foundry 추적 UI에서 추적을 보려면 사용자는 Foundry 프로젝트에 액세스하고 연결된 Application Insights 또는 Log Analytics 작업 영역에 대한 읽기 권한이 필요합니다. 예를 들어 Log Analytics 작업 영역 또는 적절한 상위 범위에서 Log Analytics 읽기 권한자, 모니터링 읽기 권한자 또는 Application Insights 리소스의 읽기 권한자와 같은 역할이 이 권한을 부여할 수 있습니다. 기본 Log Analytics 테이블이 보호되는 경우 담당자는 해당 데이터를 읽으려면 Privileged Monitoring Data Reader 역할도 필요합니다.
추적 사용 안 함
추적을 비활성화하려면:
- Application Insights 리소스의 연결을 끊거나 제거합니다.
추적을 사용하지 않도록 설정한 후:
- 해당 프로젝트의 에이전트에서 새 추적 데이터가 수집되지 않습니다.
- 이전에 수집된 데이터는 Application Insights의 보존 정책의 적용을 받습니다.
메모
추적을 사용하지 않도록 설정하는 방법에 대한 정확한 단계는 UI 또는 SDK 화면에 따라 달라지며 제품 설명서와 일치해야 합니다.
데이터가 저장되는 위치
- Foundry 프로젝트에 연결된 Application Insights 리소스는 추적 데이터를 저장합니다.
- Application Insights 및 Log Analytics 구성은 데이터 보존 및 스토리지를 제어합니다. 자세한 내용은 Log Analytics 작업 영역에서 데이터 보존 관리를 참조하세요.
데이터 공유 고려 사항
- 연결된 원격 분석 리소스에 대한 적절한 권한이 있는 사용자가 추적 데이터에 액세스할 수 있습니다.
- 구성에 따라 동일한 프로젝트 또는 테넌트 내의 사용자가 데이터를 볼 수 있습니다.
- Foundry 추적 UI에서 추적을 보려면 사용자는 Foundry 프로젝트에 액세스하고 연결된 Application Insights 또는 Log Analytics 작업 영역에 대한 읽기 권한이 필요합니다. 예를 들어 Log Analytics 작업 영역 또는 적절한 상위 범위에서 Log Analytics 읽기 권한자, 모니터링 읽기 권한자 또는 Application Insights 리소스의 읽기 권한자와 같은 역할이 이 권한을 부여할 수 있습니다. 기본 Log Analytics 테이블이 보호되는 경우 담당자는 해당 데이터를 읽으려면 Privileged Monitoring Data Reader 역할도 필요합니다.
- 호스트된 에이전트와 관련된 추가 고려 사항 및 중요한 정보는 호스트된 에이전트 및 호스트된 에이전트의 플랫폼 주입 환경 변수를 검토합니다.
고객은 액세스 제어를 구성하고 조직 정책을 준수할 책임이 있습니다.
개인 정보 보호
추적은 다음을 비롯한 개인 데이터를 캡처할 수 있습니다.
- 사용자 프롬프트 및 응답
- 애플리케이션별 콘텐츠
모범 사례
- 비밀, 자격 증명 또는 토큰을 로깅하지 않습니다.
- 기록하기 전에 개인 데이터를 수정하거나 최소화합니다.
- 추적 데이터에 액세스 제어 및 보존 정책을 적용합니다.
데이터 보호 컨트롤
- 개인 데이터 수정: 전자 메일 주소 및 전화 번호와 같은 개인 데이터를 수정합니다.
- RBAC Log Analytics 읽기 권한자 역할이 부여된 사용자를 신중하게 관리하여 추적 데이터에 대한 액세스를 제한합니다. 기본 Log Analytics 테이블이 보호되는 경우 보호된 테이블에 대한 읽기 권한을 부여하기 때문에 Privileged Monitoring Data Reader 역할이 있는 사용자도 관리합니다.
- 구성 가능한 정책: 캡처되고 표시되는 데이터를 제어합니다.
이러한 컨트롤은 위험을 관리하고 개인 정보 요구 사항을 준수하는 데 도움이 됩니다.
고객 책임
추적을 사용하도록 설정하면 다음을 담당합니다.
- 수집되는 데이터 형식, 목적, 가시성, 옵션 및 적절한 선택을 하는 데 필요한 기타 정보를 포함하여 최종 사용자에게 데이터 수집에 대해 알릴 수 있습니다(해당하는 경우).
- 개인 정보, 법률 및 규정 요구 사항을 준수합니다.
- 적절한 액세스 제어 및 데이터 보존 정책 구성
요약
Foundry 추적은 AI 에이전트의 디버깅, 모니터링 및 최적화를 가능하게 하는 강력한 관찰 기능입니다. 그것이:
- 기본적으로 꺼져 있습니다.
- 원격 분석 리소스를 연결하여 명시적으로 사용하도록 설정합니다.
- 데이터 수집 및 처리에 대한 고객 제어를 사용하여 설계되었습니다.