모니터링 결과 해석
Tip
자세한 내용은 텍스트 및 이미지 탭을 참조하세요.
지금까지 모니터링할 항목과 Azure Monitor가 간단한 모니터링을 기본적으로 지원하는 방법을 이해했습니다. 실습을 진행하기 전의 마지막 단계는 데이터 모니터링을 이해하는 방법과 더 중요한 것은 실제 의사 결정을 내리는 방법을 살펴보는 것입니다.
이 단원에서는 특정 작업을 규정하는 것이 아니라 데이터의 의미와 솔루션 개발에 적용하는 방법에 대해 비판적으로 생각하는 데 도움이 되는 해석에 중점을 둡니다.
모니터링은 피드백 루프입니다.
모니터링은 수동 작업이 되어서는 안 됩니다. 대신 피드백 루프를 형성합니다. 서비스를 배포한 후 작동 방식을 관찰하고, 목표와 비교하고, 필요에 따라 조정합니다.
이 피드백 루프는 필요할 때 반복될 수 있으며, 각 라운드는 성능과 비용 간의 적절한 균형을 좁히는 데 도움이 됩니다.
통합 문서를 사용하여 인사이트 시각화
통합 문서는 Azure Portal에서 데이터를 분석하고 풍부한 시각적 보고서를 만들기 위한 유연한 캔버스를 제공합니다. 통합 문서, 또는 워크북은 여러 데이터 원본에서 데이터를 쿼리하여 데이터를 취합하고 여러 데이터 집합의 데이터를 결합 및 상호 연관 지어 하나의 시각화로 시각적으로 표현하여 시스템의 시각적 표현을 제공합니다. 통합 문서는 실시간으로 데이터가 업데이트되는 대화형이며 팀 간에 공유할 수 있습니다.
Azure Monitor Insights가 제공하는 통합 문서를 사용하거나 통합 문서 템플릿 라이브러리를 사용하거나 고유한 통합 문서를 만들 수 있습니다.
미리 빌드된 통합 문서에 액세스
Application Insights 인스턴스를 Microsoft Foundry 프로젝트에 연결하면 중요 메트릭이 이미 생성 AI 애플리케이션용 인사이트 대시보드에서 시각화됩니다.
대시보드를 선택할 때 AI 애플리케이션의 성능 메트릭, 사용 패턴 및 운영 효율성에 대한 실시간 인사이트를 제공하는 Azure Monitor의 미리 빌드된 Azure 통합 문서에 연결됩니다. 세션 전반에서 실행 시간, 토큰 사용량 및 오류 비율과 같은 데이터를 추적할 수 있습니다. 이러한 자세한 로그 및 시각화를 사용하여 병목 상태를 식별하고 워크플로를 최적화할 수 있습니다.
토큰 사용량을 해석하는 방법
토큰 수는 프롬프트 및 출력 디자인이 비용과 성능에 미치는 영향을 보여 줍니다.
- 입력 토큰 수가 많을 경우 지나치게 자세한 프롬프트 또는 불필요한 프리앰블을 제안할 수 있습니다.
- 높은 출력 토큰 수는 모델이 필요 이상으로 반환되고 있음을 나타낼 수 있습니다. 예를 들어 직접적인 답변 대신 긴 설명이 있습니다.
- 토큰 사용량 급증은 종종 요청당 더 긴 대기 시간 및 높은 비용과 관련이 있습니다.
토큰 패턴을 모니터링하여 배포 인프라를 전혀 변경하지 않고도 앱을 보다 효율적으로 미세 조정할 수 있습니다.
오류 완화
배포가 제한에 도달하면 오류가 발생합니다. 다음은 그 예입니다.
- 시간 제한 오류는 현재 컴퓨팅 크기가 너무 작다는 것을 의미할 수 있습니다.
- 속도 제한 오류는 처리량이 서비스 할당량을 초과함을 나타냅니다.
- 흐름 단계 내의 오류는 논리 오류 또는 데이터 품질 문제를 가리킬 수 있습니다.
사용량에 따라 오류율이 증가하는 경우 이는 컴퓨팅 용량 또는 흐름 디자인에서 앱에 최적화가 필요하다는 신호입니다.