다음을 통해 공유

Azure OpenAI 모니터링

  • 아티클

이 문서에서는 다음을 설명합니다.

  • 이 서비스에 대해 수집할 수 있는 모니터링 데이터의 유형.
  • 해당 데이터를 분석하는 방법.

참고 항목

이 서비스 및/또는 Azure Monitor에 이미 익숙하고 모니터링 데이터를 분석하는 방법만 알고 싶은 경우 이 문서의 끝부분에 있는 분석 섹션을 참조하세요.

Azure 리소스를 사용하는 중요한 애플리케이션 및 비즈니스 프로세스가 있는 경우 시스템을 모니터링하고 시스템에 대한 경고를 받아야 합니다. Azure Monitor 서비스는 시스템의 모든 구성 요소에서 메트릭과 로그를 수집하고 집계합니다. Azure Monitor는 가용성, 성능, 복원력에 대한 보기를 제공하고 문제를 알려 줍니다. Azure Portal, PowerShell, Azure CLI, REST API 또는 클라이언트 라이브러리를 사용하여 모니터링 데이터를 설정하고 볼 수 있습니다.

대시보드

Azure OpenAI는 각 Azure OpenAI 리소스에 대한 기본 대시보드를 제공합니다. https://portal.azure.com에 대한 모니터링 대시보드에 액세스하고 Azure OpenAI 리소스 중 하나에 대한 개요 창을 선택합니다.

Azure Portal의 Azure OpenAI 리소스에 대한 기본 대시보드를 표시하는 스크린샷

대시보드는 HTTP 요청, 토큰 기반 사용량, PTU 사용률, 미세 조정으로 네 개의 범주로 그룹화됩니다.

Azure Monitor의 데이터 수집 및 라우팅

Azure OpenAI는 다른 Azure 리소스와 동일한 종류의 모니터링 데이터를 수집합니다. 활동 로그, 리소스 로그, 가상 머신 로그 및 플랫폼 메트릭에서 데이터를 생성하도록 Azure Monitor를 구성할 수 있습니다. 자세한 내용은 Azure 리소스의 데이터 모니터링을 참조하세요.

플랫폼 메트릭과 Azure Monitor 활동 로그는 자동으로 수집 및 저장됩니다. 이 데이터는 진단 설정을 사용하여 다른 위치로 라우팅될 수 있습니다. Azure Monitor 리소스 로그는 진단 설정을 만들고 하나 이상의 위치로 해당 로그를 라우팅할 때까지 수집 및 저장되지 않습니다.

진단 설정을 만들 때 수집할 로그 범주를 지정합니다. Azure Portal, Azure CLI 또는 PowerShell을 사용하여 진단 설정 만들기의 자세한 내용은 Azure에서 플랫폼 로그 및 메트릭을 수집하는 진단 설정 만들기를 참조하세요.

진단 설정을 사용하고 Azure Monitor 로그로 데이터를 보내는 데는 다른 비용이 발생한다는 점에 유의하세요. 자세한 내용은 Azure Monitor 로그 비용 계산 및 옵션을 참조하세요.

수집할 수 있는 메트릭 및 로그는 다음 섹션에서 설명합니다.

리소스 유형

Azure는 리소스 유형 및 ID의 개념을 사용하여 구독의 모든 항목을 식별합니다. 리소스 유형은 Azure에서 실행되는 모든 리소스에 대한 리소스 ID의 일부이기도 합니다. 예를 들어 가상 머신의 리소스 유형 중 하나는 Microsoft.Compute/virtualMachines입니다. 서비스 및 관련 리소스 유형 목록은 리소스 공급자를 참조하세요.

마찬가지로 Azure Monitor는 네임스페이스라고도 하는 리소스 유형에 따라 핵심 모니터링 데이터를 메트릭 및 로그로 구성합니다. 리소스 유형에 따라 다른 메트릭 및 로그를 사용할 수 있습니다. 서비스는 둘 이상의 리소스 유형과 연결될 수 있습니다.

Azure OpenAI의 리소스 종류에 대한 자세한 내용은 Azure OpenAI 모니터링 데이터 참조를 참조하세요.

데이터 저장소

Azure Monitor의 경우:

  • 메트릭 데이터는 Azure Monitor 메트릭 데이터베이스에 저장됩니다.
  • 로그 데이터는 Azure Monitor 로그 저장소에 저장됩니다. 로그 분석은 이 저장소를 쿼리할 수 있는 Azure Portal의 도구입니다.
  • Azure 활동 로그는 Azure Portal에 자체 인터페이스가 있는 별도의 저장소입니다.

선택적으로 메트릭 및 활동 로그 데이터를 Azure Monitor 로그 저장소로 라우팅할 수 있습니다. 그런 다음 Log Analytics를 사용하여 데이터를 쿼리하고 다른 로그 데이터와 상호 연결할 수 있습니다.

많은 서비스에서는 진단 설정을 사용하여 메트릭 및 로그 데이터를 Azure Monitor 외부의 다른 스토리지 위치로 보낼 수 있습니다. 예를 들면 Azure Storage, 호스트된 파트너 시스템 및 Event Hubs를 사용하는 비 Azuree 파트너 시스템이 있습니다.

Azure Monitor가 데이터를 저장하는 방법에 대한 자세한 내용은 Azure Monitor 데이터 플랫폼을 참조하세요.

Azure Monitor 플랫폼 메트릭

Azure Monitor는 대부분의 서비스에 대한 플랫폼 메트릭을 제공합니다. 이러한 메트릭은 다음과 같습니다.

  • 각 네임스페이스에 대해 개별적으로 정의됩니다.
  • Azure Monitor 시계열 메트릭 데이터베이스에 저장됩니다.
  • 간단하며 실시간에 가까운 경고를 지원할 수 있습니다.
  • 시간 경과에 따른 리소스의 성능을 추적하는 데 사용됩니다.

수집: Azure Monitor는 플랫폼 메트릭을 자동으로 수집합니다. 구성이 필요하지 않습니다.

라우팅: 일부 플랫폼 메트릭을 Azure Monitor 로그/Log Analytics로 라우팅하여 다른 로그 데이터로 쿼리할 수도 있습니다. 각 메트릭에 대한 DS 내보내기 설정을 확인하여 진단 설정을 사용하여 메트릭을 Azure Monitor 로그/Log Analytics로 라우팅할 수 있는지 확인합니다.

  • 자세한 내용은 메트릭 진단 설정을 참조하세요.
  • 서비스에 대한 진단 설정을 구성하려면 Azure Monitor에서 진단 설정 만들기를 참조하세요.

Azure Monitor의 모든 리소스에 대해 수집할 수 있는 모든 메트릭 목록은 Azure Monitor에서 지원되는 메트릭을 참조하세요.

Azure OpenAI에는 Azure AI 서비스의 하위 집합과 공통성이 있습니다. Azure OpenAI에 사용 가능한 메트릭 목록은 Azure OpenAI 모니터링 데이터 참조를 참조하세요.

Azure Monitor 리소스 로그

리소스 로그는 Azure 리소스에서 수행한 작업에 대한 인사이트를 제공합니다. 로그는 자동으로 생성되지만 저장하거나 쿼리하려면 로그를 Azure Monitor 로그로 라우팅해야 합니다. 로그는 범주별로 구성됩니다. 지정된 네임스페이스에는 여러 리소스 로그 범주가 있을 수 있습니다.

수집: 리소스 로그는 진단 설정을 만들고 하나 이상의 위치로 라우팅할 때까지 수집 및 저장되지 않습니다. 진단 설정을 만들 때 수집할 로그 범주를 지정합니다. 진단 설정을 만들고 유지 관리하는 방법에는 Azure Portal, 프로그래밍 방식, Azure Policy 사용 등을 포함한 여러 가지 방법이 있습니다.

라우팅: 제안되는 기본값은 리소스 로그를 Azure Monitor 로그로 라우팅하여 다른 로그 데이터로 쿼리할 수 있도록 하는 것입니다. Azure Storage, Azure Event Hubs, 특정 Microsoft 모니터링 파트너와 같은 다른 위치도 사용할 수 있습니다. 자세한 내용은 Azure 리소스 로그 및 리소스 로그 대상을 참조하세요.

리소스 로그 수집, 저장 및 라우팅에 대한 자세한 내용은 Azure Monitor의 진단 설정을 참조하세요.

Azure Monitor에서 사용 가능한 모든 리소스 로그 범주 목록은 Azure Monitor에서 지원되는 리소스 로그를 참조하세요.

Azure Monitor의 모든 리소스 로그에는 동일한 헤더 필드와 서비스별 필드가 있습니다. 공용 스키마는 Azure Monitor 리소스 로그 스키마에서 설명합니다.

사용 가능한 리소스 로그 범주, 관련 Log Analytics 테이블, Azure OpenAI의 로그 스키마는 Azure OpenAI 모니터링 데이터 참조를 참조하세요.

Azure 활동 로그

활동 로그에는 해당 리소스의 외부에서 볼 때 각 Azure 리소스에 대한 작업을 추적하는 구독 수준 이벤트(예: 새 리소스 만들기 또는 가상 머신 시작)가 포함되어 있습니다.

수집: 활동 로그 이벤트는 자동으로 생성되고 별도의 저장소에 수집되어 Azure Portal에서 볼 수 있습니다.

라우팅: 다른 로그 데이터와 함께 분석할 수 있도록 활동 로그 데이터를 Azure Monitor 로그로 보낼 수 있습니다. Azure Storage, Azure Event Hubs, 특정 Microsoft 모니터링 파트너와 같은 다른 위치도 사용할 수 있습니다. 활동 로그를 라우팅하는 방법에 대한 자세한 내용은 Azure 활동 로그 개요를 참조하세요.

모니터링 데이터 분석

모니터링 데이터를 분석하기 위한 많은 도구가 있습니다.

Azure Monitor 도구

Azure Monitor는 다음과 같은 기본 도구를 지원합니다.

더 복잡한 시각화를 허용하는 도구는 다음과 같습니다.

  • 대시보드: 다양한 종류의 데이터를 Azure Portal에서 하나의 창에 결합할 수 있습니다.
  • 통합 문서: Azure Portal에서 만들 수 있는 사용자 지정 가능한 보고서입니다. 통합 문서에는 텍스트, 메트릭, 로그 쿼리가 포함될 수 있습니다.
  • Grafana: 뛰어난 운영 대시보드를 제공하는 개방형 플랫폼 도구입니다. Grafana를 사용하여 Azure Monitor 외의 여러 소스에서 온 데이터를 포함하는 대시보드를 만들 수 있습니다.
  • Power BI: 다양한 데이터 소스에서 대화형 시각화를 제공하는 비즈니스 분석 서비스입니다. Azure Monitor에서 자동으로 로그 데이터를 가져오도록 Power BI를 구성하여 이러한 시각화를 활용할 수 있습니다.

진단 설정 구성

모든 메트릭은 Azure Monitor의 진단 설정을 사용하여 내보낼 수 있습니다. Azure Monitor Log Analytics 쿼리를 사용하여 로그 및 메트릭 데이터를 분석하려면 Azure OpenAI 리소스 및 Log Analytics 작업 영역에 대한 진단 설정을 구성해야 합니다.

Azure Portal에서 Azure OpenAI 리소스에 대한 진단 설정 페이지를 여는 방법을 보여 주는 스크린샷

진단 설정을 구성한 후 Log Analytics 작업 영역에서 Azure OpenAI 리소스에 대한 메트릭 및 로그 데이터를 사용할 수 있습니다.

Azure Monitor 내보내기 도구

다음 방법을 사용하여 Azure Monitor에서 다른 도구로 데이터를 내보낼 수 있습니다.

Azure Monitor용 REST API를 시작하려면 Azure 모니터링 REST API 연습을 참조하세요.

Kusto 쿼리

KQL(Kusto 쿼리 언어)을 사용하여 Azure Monitor 로그/로그 분석 저장소에서 모니터링 데이터를 분석할 수 있습니다.

Important

포털의 서비스 메뉴에서 로그를 선택하면 쿼리 범위가 현재 서비스로 설정된 상태로 로그 분석이 열립니다. 이 범위는 로그 쿼리에 해당 유형의 리소스의 데이터만 포함된다는 의미입니다. 다른 Azure 서비스의 데이터를 포함하는 쿼리를 실행하려면 Azure Monitor 메뉴에서 로그를 선택합니다. 자세한 내용은 Azure Monitor Log Analytics의 로그 쿼리 범위 및 시간 범위를 참조하세요.

모든 서비스에 대한 일반적인 쿼리 목록은 로그 분석 쿼리 인터페이스를 참조하세요.

Azure OpenAI 모델을 배포한 후 Azure AI Studio의 플레이그라운드 환경을 사용하여 일부 완료 호출을 보낼 수 있습니다.

완료 플레이그라운드 또는 채팅 완료 플레이그라운드에 입력하는 모든 텍스트는 Azure OpenAI 리소스에 대한 메트릭 및 로그 데이터를 생성합니다. 리소스에 대한 Log Analytics 작업 영역에서 Kusto 쿼리 언어를 사용하여 모니터링 데이터를 쿼리할 수 있습니다.

Important

Azure OpenAI 리소스 페이지의 쿼리 열기 옵션을 선택하면 이 문서에 설명되지 않은 Azure Resource Graph로 이동합니다. 다음 쿼리는 Log Analytics에 대한 쿼리 환경을 사용합니다. 진단 설정 구성의 단계에 따라 Log Analytics 작업 영역을 준비해야 합니다.

  1. Azure OpenAI 리소스 페이지의 왼쪽 창에 있는 모니터링에서 로그를 선택합니다.

  2. Azure OpenAI 리소스에 대해 진단을 구성한 Log Analytics 작업 영역을 선택합니다.

  3. Log Analytics 작업 영역 페이지의 왼쪽 창에 있는 개요에서 로그를 선택합니다.

    Azure Portal은 기본적으로 샘플 쿼리 및 제안이 포함된 쿼리 창을 표시합니다. 이 창을 닫을 수 있습니다.

다음 예제에서는 쿼리 창 맨 위에 있는 편집 영역에 Kusto 쿼리를 입력한 다음, 실행을 선택합니다. 쿼리 결과는 쿼리 텍스트 아래에 표시됩니다.

다음 Kusto 쿼리는 리소스에 대한 Azure Diagnostics(AzureDiagnostics) 데이터의 초기 분석에 유용합니다.

AzureDiagnostics
| take 100
| project TimeGenerated, _ResourceId, Category, OperationName, DurationMs, ResultSignature, properties_s

이 쿼리는 100개 항목의 샘플을 반환하고 로그에 사용 가능한 데이터 열의 하위 집합을 표시합니다. 쿼리 결과에서 테이블 이름 옆에 있는 화살표를 선택하여 사용 가능한 모든 열 및 관련 데이터 형식을 볼 수 있습니다.

Azure OpenAI 리소스에 대한 Azure Diagnostics 데이터의 Log Analytics 쿼리 결과를 보여 주는 스크린샷

사용 가능한 모든 데이터 열을 보려면 쿼리에서 범위 지정 매개 변수 줄 | project ...를 제거할 수 있습니다.

AzureDiagnostics
| take 100

리소스에 대한 Azure Metrics(AzureMetrics) 데이터를 검사하려면 다음 쿼리를 실행합니다.

AzureMetrics
| take 100
| project TimeGenerated, MetricName, Total, Count, Maximum, Minimum, Average, TimeGrain, UnitName

이 쿼리는 100개 항목의 샘플을 반환하고 Azure Metrics 데이터의 사용 가능한 열 하위 집합을 표시합니다.

Azure OpenAI 리소스에 대한 Azure Metrics 데이터의 Log Analytics 쿼리 결과를 보여 주는 스크린샷

참고 항목

리소스에 대한 Azure OpenAI 메뉴에서 모니터링>로그를 선택하면 쿼리 범위가 현재 리소스로 설정된 Log Analytics가 열립니다. 표시되는 로그 쿼리에는 해당 특정 리소스의 데이터만 포함됩니다. 다른 리소스의 데이터 또는 다른 Azure 리소스의 데이터를 포함하는 쿼리를 실행하려면 Azure Portal의 Azure Monitor 메뉴에서 로그를 선택합니다. 자세한 내용은 Azure Monitor Log Analytics의 로그 쿼리 범위 및 시간 범위를 참조하세요.

경고

Azure Monitor 경고는 모니터링 데이터에서 특정한 조건이 발견될 때 사용자에게 사전에 알립니다. 경고를 통해 사용자에게 알리기 전에 시스템 문제를 식별하고 해결할 수 있습니다. 자세한 내용은 Azure Monitor 경고을 참조하세요.

Azure 리소스에 대한 일반적인 경고의 소스에는 여러 가지가 있습니다. Azure 리소스에 대한 일반적인 경고의 예는 샘플 로그 경고 쿼리를 참조하세요. AMBA(Azure Monitor 기준 경고) 사이트는 중요한 플랫폼 메트릭 경고, 대시보드 및 지침을 구현하는 반자동 방법을 제공합니다. 이 사이트는 ALZ(Azure 랜딩 존)의 일부인 전체 서비스를 포함하여 지속적으로 확장되는 Azure 서비스 하위 집합에 적용됩니다.

공통 경고 스키마는 Azure Monitor 경고 알림의 사용을 표준화합니다. 자세한 내용은 일반 경고 스키마를 참조하세요.

경고 유형

Azure Monitor 데이터 플랫폼의 모든 메트릭 또는 로그 데이터 원본에 대해 경고할 수 있습니다. 모니터링하는 서비스 및 수집하는 모니터링 데이터에 따라 다양한 유형의 경고가 있습니다. 서로 다른 형식의 경고에는 다양한 장점과 단점이 있습니다. 자세한 내용은 올바른 모니터링 경고 유형 선택을 참조하세요.

다음 목록에서는 만들 수 있는 Azure Monitor 경고의 유형에 대해 설명합니다.

  • 메트릭 경고는 정기적으로 리소스 메트릭을 평가합니다. 메트릭은 플랫폼 메트릭, 사용자 지정 메트릭, 메트릭으로 변환된 Azure Monitor의 로그 또는 Application Insights 메트릭일 수 있습니다. 메트릭 경고는 여러 조건과 동적 임계값을 적용할 수도 있습니다.
  • 로그 경고를 사용하면 사용자가 로그 분석 쿼리를 사용하여 미리 정의된 빈도로 리소스 로그를 평가할 수 있습니다.
  • 활동 로그 경고는 정의된 조건과 일치하는 새 활동 로그 이벤트가 발생할 때 트리거됩니다. Resource Health 경고 및 Service Health 경고는 서비스 및 Resource Health를 보고하는 활동 로그 경고입니다.

일부 Azure 서비스는 스마트 검색 경고, Prometheus 경고 또는 권장 경고 규칙도 지원합니다.

일부 서비스의 경우 동일한 Azure 지역에 존재하는 동일한 형식의 여러 리소스에 동일한 메트릭 경고 규칙을 적용하여 대규모로 모니터링할 수 있습니다. 모니터링되는 각 리소스에 대해 개별 알림이 전송됩니다. 지원되는 Azure 서비스 및 클라우드에 대한 내용은 하나의 경고 규칙을 사용하여 여러 리소스 모니터링을 참조하세요.

경고 설정

모든 조직의 경고 요구 사항은 다르며 시간이 지남에 따라 변경될 수 있습니다. 일반적으로 모든 경고는 실행 가능해야 하며 경고가 발생할 때 의도된 구체적인 응답이 있어야 합니다. 경고에 즉각적인 응답이 필요하지 않은 경우 경고가 아닌 보고서에서 조건을 캡처할 수 있습니다. 일부 사용 사례에서는 특정 오류 조건이 있을 때마다 경고가 필요할 수 있습니다. 다른 경우에는 지정된 기간 동안 특정 임계값을 초과하는 오류에 대한 경고가 필요할 수 있습니다.

특정 임계값 미만의 오류는 Azure Monitor 로그의 데이터를 정기적으로 분석하여 평가할 수 있는 경우가 많습니다. 시간이 지남에 따라 로그 데이터를 분석할 때 특정 조건이 예상 기간 동안 발생하지 않는 것을 발견할 수 있습니다. 경고를 사용하여 이 조건을 추적할 수 있습니다. 경우에 따라 로그에 이벤트가 없는 것이 오류만큼 중요한 신호일 수 있습니다.

Azure OpenAI를 사용하여 개발 중인 애플리케이션 유형에 따라 Azure Monitor Application Insights는 애플리케이션 계층에서 추가 모니터링 이점을 제공할 수 있습니다.

Azure OpenAI 경고 규칙

Azure OpenAI 모니터링 데이터 참조에 나열된 메트릭, 로그 항목, 활동 로그 항목에 대한 경고를 설정할 수 있습니다.

Advisor 권장 사항

일부 서비스의 경우 리소스 작업 중에 위험한 상태 또는 임박한 변경 사항이 발생하는 경우 해당 서비스에서 포털의 개요 페이지에 경고가 표시됩니다. 왼쪽 메뉴의 모니터링 아래 Advisor 권장 사항에서 해당 경고에 대한 자세한 정보와 권장 수정 사항을 찾을 수 있습니다. 정상적으로 작동하는 중에는 Advisor 권장 사항이 표시되지 않습니다.

Azure Advisor에 대한 자세한 내용은 Azure Advisor 개요를 참조하세요.

관련 콘텐츠