Unity 게이트웨이 관측성

Unity Gateway 관측 기능을 통해 Unity 카탈로그 시스템 테이블을 기반으로 한 제어 플레인에서 모든 AI 서비스의 비용, 사용량, 성능, 접근 권한을 모니터링할 수 있습니다. 팀들이 조직 전반에 걸쳐 코딩 에이전트, 코파일럿, 커스텀 에이전트를 도입함에 따라, 누가 어떤 모델이나 도구에 접근하는지, 비용이 얼마인지, 엔드포인트가 건강한지 파악하기가 점점 어려워지고 있습니다. 모든 요청이 Unity Gateway를 거쳐 전달되기 때문에, 한 곳에서 질문에 답할 수 있습니다.

Note

이 시스템 테이블에 접근하려면 기본적으로 계정 및 메타스토어 관리자 역할이 필요합니다. 관리자는 시스템 테이블 접근을 관리 하거나 AI 게이트웨이 사용 대시보드 를 게시하여 테이블 접근 권한을 부여하지 않고도 사용 분석을 공유할 수 있습니다.

요구 사항

  • Unity Gateway 지원 지역 내 Azure Databricks 작업 공간.
  • 내장된 Unity Gateway 사용 대시보드입니다. 계정 관리자는 AI 게이트웨이 > Govern > Create Usage Dashboard를 사용해 만들 수 있습니다. 내장 사용 대시보드 만들기를 참조하세요.

비용 모니터링

작업 공간 UI에서 AI 게이트웨이 > 사용 대시보드 >> 비용 분석으로 이동해 엔드포인트, Azure Databricks 제공 기반 모델, 또는 사용자의 시간에 따른 지출을 추적할 수 있습니다. 내장 대시보드는 사용량 및 청구 테이블을 기반으로 합니다:

Note

외부 모델 지출은 각 제공자의 공개 가격에서 산출되며 정보 제공 목적입니다. 외부 모델을 참조하세요.

사용자 지정 차원에 따라 지출을 귀속시키려면, 요청 태그나 서비스 태그를 사용해 사업부, 프로젝트 또는 조직이 중요하게 여기는 차원별로 비용을 그룹화하세요(참고: 사용자, 팀, 프로젝트별 재단 모델 지출 추적).

Unity 게이트웨이 비용 분석(Analyze Unity Gateway Cost)을 참조하세요.

사용 및 성능 모니터링

Unity Gateway 사용 대시보드(AI Gateway > Govern > Usage Dashboard)는 게이트웨이를 통해 관리되는 모든 엔드포인트의 요청량, 토큰 소비, 지연 시간을 추적합니다. 각 모델 또는 MCP 서비스는 카탈로그 탐색기 UI를 벗어나지 않고도 건강 모니터링을 위한 내장 메트릭 탭을 갖추고 있습니다. 더 깊은 분석을 위해 테이블을 system.ai_gateway.usage 쿼리하여 게이트웨이를 통해 라우팅되는 모든 요청에 대해 토큰 수, 지연 시간, 요청자 태그 등 사용 지표를 분석하세요( 사용 테이블 스키마 참조).

Note

Unity Gateway 엔드포인트의 로그는 system.ai_gateway.usage에 기록되고, 모델 서빙 엔드포인트(레거시)의 로그는 system.serving.endpoint_usage에 기록됩니다.

일반적인 용도:

  • AI 스택 전반에 걸쳐 한 곳에서 모든 AI 서비스를 모니터링하고 최적화하세요
  • 팀 내 코딩 에이전트 채택과 모델 인기를 추적하세요
  • 가장 활발한 사용자, 서비스, 모델을 식별하여 최적화 기회를 찾아내세요

트랙 모델 사용법을 참조하세요.

요청 및 응답을 점검하세요

모델 서비스에서 추론 테이블을 활성화하여 요청 및 응답 페이로드를 Unity Catalog 테이블에 기록하세요. 추론 테이블을 사용하여 다음을 수행합니다:

  • 실패하거나 예상치 못한 응답 문제 해결
  • 개인 정보 삭제(PII) 삭제와 같은 가드레일이 제대로 작동하는지 확인하세요
  • 민감한 데이터 노출 점검

추론 테이블에 대한 요청 및 응답 로깅을 참조하세요.

감사 접근

누가 언제 어떤 AI 서비스에 접속했는지 확인하기 위해 테이블을 system.access.audit 조회하세요. 실제 사람 발신자와 그를 대신하는 에이전트를 구분하려면 run_by에서 run_as 및 identity_metadata 필드를 사용하세요.

일반적인 용도:

  • 준수 및 규제 보고를 위한 접근 추적 생성
  • 인간 발신자와 대리인을 대신해 행동하는 상담원을 구분하세요
  • 팀이 사용하는 코딩 에이전트들 전반에 걸쳐 중앙 감사 추적을 유지하세요

감사 로그 시스템 테이블 참조를 참조하세요.

종속성 추적

계보는 기초 모델과 모델 서비스 간의 의존성 및 그 하위 소비자 간의 의존성을 추적합니다. 계보를 활용해 모델 서비스 폐기나 변경의 영향을 파악하고 소유자에게 알리세요.

Unity 카탈로그의 계보를 참조하세요.

추가 리소스

  • Last updated on