생성 AI 애플리케이션을 모니터링하세요
중급
AI 엔지니어
Microsoft Foundry
Microsoft Foundry를 사용하여 생성 AI 애플리케이션의 성능을 모니터링하는 방법을 알아봅니다. 이 모듈에서는 대기 시간 및 토큰 사용량과 같은 주요 메트릭을 추적하여 정보에 입각한 비용 효율적인 배포 결정을 내리는 방법을 설명합니다.
학습 목표
이 모듈을 마치면 다음을 수행할 수 있습니다.
- Gen AI 앱을 프로덕션 준비 상태로 전환할 때 모니터링이 중요한 이유를 이해합니다.
- 대기 시간, 처리량, 토큰 사용량 및 오류 비율과 같은 주요 성능 메트릭을 식별하고 해석합니다.
- Microsoft Foundry와 함께 Azure Monitor를 사용하여 앱 동작을 관찰하고 분석합니다.
- 인사이트를 적용하여 Gen AI 솔루션에서 성능, 비용 및 사용자 환경을 최적화합니다.
사전 요구 사항
이 모듈을 시작하기 전에 다음 사항을 잘 알고 있어야 합니다.
- 기본 소프트웨어 개발 개념
- 기본 AI 개념
- 기본 Azure 개념