Azure Service Bus를 사용하여 AI 작업 큐 및 처리
중급
개발자
Azure Service Bus
Azure Service Bus를 사용하여 AI 애플리케이션 구성 요소를 분리하고, 추론 요청을 큐에 대기시키며, 경쟁 소비자 간에 처리 작업을 분산하고, 데드 레터 큐를 통해 오류를 처리하는 방법을 알아봅니다. 이 모듈에서는 큐, 구독이 있는 항목, AI 페이로드에 대한 메시지 구조화 및 Python SDK를 사용한 신뢰할 수 있는 메시지 처리를 다룹니다.
학습 목표
이 모듈을 완료하면 다음을 수행할 수 있습니다.
- Azure Service Bus가 AI 애플리케이션 구성 요소를 분리하고 부하 평준화, 경쟁 소비자 및 게시-구독과 같은 메시징 패턴을 적용할 시기를 식별하는 방법을 설명합니다.
- AI 워크플로에서 단일 소비자 처리가 필요한지 또는 여러 소비자에게 확산 전송이 필요한지에 따라 Azure Service Bus의 큐와 구독이 포함된 토픽 중에서 선택합니다.
- 프롬프트 및 모델 매개 변수 직렬화, 클레임 확인 패턴으로 큰 페이로드 처리, 엔드 투 엔드 요청 추적에 대한 상관 관계 ID 포함 등 AI 워크로드에 대한 Service Bus 메시지를 구성합니다.
- 피크-락 수신 모드를 사용하여 메시지를 안정적으로 처리하고, 데드 레터 큐를 통해 포이즌 메시지를 처리하고, 데드 레터 큐에서 실패한 추론을 모니터링합니다.
사전 요구 사항
이 모듈을 시작하기 전에 다음이 필요합니다.
- Python, JavaScript 또는 C#과 같은 언어를 사용한 프로그래밍 환경입니다.
- Azure 서비스 및 클라우드 컴퓨팅 개념에 대한 기본적인 이해
- 비동기 메시징 개념 및 분산 시스템 패턴에 대해 잘 알고 있습니다.