신생 기업에서 Azure AI 서비스 사용하는 방법에 대한 질문과 대답입니다.
시작하기
시작에 Azure OpenAI Service 사용하여 시작하는 가장 좋은 방법은 무엇인가요?
GitHub 초보자를 위한 생성 AI 과정을 확인하세요. 모든 주요 Azure OpenAI 기능을 소개하고 이를 사용하여 애플리케이션을 빌드하는 방법을 보여 주는 18단원 명령 집합입니다.
낮은/노코드 접근 방식을 사용하여 Azure AI 기능을 신속하게 테스트하려면 어떻게 해야 하나요?
Azure AI Foundry 포털을 사용하여 Azure OpenAI 모델 배포 및 콘텐츠 조정 서비스 적용 등 다양한 AI 기능을 테스트합니다.
지역별 가용성 및 데이터 상주
OpenAI 서비스를 사용할 수 있는 Azure 지역은 무엇인가요?
다른 Azure OpenAI 모델은 다른 지역으로 제한됩니다. 전체 목록은 모델 가용성 테이블을 참조하십시오.
지역 선택은 Azure OpenAI 서비스의 대기 시간 및 성능에 어떤 영향을 미치나요?
스트리밍 기능을 사용하지 않는 한 영향은 최소화됩니다. 모델 자체 응답의 대기 시간은 지역 차이보다 대기 시간에 훨씬 더 큰 영향을 미칩니다.
전용 Azure OpenAI 서버와 종량제 요금제의 사용 선택은 performance에 더 큰 영향을 미칩니다.
속도 제한 및 리소스 관리
애플리케이션에서 Azure OpenAI 할당량을 확장할 수 있도록 하려면 어떻게 해야 하나요?
할당량 제한의 작동 방식과 관리 방법을 이해하려면 Azure OpenAI Service 할당량 관리를 참조하세요.
Azure OpenAI Service 대한 속도 제한은 무엇이며 어떻게 관리할 수 있나요?
종량제 모델(가장 일반적인)을 사용하는 고객의 경우 할당량 Azure OpenAI Service 관리 페이지를 참조하세요. 전용 Azure OpenAI 서버를 사용하는 고객의 경우 관련 가이드의 quota 섹션을 참조하세요.
Azure OpenAI Service 분당 토큰 제한을 처리하려면 어떻게 해야 하나요?
고급 아키텍처에서 여러 Azure OpenAI 배포를
종량제 모델 대신 전용 Azure PTU(OpenAI 서버)를 사용해야 하는 경우는 언제인가요?
종량제에서 프로비저닝된 처리량으로 전환하는 것은 잘 정의되고 예측 가능한 처리량 요구 사항이 있는 경우 고려해야 합니다. 일반적으로 이는 응용 프로그램이 프로덕션에 준비되었거나 이미 프로덕션에 배포되었으며 예상 트래픽을 이해하고 있는 경우입니다. 이를 통해 사용자는 필요한 용량을 정확하게 예측하고 예기치 않은 청구를 방지할 수 있습니다.
부하 분산 및 크기 조정
높은 트래픽을 관리하고 Azure OpenAI 애플리케이션의 응답성을 유지하려면 어떻게 해야 하나요?
응용 프로그램에 대한 부하 분산 장치를 만듭니다.
종량제 모델을 사용하는 경우 부하 분산 샘플을 참조하세요. 전용 Azure OpenAI 서버를 사용하는 경우 부하 분산에 대한 자세한 내용은 PTU 가이드 참조하세요.
개발 및 테스트
Azure OpenAI 애플리케이션을 테스트하도록 개발 환경을 설정하려면 어떻게 해야 하나요?
프롬프트 플로우를 사용하여 온라인 배포를 생성하세요Azure AI Foundry 포털에서. 그런 다음 양식 편집기 또는 JSON 편집기에 값을 입력하여 테스트합니다.
모니터링 및 메트릭
AI 애플리케이션의 사용 메트릭을 추적하고 평가하려면 어떻게 해야 하나요?
위험 및 안전 지표 추적과 여러 응답 품질 지표에 대한 정보는 평가 및 모니터링 지표 가이드를 참조하십시오.
Azure OpenAI 엔드포인트의 성능을 모니터링하는 데 사용할 수 있는 도구는 무엇인가요?
Azure OpenAI Studio의 모니터링 기능 사용합니다. 시간 경과에 따른 모델의 성능 메트릭을 추적하는 대시보드를 제공합니다.
프로덕션 구현 및 모범 사례
Azure 프로덕션 AI 애플리케이션을 배포하기 위한 몇 가지 모범 사례는 무엇인가요?
채팅 애플리케이션 배포에 대한 모범 사례는 기준 Microsoft Foundry 채팅 참조 아키텍처 를 참조하세요.
Azure OpenAI Service 성공적인 구현에 대한 예제 또는 사례 연구를 제공할 수 있나요?
아티픽 인텔리전스 및 Machine Learning 기술 커뮤니티 포럼을 참조하세요.
관련 콘텐츠
자세한 내용은 Microsoft for Startups를 참조하세요.