주요 질문
Azure OpenAI 액세스를 어떻게 신청할 수 있나요?
- 고려하도록 신청하는 동안 비즈니스 전자 메일 주소를 사용하는 것이 좋습니다.
- 개인 전자 메일 주소로 제출된 애플리케이션은 거절하는 경향이 있습니다(예: @yahoo.com, @gmail.com, @hotmail.com등).
- 제품에 사용할 수 있는 각 사용 사례에 대해 별도의 애플리케이션을 작성합니다.
- 양식의 지침을 따르고 스폰서쉽 구독 GUID를 입력합니다.
- 시작하려면 다음 양식에 액세스합니다. https://aka.ms/oai/access
내 질문에 적합한 Azure 지원 옵션은 무엇인가요?
- 비용 및 청구 세부 정보를 보려면 www.microsoftazuresponsorships.com Azure 스폰서쉽 포털에 로그인합니다.
- 오류 메시지, 할당량 요청, 청구 질문 및 긴급 문제의 경우 portal.azure.com 지원 요청을 여세요.
- 빌드, 마이그레이션 또는 최적화 방법에 대한 조언은 foundershub.startups.microsoft.com/login Founders Hub에 로그인하여 Azure 자문 팀에 문의하세요. 지침 ->> 관리자와 페어링하기
- 고유한 질문을 하고 기존 질문에 대한 답변을 보려면 learn.microsoft.com/answers/questions Microsoft Q&A 포럼을 방문하세요.
- 기술을 구축하고 다양한 Azure 도구 및 리소스를 사용하여 경험을 쌓려면 learn.microsoft.com/training/topics/startups Azure Learn for Startups를 방문하세요.
Azure 권고 및 지원
다른 플랫폼에서 Azure로 마이그레이션하는 데 어떻게 도움을 받을 수 있나요?
5,000달러의 Azure 크레딧 제안에 대해 승인된 신생 기업에서는 빌드할 때 지침을 제공하는 Azure 엔지니어와 페어링 세션에 무제한으로 액세스할 수 있습니다. 적합한 제품 선택에 대한 빠른 30분 토론부터 4시간 아키텍처 검토 또는 인프라 최적화 협의에 이르기까지 무엇이든 가능합니다.
첫 번째 세션을 예약하려면 다음을 수행합니다.
- Founders Hub에 로그인
- 지침 탭으로 이동합니다.
- '관리자와 페어링'> 을 선택합니다. 양식을 완료하고 요청을 제출합니다.
- 우리 팀은 영업일 기준 1일 이내에 연락할 것입니다.
사용할 수 있는 Azure 자문 서비스의 유형은 무엇인가요?
$5,000 이상의 Azure 크레딧 제안에 대해 승인된 신생 기업에서는 1:1 Azure 자문 서비스 범위에 무제한 무료 액세스를 제공합니다. 여기에는 제품 선택과 설계 및 최적화에 대한 전문가의 조언이 포함됩니다. 첫 번째 세션을 요청하려면 다음을 수행합니다.
- Founders Hub에 로그인
- '관리자와 페어링'> 을 선택합니다. 양식을 완료하고 요청을 제출합니다.
샘플 아키텍처 다이어그램은 어디에서 볼 수 있나요?
샘플 아키텍처 다이어그램은 learn.microsoft.com/en-us/azure/architecture/browse/ 사용할 수 있습니다.
Azure Portal의 용도는 무엇인가요?
다음 문제에 대해 Azure Portal을 사용합니다.
- Azure 성능 문제 또는 Azure 오류 메시지에 대해 Azure 지원 팀에 문의
- 용량에 대한 할당량 요청 제출
- 대금 청구 관련 질문
Azure에서 기술을 습진하는 방법에 대한 자세한 내용은 어디에서 찾을 수 있나요?
- Azure Compute Service 선택: learn.microsoft.com/azure/architecture/guide/technology-choices/compute-decision-tree
- 아키텍처 템플릿: learn.microsoft.com/azure/architecture/browse
- Reactor 이벤트: https://developer.microsoft.com/reactor
- 알아보기: learn.microsoft.com/azure/?product=popular
비용 계산기에 액세스할 수 있는 위치는 어디인가요?
비용 계산기는 azure.microsoft.com/pricing/calculator/ 액세스할 수 있습니다.
Azure를 활성화하는 데 도움이 어떻게 할까요? 있나요?
Azure 혜택 섹션을 참조하세요.
Azure Advisory 지원을 내 언어로 사용할 수 있나요?
Azure Advisory 지원 및 Azure 페어링 세션은 영어로만 사용할 수 있습니다.
Azure OpenAI
Azure OpenAI에 ChatGPT가 포함되나요?
예. azure.microsoft.com/products/cognitive-services/openai-service Azure OAIS의 최신 기능에 대해 자세히 알아보세요.
Azure 크레딧을 사용하여 Azure OpenAI를 스핀업할 수 있나요?
예, Azure 크레딧은 여기에 나열된 모든 Azure 제품(azure.microsoft.com/services)에 적용할 수 있습니다. Azure 크레딧은 비 Azure 제품, Microsoft Azure Marketplace를 통해 판매된 제품 또는 Microsoft 지원 Plans를 구매하는 데 사용할 수 없습니다.
참조를 위한 Azure OpenAI 링크
- Microsoft Mechanics 연습 비디오: www.youtube.com/watch?v=3t3qZu1Dy1k
- Azure OpenAI Pitch 비디오: aka.ms/AOAI-PitchVideo
- Azure OpenAI 제품 페이지: https://azure.microsoft.com/products/cognitive-services/openai-service
- Azure AI GearUp 페이지에서 자세한 내용을 참조하세요. aka.ms/AOAI
OpenAI와 Azure OAIS(Azure OpenAI)의 차이점은 무엇인가요?
OpenAI는 타사 혜택이며 Microsoft 제품이 아닙니다. 신생 기업에서는 설립자 허브를 통해 OpenAI 크레딧으로 $2,500에 액세스할 수 있습니다. Azure OpenAI는 Azure 크레딧으로 결제할 수 있는 Microsoft Azure 제품입니다. 많은 신생 기업이 프로덕션 및 고객용 배포를 위해 Azure OpenAI로 테스트 및 전환하기 위해 OpenAI를 사용합니다.
내 Azure OpenAI 애플리케이션이 거부되었습니다. 어떻게 해야 합니까?
2023년 5월에 이 서비스에 대한 액세스를 확장했습니다. 이전에 거절된 경우 다시 신청하세요. 거부된 경우 다음으로 문의하세요 csgate@microsoft.com.
Azure OpenAI에 대한 할당량 한도 증가를 요청하려면 어떻게 해야 하나요?
회사는 등록된 비즈니스여야 하며 할당량 한도 증가를 받으려면 도메인 확인을 통과해야 합니다. 증가 요청의 제한 및 프로세스에 대한 정보는 learn.microsoft.com/azure/cognitive-services/openai/quotas-limits 찾을 수 있습니다.
Azure OpenAI의 할당량 제한은 무엇인가요?
기본 제한에 대한 자세한 내용은 다음 문서를 참조하세요. learn.microsoft.com/azure/cognitive-services/openai/quotas-limits.
Azure OpenAI에서 속도 제한(TPM 및 RPM)은 어떻게 작동합니까?
TPM(분당 토큰) 및 RPM(분당 요청)은 속도 제한을 정의합니다. TPM 할당량은 분당 모델 배포로 처리할 수 있는 최대 토큰 수를 결정합니다. 이제 RPM은 기본적으로 TPM에 연결되며, 이는 두 메트릭이 더 이상 별도로 간주되지 않음을 나타냅니다. TPM과 RPM 간의 관계는 할당량에 대해 1K TPM당 6 RPM입니다. 즉, 1,000TPM마다 최대 6개의 RPM을 사용할 수 있습니다.
Azure OpenAI에서 TPM과 모델의 컨텍스트 길이 간의 차이점은 무엇인가요?
TPM(토큰 분당)은 Azure OpenAI의 배포에 할당된 속도 제한을 나타냅니다. 분당 모델 배포에서 처리할 수 있는 최대 토큰 수를 나타냅니다. 반면, 모델의 컨텍스트 길이는 단일 API 호출에 대한 입력 텍스트에 포함할 수 있는 최대 토큰 수를 나타냅니다. TPM 속도 제한은 할당된 TPM 값에 따라 적용되며 컨텍스트 길이는 모델에서 처리할 수 있는 입력 텍스트의 최대 크기를 결정합니다.
TPM 할당은 모델의 최대 입력 토큰 제한과 관련이 없습니다.
내 데이터가 Azure OpenAI 모델을 학습하거나 미세 조정하는 데 내부적으로 사용되나요?
Azure OpenAI는 고객 데이터를 사용하여 모델을 다시 학습시키지 않습니다.
프롬프트(입력) 및 완료(출력), 포함 및 학습 데이터:
- 다른 고객이 사용할 수 없음
- OpenAI에서 사용할 수 없음
- 는 OpenAI 모델을 개선하는 데 사용되지 않습니다.
- 은 Microsoft 또는 타사 제품 또는 서비스를 개선하는 데 사용되지 않습니다.
- 리소스에서 사용하기 위해 Azure OpenAI 모델을 자동으로 개선하는 데 사용되지 않음(학습 데이터로 모델을 명시적으로 미세 조정하지 않는 한 모델은 상태 비정상)
미세 조정된 Azure OpenAI 모델은 단독으로 사용할 수 있습니다.
OpenAI 모델에 대한 콘텐츠 필터링의 중요성은 무엇이며 사용 사례에 맞게 사용자 지정하려면 어떻게 해야 하나요?
콘텐츠 필터링은 AI에서 생성된 콘텐츠가 특정 지침 및 정책에 부합하도록 합니다. 프롬프트 및 부적절하거나 불쾌한 콘텐츠 생성을 통해 유해한 콘텐츠의 입력을 감지하고 방지하는 데 도움이 됩니다. Azure OpenAI에서 콘텐츠 필터링 기능은 Azure AI Content Safety를 통해 제공됩니다. 애플리케이션의 지침에 맞게 Azure OpenAI 모델의 콘텐츠 필터를 사용자 지정하고 생성된 콘텐츠와 관련된 잠재적 위험을 완화할 수 있습니다.
Founders Hub에서 수준 3으로 진행한 신생 기업만 Azure OpenAI에서 콘텐츠 필터링을 수정하기 위한 액세스를 요청할 수 있습니다. 콘텐츠 필터링 수정에 대한 액세스를 요청하려면 다음 링크를 통해 요청을 제출합니다.
콘텐츠 필터링 수정에 대한 액세스를 요청하기 위한 링크:
Azure AI 사용자 지정 신경망 음성 및 사용자 지정 아바타 제한 액세스 검토
Azure AI Vision Face API 인식 제한된 액세스 검토
Azure OpenAI 제한된 액세스 검토: 수정된 콘텐츠 필터링
Azure OpenAI 제한된 액세스 검토: 수정된 남용 모니터링
Azure OpenAI에서 모델 배포를 만들 어떻게 할까요? 있나요?
Azure OpenAI에서 모델 배포를 만들려면 다음 단계를 수행합니다.
- 에서 Azure OpenAI Studio에 https://oai.azure.com로그인합니다.
- 사용할 구독 및 Azure OpenAI 리소스를 선택하고 리소스 사용을 선택합니다.
- 관리에서 배포를 선택합니다.
- 새 배포 만들기를 선택하고 다음 필드를 구성합니다.
필드 | 설명 |
---|---|
모델 선택 | 모델 가용성은 지역에 따라 다릅니다. 지역당 사용 가능한 모델 목록은 learn.microsoft.com/azure/ai-services/openai/concepts/models#model-summary-table-and-region-availability 모델 요약 테이블 및 지역 가용성을 참조하세요. |
배포 이름 | 신중하게 이름을 선택합니다. 배포 이름은 코드에서 클라이언트 라이브러리 및 REST API를 사용하여 모델을 호출하는 데 사용됩니다. |
고급 옵션(선택 사항) | 리소스에 필요한 대로 선택적 고급 설정을 지정할 수 있습니다. |
- 콘텐츠 필터의 경우 배포에 콘텐츠 필터를 할당합니다.
- 분당 토큰 속도 제한의 경우 TPM(분당 토큰)을 조정하여 배포에 대한 유효 속도 제한을 설정합니다. 할당량 메뉴인 learn.microsoft.com/azure/ai-services/openai/how-to/quota?tabs=rest 사용하여 언제든지 이 값을 수정할 수 있습니다.
- 드롭다운 목록에서 모델을 선택합니다.
- 모델을 식별하는 데 도움이 되는 배포 이름을 입력합니다.
- 처음 배포하는 경우 고급 옵션을 기본값으로 둡니다. 만들기를 실행합니다.
배포 테이블에는 새로 생성된 모델에 해당하는 새 항목이 표시됩니다. 배포가 완료되면 모델 배포 상태가 성공으로 변경됩니다.
콘텐츠 필터를 제거하면 어떻게 하나요?
"관리 상태"는 콘텐츠 필터 제거를 위한 몇 가지 요구 사항 중 하나입니다. Microsoft for Startups는 콘텐츠 필터에 대한 결정을 판결하지 않습니다. 그러나 "관리 상태" 기준을 충족하는 한 가지 방법은 Microsoft for Startups 프로그램의 $25K 수준에 수락되고 다른 심사 요구 사항을 통과하는 것입니다. $25K 이상의 신생 기업에서는 여기에서 제거를 위해 관련 팀에 문의하는 방법을 포함하여 콘텐츠 필터에 대해 자세히 알아볼 수
GPU
다양한 유형의 GPU SKU는 무엇인가요?
GPU는 수요가 높습니다. 따라서 지역 및 SKU를 유연하게 사용할 수 있습니다. GPU SKU의 범위를 이해하려면 learn.microsoft.com/azure/virtual-machines/sizes-gpu 자세히 읽어보세요.