생성 AI 모델 배포

  • 2분

먼저 대화할 모델을 배포하거나 API 호출을 통해 프롬프트에 대한 응답을 수신해야 합니다. 새 배포를 만들 때 배포할 기본 모델을 나타내야 합니다. TPM(분당 토큰)이 배포 할당량 내에 유지되는 한 하나 이상의 Azure OpenAI 리소스에 배포할 수 있습니다.

Azure AI Studio를 사용하여 배포

Azure AI Studio의 배포 페이지에서 메뉴에서 모델 이름을 선택하여 새 배포를 만들 수 있습니다. 사용 가능한 기본 모델은 모델 페이지의 목록에서 제공됩니다.

Azure AI Studio 포털의 모델 배포 마법사 스크린샷

Studio의 배포 페이지에서 배포 이름, 모델 이름, 모델 버전, 상태, 만든 날짜 등을 비롯한 모든 배포에 대한 정보를 볼 수도 있습니다.

Azure CLI를 사용하여 배포

콘솔을 사용하여 모델을 배포할 수도 있습니다. 이 예제를 사용하여 다음 변수를 사용자 고유의 리소스 값으로 바꿉니다.

  • OAIResourceGroup: 리소스 그룹 이름으로 대체합니다.
  • MyOpenAIResource: 리소스 이름으로 바꾸기
  • MyModel: 모델의 고유한 이름으로 대체합니다.
  • gpt-35-turbo: 배포하려는 기본 모델로 바꾸기
az cognitiveservices account deployment create \
   -g OAIResourceGroup \
   -n MyOpenAIResource \
   --deployment-name MyModel \
   --model-name gpt-35-turbo \
   --model-version "0301"  \
   --model-format OpenAI \
   --sku-name "Standard" \
   --sku-capacity 1

REST API를 사용하여 배포

REST API를 사용하여 모델을 배포할 수 있습니다. 요청 본문에서 배포하려는 기본 모델을 지정합니다. Azure OpenAI 설명서의 예제를 참조하세요.