모델 배포

  • 5분

Azure OpenAI 리소스를 만든 후에는 API 호출 및 텍스트 생성을 시작하는 모델을 배포해야 합니다. 배포 API를 사용하여 모델을 선택하고 배포합니다.

배포

배포는 Azure OpenAI 기본 모델 또는 선택한 모델에 엔드포인트를 제공합니다. 배포하는 동안 콘텐츠 조정 모델, 버전 처리 및 배포 크기를 지정하여 필요에 맞게 모델을 조정합니다.

중요합니다

배포 후에는 다음 두 가지 주요 항목을 받게 됩니다.

  • 모델을 호출하거나 HTTP 요청을 만드는 데 사용할 수 있는 링크인 엔드포인트입니다.
  • 엔드포인트에 대한 요청을 인증하고 계정에 대한 액세스 권한을 부여하는 암호와 같은 역할을 하는 API 키입니다.

Azure OpenAI Studio

Azure OpenAI Studio는 Azure OpenAI 서비스와 상호 작용할 수 있는 웹 기반 인터페이스입니다. 플레이그라운드를 사용하여 프롬프트를 제출하고 완료를 생성하여 서비스 기능을 실험할 수 있습니다. Azure OpenAI Studio를 사용하여 배포 및 모델을 관리할 수도 있습니다. Azure OpenAI Studio에 로그인하려면:

  • 인터페이스로 직접 이동하여 구독을 선택하고 클라우드 리소스를 선택합니다.
    또는
  • Azure Portal의 클라우드 리소스 탭을 통해 사이트로 이동합니다.

Azure OpenAI Studio로 수행할 수 있는 작업

  • 배포를 만들고 관리합니다.
  • 플레이그라운드에서 기능을 테스트합니다.
  • 학습을 위해 데이터 파일을 처리합니다.
  • 할당량을 관리합니다.
  • 콘텐츠를 필터링합니다.

Azure CLI를 사용하여 모델 배포 프로비전

Azure PORTAL 대신 Azure CLI를 사용하여 클라우드 리소스를 배포할 수 있습니다. Azure CLI를 사용하여 다음을 지정하여 모델 배포를 만들 수도 있습니다.

  • 모델 배포를 만드는 계정을 식별하는 리소스 이름.
  • 만든 리소스를 저장하는 논리 버킷 역할을 하는 리소스 그룹 이름.
  • 동일한 모델에서 다른 배포를 식별하는 데 도움이 되는 배포 이름(선택 사항). 예를 들어 프로그래밍 방식으로 요청을 보낼 때 배포 이름이 있어야 합니다. 배포 이름이 지정되지 않은 경우 기본값은 선택한 모델의 이름입니다.
  • 모델 형식 이름. 수행하려는 내용에 따라 특정 모델 유형을 입력합니다. 예를 들어 텍스트 생성, 채팅 또는 이미지 생성을 입력합니다.
  • 모델 형식.
  • SKU 용량 값(선택 사항).
  • SKU 이름(선택 사항).

다음은 모델 배포를 만드는 방법의 예입니다. 필요에 맞게 코드를 변경합니다.


az cognitiveservices account deployment create \ 
--name cognitiveServiceAccountName \ 
--resource-group resourceGroupName \ 
--deployment-name deploymentName \ 
--model-name gpt-35-turbo \ 
--model-version "0301" \ 
--model-format OpenAI \ 
--sku-capacity "1" \ 
--sku-name "Standard"

참고 항목

CLI에서 새로 만든 배포를 사용하려면 엔드포인트 URL 및 API 키를 검색해야 합니다. 자세한 내용은 Azure OpenAI 서비스 리소스 만들기 및 배포를 참조하세요.