Azure AI 컨테이너에 대한 FAQ

개발자는 Azure AI 컨테이너를 통해 Azure에서 사용할 수 있는 것과 동일한 지능형 API를 사용하면서 컨테이너화의 이점도 누릴 수 있습니다. 일부 컨테이너는 애플리케이션에 액세스해야 할 수 있는 게이트 미리 보기로 사용할 수 있습니다. 그 밖의 컨테이너는 제어되지 않는 미리 보기로 공개적으로 사용할 수 있거나, 일반적으로 사용할 수 있습니다. Azure AI 서비스의 컨테이너 지원 문서에서 전체 컨테이너 목록과 가용성을 확인할 수 있습니다. Microsoft Container Registry(MCR)에서도 컨테이너를 볼 수 있습니다.

Azure AI 컨테이너는 Azure AI 서비스 클라우드의 대안입니다. 컨테이너는 해당하는 클라우드 서비스와 동일한 기능을 제공합니다. 고객은 온-프레미스 또는 Azure에서 컨테이너를 배포할 수 있습니다. 핵심 AI 기술, 가격 책정 계층, API 키 및 API 서명은 컨테이너와 해당 클라우드 서비스 간에 동일합니다. 해당하는 클라우드 서비스와 컨테이너를 비교하여 선택하기 위한 기능 및 혜택은 다음과 같습니다.

이전에는 제어된 미리 보기 컨테이너를 containerpreview.azurecr.io 리포지토리에서 호스트했습니다. 2020년 9월 22일부터 이러한 컨테이너는 Microsoft Container Registry에서 호스팅됩니다. 다운로드할 때 docker login 명령을 사용할 필요가 없습니다. 승인된 Azure 구독 ID를 사용하여 Azure 리소스가 생성된 경우 제한적인 미리 보기 컨테이너를 실행할 수 있습니다. 요청 양식을 작성한 후 Azure 구독이 승인되지 않으면 컨테이너를 실행할 수 없습니다.

우리는 더 많은 Azure AI 서비스 제품을 컨테이너로 제공하고 싶습니다. 새로운 컨테이너 릴리스 및 기타 Azure AI 서비스 발표에 대한 업데이트를 받으려면 현지 Microsoft 계정 관리자에게 문의하세요.

Azure AI는 SLA 페이지에서 볼 수 있는 클라우드 호스팅 서비스에 대한 SLA를 제공합니다.

그러나 컨테이너의 Azure AI 서비스는 온-프레미스 소프트웨어이므로 SLA를 제공하지 않습니다. 고객은 리소스의 Azure AI 서비스 컨테이너 구성을 제어하므로 Microsoft는 GA(일반 가용성)에 대한 SLA를 제공할 수 없습니다. 고객은 온-프레미스에 컨테이너를 자유롭게 배포하고 호스트 환경을 정의할 수 있습니다.

표준 Azure AI 컨테이너는 Sovereign 클라우드에서 사용할 수 있습니다. 권한이 부여되면 컨테이너를 실행하고 이러한 클라우드의 청구 엔드포인트에 연결할 수 있지만 컨테이너 이미지는 퍼블릭 클라우드 컨테이너 레지스트리에서 가져와야 합니다. Translator 또는 Custom Speech to text와 같이 런타임에 다운로드된 언어 모델을 사용하는 컨테이너도 공용 엔드포인트에서 모델을 가져오도록 구성됩니다.

연결되지 않은 컨테이너 구매는 현재 Sovereign 클라우드에서 지원되지 않습니다. 모든 종속성과 함께 퍼블릭 클라우드에서 구매한 연결 해제된 컨테이너는 소버린 클라우드로 전송되어 소버린 클라우드 인프라에서 실행될 수 있습니다.

고객은 배포한 컨테이너를 업데이트할 시기를 선택할 수 있습니다. 컨테이너에는 최신 버전을 나타내기 위해 latest와 같은 표준 Docker 태그가 표시되어 있습니다. 고객은 최신 버전의 컨테이너가 릴리스되면 끌어올 것을 권장합니다. 이미지가 업데이트될 때 알림을 받는 방법에 대한 자세한 내용은 Azure Container Registry 웹후크를 참조하세요.

컨테이너 라이선스 파일은 각 컨테이너 이미지 내의 특정 파일을 해독하는 키로 사용됩니다. 이러한 암호화된 파일이 새 컨테이너 이미지 내에서 업데이트되면 이전 버전의 컨테이너 이미지에서 작동했더라도 보유하고 있는 라이선스 파일이 컨테이너를 시작하지 못할 수 있습니다. 이 문제를 방지하려면 mcr.microsoft.com에서 새 이미지 버전을 가져온 후 Azure Portal에 제공된 컨테이너의 리소스 엔드포인트에서 새 라이선스 파일을 다운로드하는 것이 좋습니다.

새 라이선스 파일을 다운로드하려면 라이선스 마운트, API 키, 청구 엔드포인트와 함께 Docker 실행 명령에 DownloadLicense=True를 추가하면 됩니다. 자세한 지침은 컨테이너 설명서를 참조하세요.

일반적으로 현재 버전의 컨테이너만 지원됩니다. Microsoft는 고객이 최신 패치와 기술을 얻기 위해 최신 상태를 유지하도록 권장합니다.

호환성이 손상되는 변경은 API 서명에 큰 변화가 있음을 의미합니다. 이 표시는 일반적으로 해당 Azure AI 서비스 클라우드 제품의 주요 버전 변경과 일치할 것으로 예상됩니다. 사소한 버전 변경은 버그 픽스, 모델 업데이트 또는 API 서명이 크게 변경되지 않는 새로운 기능을 의미합니다.

Azure AI 서비스 컨테이너를 실행하는 데 문제가 있는 경우 Microsoft 진단 컨테이너를 사용해 볼 수 있습니다. 이 컨테이너를 사용하여 Azure AI 컨테이너가 예상대로 작동하지 못하게 할 수 있는 배포 환경의 일반적인 오류를 진단합니다.

컨테이너를 가져오려면 다음 docker pull 명령을 사용합니다.

docker pull mcr.microsoft.com/azure-cognitive-services/diagnostic

그런 다음, 컨테이너를 실행합니다. {ENDPOINT_URI}를 엔드포인트로 바꾸고, {API_KEY}를 리소스에 대한 키로 바꿉니다.

docker run --rm mcr.microsoft.com/azure-cognitive-services/diagnostic \
eula=accept \
Billing={ENDPOINT_URI} \
ApiKey={API_KEY}

컨테이너는 청구 엔드포인트에 대한 네트워크 연결을 테스트 합니다.

안정적인 인터넷 연결이 없거나, 대역폭 비용을 절약하고 싶거나, 짧은 지연 시간 요구 사항이 있거나, 현장에서 분석해야 하는 중요한 데이터를 처리하는 경우 Azure IoT Edge를 사용하면 됩니다. Azure AI 컨테이너는 클라우드와의 일관성을 제공합니다.

OpenShift를 사용하여 컨테이너를 테스트하지는 않지만 일반적으로 Azure AI 컨테이너는 Docker 이미지를 지원하는 모든 플랫폼에서 실행되어야 합니다. OpenShift를 사용하는 경우 컨테이너를 root-user로 실행하는 것이 좋습니다.

고객이 공개적으로 자신의 우려를 표명하고 잠재적인 문제가 겹치는 경우 동일한 조치를 취한 다른 사람들에게 찬성 투표를 할 것을 권장합니다. 제품 피드백과 기능 권장 사항 모두에 피드백 도구를 사용할 수 있습니다.

다음은 상태 메시지 및 오류입니다.

고객 지원 채널은 Azure AI 서비스 클라우드 기반 API와 동일합니다. 모든 Azure AI 컨테이너에는 당사와 커뮤니티가 고객을 지원하는 데 도움이 되는 로깅 기능이 포함되어 있습니다. 추가 지원을 위한 옵션은 다음과 같습니다.

• Azure 지원 플랜에서 연락처 정보를 찾으세요.
• 전문 프로그래머와 열정적인 프로그래머를 위한 질문과 답변 사이트인 Stack Overflow의 다음 영역을 사용해 보세요.
  • Azure AI 서비스
  • Microsoft Cognitive

Azure AI 서비스 클라우드와 유사하게 사용량에 따라 고객에게 요금이 청구됩니다. 계량 데이터를 Azure로 보내도록 컨테이너를 구성해야 하며 이에 따라 트랜잭션에 요금이 청구됩니다. 호스팅 및 온프레미스 서비스 전반에 걸쳐 사용되는 리소스는 두 가지 사용량에 대해 계산되어 계층화된 가격으로 단일 할당량에 추가됩니다. 자세한 내용은 사용 중인 컨테이너의 청구 섹션을 참조하세요.

다음은 계량을 위해 컨테이너가 통신하는 정보의 예입니다.

usageRequestBody": {
  "id": "1234abcd-1234-56ab-ab12-1234abcd",
  "containerType": "<container-type>",
  "containerVersion": "<container-version>",
  "containerId": "<contianer-id>",
  "meter": {
    "name": "<meter-name>",
    "quantity": 0.0
  },
  "requestTime": 12345687890,
  "apiType": "<api-type>"
},

엔터프라이즈 소프트웨어에 대한 Microsoft의 표준 보증은 GA(일반 공급)로 공식적으로 발표된 모든 컨테이너에 적용됩니다. 미리 보기에는 보증이 없습니다.

Azure AI 컨테이너는 측정을 위해 Azure에 연결하지 않고 실행할 수 있는 라이선스가 부여되지 않습니다. 고객은 컨테이너가 항상 측정 서비스와 통신할 수 있도록 해야 합니다.

Azure AI 컨테이너는 측정을 위해 Azure에 연결하지 않고 실행할 수 있는 라이선스가 부여되지 않습니다. 고객은 컨테이너가 항상 측정 서비스와 통신할 수 있도록 해야 합니다.

Azure AI 컨테이너는 x64 Linux Docker 컨테이너를 지원하는 호환 가능한 Linux 노드, VM, 에지 디바이스를 실행할 수 있는 x64 기반 컨테이너입니다. 모두 CPU 프로세서가 필요합니다. 자세한 내용은 사용 중인 컨테이너의 컨테이너 요구 사항 및 권장 사항 섹션을 참조하세요.

Azure AI 컨테이너는 Linux 컨테이너이지만 Windows에서 Linux 컨테이너를 일부 지원합니다. Windows의 Linux 컨테이너에 대한 자세한 내용은 Docker 설명서를 참조하세요.

Microsoft는 마치 고객이 클라우드 서비스를 사용하는 것처럼 사전 훈련된 AI 모델을 컨테이너로 이동하여 거래당 간단한 청구 방식을 적용한 최초의 클라우드 제공업체입니다. Microsoft는 하이브리드 클라우드가 고객에게 더 많은 옵션을 제공한다고 믿습니다.

Azure AI 컨테이너에는 규정 준수 인증이 없습니다.

컨테이너는 모든 지역에서 실행할 수 있지만 키가 필요하고 측정을 위해 Azure로 다시 호출해야 합니다. 클라우드 서비스에 지원되는 모든 지역이 컨테이너 계량 호출에 대해 지원됩니다.

• 연결되지 않은 환경에서 Azure AI 컨테이너를 사용하는 방법