모델 카탈로그를 통한 모델 사용에 대한 데이터, 개인 정보 보호 및 보안

이 문서에서는 모델 카탈로그에서 모델을 배포할 때 제공한 데이터가 처리, 사용 및 저장되는 방법에 대한 세부 정보를 제공합니다. 또한 Azure 서비스의 데이터 처리에 적용되는 Microsoft 제품 및 서비스 데이터 보호 부록을 참조하세요.

Azure Machine Learning에 배포된 모델에 대해 어떤 데이터가 처리되나요?

Azure Machine Learning에 모델을 배포하면 서비스를 제공하기 위해 다음 형식의 데이터가 처리됩니다.

• 프롬프트 및 생성된 콘텐츠. 프롬프트는 사용자가 제출하고 콘텐츠(출력)는 모델에서 지원하는 작업을 통해 모델에서 생성됩니다. 프롬프트에는 RAG(검색 증강 생성), 메타 프롬프트 또는 애플리케이션에 포함된 기타 기능을 통해 추가된 콘텐츠가 포함될 수 있습니다.

• 업로드된 데이터. 미세 조정을 지원하는 모델의 경우 고객은 미세 조정에 사용할 데이터를 Azure Machine Learning Datastore에 업로드할 수 있습니다.

관리형 컴퓨팅을 사용하여 추론 출력 생성

관리형 컴퓨팅에 모델을 배포하면 모델 가중치가 전용 Virtual Machines에 배포되고 실시간 유추를 위해 REST API가 노출됩니다. 모델 카탈로그에서 관리형 컴퓨팅으로 모델을 배포하는 방법에 대해 자세히 알아봅니다. 이러한 관리형 컴퓨팅에 대한 인프라를 관리하면 Azure의 데이터, 개인 정보 보호 및 보안 약정이 적용됩니다. Azure Machine Learning에 적용할 수 있는 Azure 규정 준수 제품에 대해 자세히 알아봅니다.

"Azure AI에 의해 큐레이팅된" 모델의 컨테이너에서 데이터를 반출할 수 있는 취약성이 있는지 검사했지만, 모델 카탈로그를 통해 사용할 수 있는 모든 모델이 검사되지는 않았습니다. 데이터 반출 위험을 줄이려면 가상 네트워크를 사용하여 배포를 보호할 수 있습니다. 자세히 알아보려면 이 링크를 클릭합니다. 또한 Azure Policy를 사용하여 사용자가 배포할 수 있는 모델을 규제할 수도 있습니다.

서버리스 API(Model-as-a-Service)로 추론 출력 생성

유추를 위한 서버리스 API로서 모델을 모델 카탈로그(기본 또는 미세 조정)에서 배포하면 API가 프로비전되어 Azure Machine Learning Service에서 호스트하고 관리하는 모델에 대한 액세스를 제공합니다. 서비스로서의 모델에 대해 자세히 알아봅니다. 모델은 입력 프롬프트를 처리하고 모델에 제공된 모델 세부 정보에 설명된 대로 모델의 기능을 기반으로 출력을 생성합니다. 모델은 모델 공급자가 제공하며 모델 사용(및 모델과 해당 출력에 대한 모델 공급자의 책임성)에는 모델과 함께 제공된 사용 조건이 적용되지만, Microsoft가 호스팅 인프라와 API 엔드포인트를 제공하고 관리합니다. Models-as-a-Service에 호스트된 모델에는 Azure의 데이터, 개인 정보 보호 및 보안 약정이 적용됩니다. 여기에서 Azure Machine Learning에 적용할 수 있는 Azure 규정 준수 제품에 대해 자세히 알아봅니다.

Important

이 기능은 현재 공개 미리 보기로 제공됩니다. 이 미리 보기 버전은 서비스 수준 계약 없이 제공되며, 프로덕션 워크로드에는 권장되지 않습니다. 특정 기능이 지원되지 않거나 기능이 제한될 수 있습니다.

자세한 내용은 Microsoft Azure Preview에 대한 추가 사용 약관을 참조하세요.

Microsoft는 종량제 유추(MaaS)를 위해 배포된 모델로 전송되고 생성된 프롬프트와 출력에 대한 데이터 프로세서 역할을 합니다. Microsoft는 이러한 프롬프트 및 출력을 모델 공급자와 공유하지 않으며 Microsoft, 모델 공급자 또는 타사의 모델을 학습하거나 개선하기 위해 이러한 프롬프트 및 출력을 사용하지 않습니다. 모델은 상태 비저장이며 프롬프트나 출력이 모델에 저장되지 않습니다. 콘텐츠 필터링(미리 보기)이 사용하도록 설정된 경우 Azure AI 콘텐츠 보안 서비스를 통해 유해 콘텐츠의 특정 범주에 대한 프롬프트 및 출력이 실시간으로 검사됩니다. Azure AI 콘텐츠 보안이 데이터를 처리하는 방법에 대해 여기에서 자세히 알아봅니다. 프롬프트와 출력은 배포 중에 지정된 지역 내에서 처리되지만 운영 목적(성능 및 용량 관리 포함)을 위해 지리적 영역 간에 처리될 수도 있습니다.

MaaS(Models-as-a-Service)의 배포 프로세스에서 설명했듯이 Microsoft는 모델 게시자가 모델과 관련하여 고객에게 연락할 수 있도록 고객 연락처 정보 및 트랜잭션 세부 정보(제공 사항과 관련된 사용량 포함)를 모델 게시자와 공유할 수 있습니다. 모델 게시자에게 제공되는 정보에 대해 자세히 알아보려면 이 링크를 클릭합니다.

서버리스 API(Model-as-a-Service)를 사용하여 모델 미세 조정

서버리스 API 배포에 사용 가능한 모델이 미세 조정을 지원하는 경우 Azure Machine Learning Datastore에 데이터를 업로드하거나 이미 있는 데이터를 지정하여 모델을 미세 조정할 수 있습니다. 그런 다음 미세 조정된 모델에 대한 서버리스 API를 만들 수 있습니다. 미세 조정 모델은 다운로드할 수 없지만 미세 조정된 모델은 다음과 같습니다.

• 용도에 따라 단독으로 사용 가능.

• 저장 시 이중 암호화할 수 있습니다(기본적으로 Microsoft의 AES-256 암호화 및 선택적으로 고객 관리형 키 사용).

• 언제든지 삭제할 수 있습니다.

미세 조정을 위해 업로드된 학습 데이터는 서비스 내에서 사용자가 지시한 경우를 제외하고 Microsoft 또는 타사 모델을 학습, 재학습 또는 개선하는 데 사용되지 않습니다.

다운로드한 모델의 데이터 처리

모델 카탈로그에서 모델을 다운로드하는 경우 모델을 배포할 위치를 선택하고 모델을 사용할 때 데이터가 처리되는 방식에 대한 책임은 사용자에게 있습니다.

다음 단계

• 모델 카탈로그 개요