Microsoft Foundry의 고객 관리형 키 암호화

Microsoft Foundry는 클라우드에 유지되면 데이터를 자동으로 암호화합니다. 제어 계층을 더 추가하기 위해 Foundry는 Azure Key Vault 또는 Azure 관리형 HSM에 저장된 키를 사용하는 CMK(고객 관리형 키)를 지원합니다. CMK는 회전, 해지 및 감사와 같은 주요 수명 주기 작업을 제어할 수 있는 추가 암호화 계층을 제공합니다.

리소스에 대한 CMK 암호화를 구성하려면 Microsoft Foundry에 대한 고객 관리형 키 구성을 참조하세요.

메모

기본 Azure AI 검색 인프라의 용량 제약 조건으로 인해 CMK 암호화는 현재 일부 지역에서만 사용할 수 있습니다. 지원되는 지역 목록은 Azure AI 검색 지역 가용성 참조하세요.

Microsoft Foundry 암호화 정보

Microsoft Foundry 데이터는 FIPS 140-2 호환 256비트 AES 암호화를 사용하여 암호화 및 암호 해독됩니다. 암호화 및 암호 해독은 투명하므로 암호화 및 액세스가 관리됩니다. 데이터는 기본적으로 안전하며 암호화를 활용하기 위해 코드 또는 애플리케이션을 수정할 필요가 없습니다.

중요합니다

CMK 적용에는 제한이 적용됩니다. 다음 섹션에서는 지원되는 시나리오, 예외 및 구성 관련 고려 사항을 간략하게 설명합니다.

Microsoft Foundry에서 CMK가 적용되는 방법

기본적으로 서비스는 Microsoft 관리되는 서비스 인프라에 데이터 및 리소스 상태를 저장하고 Microsoft 관리형 키를 사용하여 암호화합니다. CMK를 구성할 때 서비스는 사용자가 제어하는 키를 사용하여 저장하는 적격 서비스 데이터를 암호화합니다.

암호화된 데이터의 예는 다음과 같습니다.

  • 에이전트, 프롬프트, 데이터 세트 및 평가와 같은 프로젝트 자산.
  • 파인튜닝 학습 작업에 데이터 세트로 업로드된 파일이나 OpenAI Files API를 통해 업로드된 파일과 같은 업로드된 파일
  • 대화 기록, 시스템 프롬프트 및 미세 조정된 모델과 같은 사용자 상태입니다.
  • 제품 내 쿼리를 사용하도록 설정하는 이전 데이터의 인덱싱된 표현입니다.

중요합니다

Foundry 리소스 구성에 따라 서비스는 Foundry 리소스의 일부인 관리되는 스토리지 또는 관리하는 스토리지에 서비스 상태를 저장할 수 있습니다. 지원은 Foundry 기능에 따라 다릅니다. 사용자 고유의 스토리지를 가져오지 않는 한 일부 기능은 고객 관리형 키 암호화를 지원하지 않습니다. 자세한 내용은 Foundry 기능별 CMK 지원 범위를 참조하세요.

Foundry 기능별 CMK 적용 범위

Foundry 기능 Foundry에서 관리하는 저장소의 CMK 고객 관리형 스토리지의 CMK Notes
프롬프트 에이전트 ❌ 지원되지 않음 ✅ 지원됨 기본 설정은 Microsoft 관리형 키를 사용합니다. CMK의 경우 사용자 고유의 리소스를 사용하고 Azure Cosmos DB, 스토리지 및 AI Search에서 CMK를 별도로 구성합니다.
호스팅된 에이전트 ❌ 지원되지 않음 ◐ 부분적 기본 설정은 Microsoft 관리형 키를 사용합니다. CMK의 경우 사용자 고유의 리소스를 사용하고 Azure Cosmos DB, 스토리지 및 AI Search에서 CMK를 별도로 구성합니다. 호스트 에이전트 샌드박스 컴퓨팅은 임시이지만 각 세션에는 영구 $HOME 파일 시스템이 있습니다. $HOME 플랫폼 관리 스토리지에서 지원되며 CMK를 사용하여 암호화되지 않으며 현재 사용하지 않도록 설정할 수 없습니다. 자세한 내용은 다음을 참조하세요: 컴퓨팅 스택 전반의 CMK 적용 범위.
Fine-tuning ✅ 지원됨 해당 없음 (사용자 고유의 스토리지 지원 없음) 업로드된 파일 및 학습된 미세 조정된 모델은 Microsoft 관리되는 스토리지 계정에서 CMK로 암호화됩니다. 학습된 모델은 Azure 구독에 의해 논리적으로 격리됩니다. 모델 가중치는 CMK로 언래핑되어 모델 배포 인스턴스화에 사용됩니다. 컴퓨팅 스택 및 학습 런타임에 대한 자세한 내용은 컴퓨팅 스택 전체의 CMK 검사를 참조하세요.
일괄 처리 작업 ✅ 지원됨 ✅ 지원됨 업로드된 파일은 Microsoft 관리되는 스토리지 계정에서 미사용 시 CMK로 암호화됩니다. 채점 작업 중에 이 스토리지 계정은 처리를 위해 컴퓨팅 노드에 사실상 탑재됩니다. 일괄 처리 작업 실행에 사용되는 컴퓨팅 스택에 대한 자세한 내용은 컴퓨팅 스택 전체의 CMK 검사를 참조하세요.
평가 ✅ 지원됨 ✅ 지원됨 Foundry에서 저장한 평가 자산 및 업로드된 파일은 CMK로 보호됩니다. 평가 작업에 사용되는 컴퓨팅 스택에 대한 자세한 내용은 컴퓨팅 스택 전체의 CMK 검사를 참조하세요.
관리형 컴퓨팅에 배포된 Hugging Face 모델 N/A(가중치는 Microsoft 관리되는 공용 레지스트리에 저장됨) N/A (가중치는 사용자 고유의 스토리지에 저장할 수 없습니다.) Foundry를 통해 사용할 수 있는 포옹 얼굴 모델의 경우 모델 가중치는 Microsoft 관리하는 Azure Storage 저장됩니다. 컴퓨팅 스택 및 호스팅 런타임에 대한 자세한 내용은 컴퓨팅 스택 전체의 CMK 검사를 참조하세요.
Speech ❌ 지원되지 않음 ✅ 지원됨 Azure AI 음성를 사용하는 업로드된 학습 및 테스트 데이터, 일괄 전사, 오디오 및 결과 로깅을 포함한 실시간 전사, 사용자 지정 음성 기능을 지원합니다. 추적 데이터는 사용자 지정 엔드포인트에 대해 추적을 사용하도록 설정된 경우에만 적용됩니다.
Language ✅ 지원됨 ✅ 지원됨 데이터 및 모델 가중치는 사용자 고유 스토리지 계정을 사용하지 않는 경우 Microsoft 관리형 키 또는 고객 관리형 키를 사용하여 저장됩니다.
콘텐츠 이해 N/A ✅ 지원됨 Content Understanding 기능을 사용하려면 사용자 고유의 스토리지를 가져와야 합니다.
OpenAI 길잡이(사용되지 않음) ❌ 지원되지 않음 N/A 이 기능은 더 이상 사용되지 않으며 미리 보기에서 CMK를 지원하지 않습니다.
Azure AI 검색, Azure Logic Apps 및 Azure Functions 포함한 연결된 서비스 N/A N/A Foundry 리소스와 별도로 암호화 키를 구성합니다. 연결된 모든 리소스는 암호화 관리를 위해 자체 수명 주기를 따릅니다.

컴퓨팅 스택 전반의 CMK 적용 범위

고객 관리형 키는 Microsoft Foundry가 저장해 두는 고객 데이터를 보호합니다. Foundry 기능은 모델 호스팅, 유추 처리, 미세 조정, 일괄 처리 유추 및 기타 런타임 작업을 위해 관리되는 컴퓨팅 인프라를 사용합니다.

다음을 구분하는 것이 중요합니다.

  • 고객 콘텐츠가 저장되고 CMK가 저장 상태에서 적용되는 영구 데이터 저장소.
  • 처리를 위해 AI 워크로드를 실행하는 런타임 컴퓨팅 인프라입니다. 데이터는 처리를 위해 CMK 암호화가 해제되며, 영구 데이터 저장소에 다시 기록될 때 CMK로 다시 암호화됩니다.

유추, 모델 호스팅, 학습 및 일괄 처리에 사용되는 컴퓨팅 리소스는 의도적으로 삭제됩니다. 작업 컨테이너 및 임시 스토리지는 워크로드를 실행하는 데 필요한 기간 동안만 프로비전되며 고객 데이터에 대한 장기 스토리지 위치로 의도되지 않습니다. 컴퓨팅 작업 실행이 완료된 후 메모리 및 디스크 공간이 정리됩니다. 컴퓨팅 Pod가 종료되면 모든 임시 상태가 정리됩니다.

Microsoft Foundry 워크로드는 특정 Foundry 리소스와 연결된 논리적으로 격리된 환경에서 실행됩니다. 고객 코드, 에이전트 실행 및 워크로드 런타임은 실행 컨테이너를 다른 테넌트와 공유하지 않습니다. 성능을 향상시키는 런타임 캐싱은 테넌트 또는 리소스 경계에서 격리되며 고객 간에 공유되지 않습니다.

따라서 CMK 범위는 스토리지 서비스 및 플랫폼 관리형 데이터 저장소에 유지되는 고객 데이터를 보호하는 데 중점을 둡니다. 런타임 컴퓨팅 인프라는 Microsoft 플랫폼 관리형 암호화, 워크로드 격리 및 테넌트 격리 제어를 통해 보호됩니다.

레이어 예제 임시 데이터 수명 주기 CMK 적용됨
영구 데이터 저장소 Foundry에서 관리하는 스토리지 또는 사용자가 관리하는 Azure Storage 계정 아니요 사용자가 삭제할 때까지 보존, 보존 정책 또는 리소스 삭제 ✅ 예
Foundry 아티팩트 프로젝트 자산, 사용자 상태, 서비스 메타데이터 아니요 사용자 또는 연결된 리소스에 의해 삭제될 때까지 유지 ✅ 예
인프라를 호스트하는 모델 미세 조정 모델 서비스 클러스터, 컨테이너, 엔드포인트 인프라 Yes CMK는 스토리지에 저장된 상태의 파일과 모델 아티팩트를 보호합니다. 배포 중 모델 가중치는 패키징이 해제되어 추론을 위해 Microsoft에서 관리하는 서빙 인프라에 로드된 다음, 배포가 삭제되면 제거됩니다. ◐ 부분적
관리형 컴퓨팅 모델 호스팅 인프라 모델 서비스 클러스터, 컨테이너, 엔드포인트 인프라 Yes 모델 가중치는 Foundry 관리 스토리지에 저장되고 모델 서비스 인스턴스가 프로비전될 때 메모리로 인스턴스화됩니다. 메모리 내 복사본은 일시적이며 서비스 인프라의 수명 주기에 연결됩니다. 컴퓨팅 캐시는 암호화되지 않으며 노드 수명 주기에 연결됩니다. ◐ 부분적
유추 및 에이전트 실행 런타임 프롬프트 실행, 토큰 생성, 도구 호출, 런타임 메모리, 임시 실행 상태, 캐시 Partial 추론 요청 처리 맥락에서 상태를 저장하지 않음. 워크로드는 Foundry 리소스와 연결된 논리적으로 격리된 환경에서 실행되며 지속성 스토리지 위치로 사용되지 않습니다. 대화와 같은 에이전트 응답 출력은 사용자 고유의 스토리지를 가져오는 경우 미사용 시 CMK로 암호화될 수 있습니다. ◐ 부분 (자체 스토리지를 가져오는 경우)
호스트된 에이전트 실행 런타임 세션별 샌드박스 루트 디스크, $HOME 데이터 볼륨, 세션 상태 Partial 각 컴퓨팅 노드에는 샌드박스에 대한 임시 루트 디스크가 있으며, 이 디스크는 최대 24시간 동안 지속되며 $HOME Microsoft 관리형 스토리지에서 백업되는 데이터 볼륨입니다. $HOME의 수명은 세션에 종속됩니다. 플랫폼은 유휴 시간 제한이 지나면 샌드박스를 삭제하지만, 세션을 삭제하지 않는 한 $HOME 상태는 30일 동안 유지합니다. CMK 및 사용자 소유 스토리지는 현재 지원되지 않으며, $HOME 폴더는 비활성화할 수 없습니다. ❌ 아니요
학습 런타임 미세 조정 컴퓨팅, GPU, 임시 작업 디렉터리 미세 조정 Yes 학습 데이터는 Foundry 관리 스토리지에 저장되는 동안 CMK로 암호화됩니다. 학습하는 동안 데이터는 CMK로 보호되는 Azure Storage 탑재되고 검사점 및 최종 모델 아티팩트가 CMK로 보호된 스토리지에 다시 기록됩니다. 학습은 CMK로 암호화되지 않고 작업 기간 동안만 남아 있는 임시 작업-로컬 작업 파일 및 캐시를 만듭니다. ◐ 부분적

데이터 보존 및 삭제

암호화 컨트롤 외에도 Microsoft Foundry에서 관리하는 데이터의 수명 주기에 대한 제어를 유지합니다. 언제든지 Files API를 통해 업로드된 학습, 유효성 검사 및 학습 결과 데이터를 삭제할 수 있습니다. 마찬가지로, 더 이상 필요하지 않은 경우 미세 조정된 모델 및 배포를 영구적으로 삭제할 수 있으므로 서비스 관리 자산이 의도한 용도 이상으로 저장되지 않습니다. 적절한 DELETE API 작업을 통해 언제든지 이 데이터를 삭제할 수 있습니다.

고객 관리형 키를 해지하는 의미

키에 대한 권한을 제거하거나 키를 사용하지 않도록 설정하거나 키를 삭제하는 등 언제든지 고객 관리형 키에 대한 액세스를 취소할 수 있습니다. CMK가 활성화된 상태로 유지되는 동안 활성 고객 관리형 키에 대한 액세스를 취소하면 해당 키로 암호화된 데이터에 더 이상 액세스할 수 없습니다. 따라서 학습 데이터 또는 학습 결과 다운로드, 새 미세 조정된 모델 만들기, 미세 조정된 모델 배포 등 암호화된 미세 조정 자산에 액세스해야 하는 작업이 실패합니다.

이전에 배포된 미세 조정된 모델은 배포 시 모델 아티팩트가 호스팅 인프라에 로드되기 때문에 유추 트래픽을 계속 제공합니다. 이러한 배포는 삭제될 때까지 계속 작동하며, 고객 관리형 키에 대한 액세스를 복원하지 않으면 다시 만들 수 없습니다.