데이터, 개인 정보 보호 및 보안 계획

플러그인을 계획하는 동안 이 문서를 사용하세요. 지금 적용 가능한 요구 사항을 식별하고 기능 및 개발 도구를 선택한 후 구성 요소별 구현을 확인합니다.

Copilot 확장성 개발을 위한 주요 고려 사항(엔터프라이즈 보안 및 신뢰, 책임 있는 AI, 고품질 사용자 환경, 고부가가치 기능)을 다이어그램으로 표시합니다.

데이터 및 작업 흐름 매핑

정보가 솔루션에 들어오고 이동하고 나가는 방법을 문서화합니다. 프롬프트, 대화 기록, Microsoft 365 데이터, 외부 조직 데이터, 생성된 콘텐츠, 작업, 로그 및 지원 데이터를 포함합니다.

잠재적 구성 요소 질문 계획
에이전트 에이전트가 사용할 수 있는 명령, 지식, 대화 컨텍스트, 작업 및 외부 서비스는 무엇인가요?
스킬 이 기술은 어떤 지침, 워크플로 단계, 입력, 출력 및 호스트 권한에 의존하나요?
Copilot 커넥터 외부 데이터가 Microsoft Graph에 동기화되거나 페더레이션 연결을 통해 검색되나요? 각 항목에 대한 액세스는 어떻게 적용되나요?
MCP 기반 기능 원격 서버가 노출하는 도구와 리소스는 무엇인가요? 어떤 데이터가 전송되고 서버가 실행되는 위치는 어디인가요?
API 또는 외부 서비스 어떤 작업, 자격 증명, 고객 데이터, 로그 및 서비스 공급자가 관련되어 있습니까?

Microsoft 365에서 선언적 에이전트의 안전한 구현 보장

Microsoft 365 고객과 파트너는 선언적 에이전트가 구성한 REST API 설명을 통해 호출되는 사용자 지정 지침, 기초 지식 및 작업을 사용하여 Microsoft 365 Copilot을 확장하는 선언적 에이전트를 빌드할 수 있습니다. 런타임에 Microsoft 365 Copilot은 사용자의 프롬프트, 선언적 에이전트의 일부인 사용자 지정 지침, 사용자 지정 작업에서 제공하는 데이터의 조합을 추론합니다. 이러한 모든 데이터는 시스템의 동작에 영향을 줄 수 있으며 이러한 처리에는 보안 위험이 수반됩니다. 특히 사용자 지정 작업이 신뢰할 수 없는 출처(예: 전자 메일 또는 지원 티켓)의 데이터를 제공할 수 있는 경우 공격자는 질문에 잘못 대답하거나 사용자 지정 작업을 호출하는 등 공격자가 제어하는 방식으로 에이전트가 동작하도록 하는 메시지 페이로드를 만들 수 있습니다. Microsoft는 이러한 공격을 방지하기 위해 여러 가지 조치를 취하고 있습니다. 또한 조직에서는 신뢰할 수 있는 지식 원본을 사용하고 사용자 지정 작업을 통해 신뢰할 수 있는 REST API에 연결하는 선언적 에이전트만 사용하도록 설정해야 합니다. 신뢰할 수 없는 데이터 원본을 사용해야 하는 경우 침해 가능성을 염두에 두고 선언적 에이전트를 설계하고 신중한 사람의 개입 없이 중요한 작업을 수행할 수 있는 기능을 제공하지 않도록 합니다.

Microsoft 365는 조직에 통합 앱을 획득하고 사용할 수 있는 사용자와 선언적 에이전트를 사용하는 앱을 포함하여 Microsoft 365 테넌트 내 그룹 또는 개인에 대해 사용할 수 있는 앱을 제어하는 광범위한 제어를 제공합니다. 사용자가 자신만의 선언적 에이전트를 만들 수 있게 해주는 Copilot Studio와 같은 도구에는 관리자가 지식과 사용자 지정 작업 모두에 사용되는 커넥터를 제어할 수 있는 광범위한 제어 기능도 포함되어 있습니다.

각 흐름에 대해 데이터 소유자, 원본, 대상, 위치, 분류, 보존, 삭제, 암호화, 가용성 및 실패 동작을 기록합니다.

ID, 인증 및 사용 권한 계획

식별:

  • 사용자, 응용 프로그램, 패키지, 퍼블리셔, 서비스 및 관리자 ID입니다.
  • 필요한 Microsoft Entra 등록, 권한, 범위 및 동의.
  • 외부 서비스 및 원격 MCP 서버에 대한 인증 및 연결 요구 사항입니다.
  • 액세스가 위임되는지, 응용 프로그램 기반이는지, 서비스 간인지 또는 조합인지 여부입니다.
  • 비밀, 인증서, 토큰, 키 및 연결 정보를 저장하고 회전하는 방법입니다.
  • 인증, 권한 부여 또는 연결 검사가 실패할 때 솔루션이 작동하는 방식입니다.

모든 구성 요소 및 종속성에 최소 권한을 적용합니다. 플러그 인은 사용자 또는 구성 요소가 달리 액세스 권한이 없는 데이터에 대한 액세스 권한을 사용자에게 부여하지 않습니다.

데이터 보호 및 규정 준수 계획

검토:

  • 데이터 수집, 사용, 저장, 전송, 보유, 내보내기 및 삭제.
  • 기존 Microsoft 365 권한, 민감도 레이블, 데이터 손실 방지, 보존, eDiscovery, 감사 및 규정 준수 제어.
  • 외부 서비스, API, 커넥터 및 MCP 서버로 전송되는 데이터 및 프롬프트입니다.
  • 지역, 산업, 계약, 조직 및 고객 요구 사항.
  • 개인 정보 고지, 사용 약관, 지원 공개 및 제3자 서비스 공급자.
  • 액세스 및 활동을 조사하는 데 필요한 모니터링 및 감사 정보.

Microsoft Graph 및 Microsoft 365 서비스는 해당 서비스에 저장된 데이터에 대해 적용 가능한 ID 기반 액세스 경계를 적용합니다. 외부에서 호스팅된 서비스는 자체 ID, 권한, 개인 정보 보호 및 규정 준수 요구 사항을 적용할 책임이 있습니다.

Microsoft 365 Copilot 개인 정보 정보는 Microsoft 365 Copilot에 대한 데이터, 개인 정보 및 보안을 참조하세요. 제로 트러스트 계획은 Microsoft 365 Copilot용 제로 트러스트를 참조하세요.

결과적 조치 및 책임 있는 AI 계획

정보를 생성, 변경, 전송, 승인, 구매, 삭제 또는 공개하는 작업을 식별합니다. 각 결과적 작업에 대해 다음을 정의합니다.

  • 허용된 사용자 및 조건입니다.
  • 유효성 검사 및 권한 부여 확인.
  • 확인 및 인적 감독 요구 사항.
  • 안전한 실패, 재시도, 되돌리기 및 복구 동작입니다.
  • 정확성, 품질, 안전성 및 오용에 대한 평가 기준.
  • 모니터링, 사고 대응, 에스컬레이션 및 일시 중단 절차.

자세한 내용은 책임 있는 AI 유효성 검사 및 책임 있는 AI에 대한 Microsoft의 약속을 참조하세요.

플러그 인 공유를 위한 거버넌스 및 관리자 컨트롤

계획 중에 관리자와 서비스 소유자에게 필요한 결과를 정의합니다.

  • 플러그 인, 게시자, 요청된 액세스, 데이터 원본, 작업 및 외부 서비스를 검토합니다.
  • 인수, 게시, 공유 또는 배포 요청을 승인하거나 거부합니다.
  • 의도한 사용자 및 그룹에 가용성을 할당합니다.
  • 필요한 연결, 권한, 동의, 조직 정책을 구성합니다.
  • 인벤토리, 활동, 보고서, 사용량 및 감사 정보를 모니터링합니다.
  • 요구 사항 변경 시 액세스를 제한, 차단, 제거 또는 사용 중지합니다.

사용 가능한 컨트롤 및 관리 화면은 구성 요소 및 Microsoft 환경에 따라 다릅니다. 계획하는 동안 필요한 거버넌스 결과를 식별합니다. 나중에 지원되는 패키지 및 관리 모델을 선택하고 운영 지침에 대한 플러그 인 액세스 및 연결 제어 를 따릅니다.

의도한 배포 범위 계획

조직 또는 기간 업무 솔루션의 경우 Microsoft 365, Microsoft Entra, Microsoft Purview, Power Platform, 외부 서비스 및 대상 Microsoft 환경을 관리하는 관리자 및 보안 소유자가 참여합니다.

공용 또는 다중 테넌트 솔루션의 경우 고객 대면 개인정보처리방침, 사용 약관, 게시자 ID, 고객 동의, 지원 모델, 보안 대응 및 인증 요구 사항을 계획합니다. 현재 공용 배포 요구 사항은 다음을 참조하세요.

이러한 요구 사항 전달

계획할 때 다음을 추적합니다.

  • 데이터 및 작업 흐름.
  • ID, 사용 권한, 동의 및 연결입니다.
  • 신뢰 경계 및 외부에서 호스팅되는 종속성.
  • 개인 정보 보호, 보안, 규정 준수 및 책임 있는 AI 요구 사항입니다.
  • 거버넌스 결과 및 수명 주기 소유자입니다.
  • 선택한 구성 요소 또는 도구에 따라 달라지는 해결되지 않은 요구 사항입니다.

플러그인의 기능을 선택하고개발 도구를 선택할 때 이러한 요구 사항을 적용하세요. 구현 후 플러그인 유효성 검사 및 해당 제품별 보안 및 관리 지침을 통해 확인합니다.

다음 단계