Microsoft 365용 Copilot 구성 및 계획 가이드는 호주와 뉴질랜드의 민감하고 규제된 산업 고객을 위한 것이며 Microsoft 365용 보안 클라우드 구성 지침에 대한 ASD(오스트레일리아 신호 디렉터리) 청사진 과 일치합니다.
이 문서에서는 ASD 청사진의 측면에서 Copilot를 이해하는 데 필수적인 서비스 구성 요소 및 서비스 경계를 살펴봅니다.
서비스 구성 요소
다음 다이어그램은 Microsoft 365 고객이 서비스 아키텍처를 더 잘 이해할 수 있도록 Copilot를 지원하도록 설계되었으며 이 페이지의 컨텍스트 역할을 합니다. 이 아키텍처의 각 요소는 다음 섹션에서 설명합니다.
Microsoft 365 서비스 경계
Microsoft 365에는 다양한 Microsoft 365 서비스를 포괄하는 서비스 경계가 있어 Microsoft 365의 아키텍처, 소프트웨어 엔지니어링, 보안, 규정 준수 및 개인 정보 표준 및 제어를 준수합니다. 이 경계는 광범위한 Microsoft Cloud 제품에서 Microsoft 365 서비스의 scope 표시하고 해당 구성 요소 간에 일관된 표준을 유지 관리합니다. 경계 내의 시스템에는 Microsoft 365의 엄격한 규정 준수 작업이 적용됩니다.
Microsoft 365용 Copilot는 Microsoft 365 서비스 경계 내에서 작동하므로 SharePoint, Exchange, Teams, Planner, Microsoft 365 Search 등과 같은 다른 서비스와 함께 Microsoft 365 제품군의 필수적인 부분입니다. Microsoft 365용 Copilot는 핵심 온라인 서비스로, Microsoft 제품 약관 내에서 가장 강력한 보안 및 규정 준수 계약 약정의 적용 을 받습니다.
고객 Microsoft 365 테넌트
Microsoft 365는 다중 테넌트 퍼블릭 클라우드 SaaS(Software-as-a-Service) 제품입니다. Microsoft 365 내에서 고객 테넌트는 organization 콘텐츠의 논리적 컨테이너로 정의됩니다. 여기에는 각 고객에게 고유하고 데이터와 콘텐츠를 보호하는 식별자 및 암호화 키가 포함됩니다.
고객의 등록 위치에 따라 핵심 서비스에 대한 미사용 데이터 스토리지 약정 이 있습니다. Microsoft 365용 Copilot에서 액세스하고 생성한 데이터가 저장되는 위치입니다.
코필로트 오케스트레이터
Copilot Orchestrator는 Microsoft 365용 Copilot와의 모든 상호 작용을 관리합니다. Copilot Orchestrator는 AI가 아니라 Copilot 환경을 구성하는 AI 모델, 데이터 원본 및 플러그 인 전반의 코디네이터입니다.
Copilot Orchestrator는 최종 사용자로부터 상호 작용을 수신하고 RAG(Retrieval-Augmented-Generation) 프로세스를 시작하여 자연어 응답을 생성합니다. 이 프로세스는 사용자에게 다시 전달되기 전에 여러 단계를 통해 처리됩니다.
Searchal-Augmented-Generation 프로세스에 대한 자세한 내용은 Foundry Models 온라인 설명서에서 Microsoft의 Azure OpenAI를 참조하세요.
대규모 언어 모델
LLM(큰 언어 모델)은 자연어와 유사한 방식으로 텍스트를 해석하고 생성할 수 있는 고급 AI 도구입니다. 방대한 양의 텍스트 데이터를 학습하고 다양한 언어 관련 작업을 수행할 수 있는 통계 관계를 학습합니다. LLM은 일관되고 상황에 맞는 텍스트를 생성하고, 언어를 번역하고, 콘텐츠를 요약하고, 질문에 답변하고, 창의적인 쓰기 또는 코드 생성을 도울 수 있습니다.
Microsoft 365용 Copilot는 각 모델이 서로 다른 작업을 수행하도록 조정되는 대형 언어 모델의 조합을 활용합니다. 시간이 지남에 따라 Microsoft는 고객을 대신하여 이러한 모델을 계속 업데이트하고 교체하여 Copilot 서비스의 성능, 정확도, 에너지 효율성, 속도 및 기타 특성을 개선할 것입니다.
Microsoft 365용 Copilot에서 사용하는 대형 언어 모델은 Microsoft 365 전용 Foundry Models의 Azure OpenAI instance Microsoft에서 호스팅합니다. Microsoft는 고객 데이터에 대한 대규모 언어 모델을 학습하지 않으며 Azure OpenAI에서 고객 데이터를 보존하지도 않습니다. Microsoft 365용 Copilot는 상호 작용을 시작하는 최종 사용자의 콘텐츠 액세스 권한과 함께 Microsoft 365에 설정된 organization 보안, 규정 준수 및 개인 정보 보호 정책을 자동으로 상속합니다.
Microsoft Graph
그래프는 모든 organization Microsoft 365 테넌트의 필수적인 부분입니다. 검색 인덱스가 있는 위치이며 고객 콘텐츠에 대한 액세스가 제어되는 메커니즘입니다. Graph는 콘텐츠의 게이트키퍼이며 모든 Microsoft 365 상호 작용에서 필수적인 역할을 합니다. 고객의 콘텐츠에 존재하는 보안 권한을 적용하고 해당 콘텐츠에 대한 안전하고 규정을 준수하며 감사 가능한 액세스를 제공합니다.
Microsoft 365용 Copilot는 사용자가 파일에 액세스하거나 매일 검색을 수행할 때 상호 작용하는 것과 동일한 메커니즘을 통해 콘텐츠에 액세스합니다.
이러한 방식으로 Microsoft 365용 Copilot는 최종 사용자가 이미 액세스할 수 있는 콘텐츠에만 액세스할 수 있습니다. 따라서 대용량 언어 모델은 Copilot 외부의 다른 시나리오에서 사용자를 제한하는 동일한 메커니즘에 의해 제한되므로 사용자가 액세스할 수 없는 콘텐츠에 액세스하도록 결정할 수 없습니다.
Microsoft 365용 Copilot에는 개념 및 언어에 대한 의미 체계 이해를 Microsoft Graph에 포함하고 Copilot 및 Microsoft 365 Search를 사용하여 자연어 표현을 더 잘 이해할 수 있는 추가 검색 인덱싱 방법이 도입되었습니다. 이렇게 하면 Copilot가 가장 관련성이 큰 콘텐츠를 찾고 사용할 수 있는 기능이 크게 향상됩니다. 이 추가 자연어 데이터를 의미 체계 인덱스라고 합니다.
커넥터 및 플러그 인
커넥터와 플러그 인은 모두 Microsoft 365 외부의 데이터 및 시스템에 대한 액세스를 만듭니다. 기본적으로 Microsoft 365 서비스 경계 외부에 연결할 수 있습니다.
| 커넥터 | 플러그 인 |
|---|---|
| 외부 데이터 액세스 | 새 기술 추가 |
| 일정에 따라 실행 | 실시간으로 실행 |
| 단방향 데이터 흐름(읽기) | 양방향 데이터 흐름(읽기 및 쓰기)을 지원할 수 있습니다. |
| 파일 공유, 인트라넷 및 기술 자료와 같은 정적 데이터 세트에 적합합니다. | 웹 검색과 같은 제약이 없는 데이터 세트 및 여행 예약 또는 사례 관리와 같은 앱 통합에 적합합니다. |
Copilot Studio Copilot용 사용자 지정 커넥터 및 플러그 인을 개발하기 위한 로우 코드/코드 없는 도구 집합을 제공합니다. Copilot Studio Microsoft 365 구독용 Copilot에 포함되어 있으며 사용자별로 사용하거나 사용하지 않도록 설정할 수 있습니다. 자세한 내용은 라이선스 할당을 참조하세요.
커넥터
커넥터는 일정에 따라 실행되어 외부 데이터를 Microsoft Graph에 인덱싱합니다. 외부 콘텐츠를 그래프로 인덱싱하면 Copilot에서 해당 콘텐츠에 액세스할 수 있습니다. 커넥터는 또한 사용자를 위한 Microsoft 365 검색 환경을 개선합니다.
커넥터는 비즈니스 콘텐츠의 대규모 외부 리포지토리를 연결하는 데 유용합니다. 커넥터의 몇 가지 일반적인 예로는 파일 공유, 온-프레미스 인트라넷, 기술 자료 및 organization 고유한 공용 웹 사이트가 있습니다. 이는 상대적으로 정적이며 제한된 데이터 집합입니다. 특정 상호 작용 또는 사용자 컨텍스트에 대한 응답으로 데이터가 생성되지 않는다는 점에서 정적입니다.
사용자는 이러한 데이터 원본을 Microsoft Graph에 인덱싱하여 원본 시스템에 실시간 연결하지 않고도 Copilot(및 Microsoft 365 Search)를 사용하여 콘텐츠에 액세스할 수 있습니다.
고객이 Microsoft 365로 외부 데이터 원본을 가져오고 Copilot용 scope 가져올 수 있는 다양한 기존 커넥터가 있습니다. 커넥터는 고객 데이터를 Microsoft 365 서비스 경계 외부로 쉽게 보낼 수 없지만 서비스 경계 외부에서 데이터를 가져옵니다.
커넥터 및 해당 보안에 대한 자세한 내용은 Copilot 커넥터 및 커넥터 보안 모델을 참조하세요.
플러그 인
플러그 인(Bing 등)은 Copilot에 새로운 기술과 지식을 제공하기 위해 상호 작용 실행 중에 실시간으로 실행된다는 측면에서 커넥터와 다릅니다. 예를 들어 포함된 웹 콘텐츠에 대한 액세스(Bing 통합) 플러그 인을 사용하면 공용 웹 콘텐츠를 실시간으로 통합하여 Copilot에서 사용할 수 있는 지식을 보강할 수 있습니다.
웹 콘텐츠 플러그 인을 사용하면 Copilot에 대한 새 실시간 쿼리 원본을 포함할 수 있습니다. 이를 통해 Copilot는 Microsoft 365 테넌트 내부(Microsoft Graph를 통해)의 콘텐츠뿐만 아니라 웹 콘텐츠(Bing을 통해)를 병렬로 검색할 수 있습니다. 이는 주제의 퍼블릭 콘텐츠를 Microsoft Graph에 포함된 개인 지식과 통합하는 데 유용할 수 있습니다. 최신 및 최근 이벤트, 최신 업계 뉴스 및 개발 및 기타 품질 온라인 소스에 대한 지식은 Copilot 생성 콘텐츠 및 응답의 품질을 크게 향상시킬 수 있습니다.
또 다른 예는 사용자가 Copilot Chat 환경 내에서 항공편을 검색하고 구성할 수 있도록 Copilot가 자연어 인터페이스를 제공할 수 있는 여행 예약 시스템에 대한 플러그 인입니다. 이렇게 하면 Microsoft가 아닌 시스템을 기반으로 새롭고 통합되고 간소화된 사용자 환경을 제공할 수 있습니다.
또한 고객이 자체 플러그 인을 만들어 새로운 기술을 제공하고 다른 기간 업무 애플리케이션을 Copilot와 통합하여 organization 직원을 위한 Copilot의 지식과 기술 세트를 향상시킬 수 있습니다.
Copilot 플러그 인에 대한 자세한 내용은 온라인 확장성 가이드를 참조하세요.
고객이 Copilot에서 사용할 수 있도록 추가, 빌드 또는 구매할 수 있는 5가지 플러그 인 유형이 있습니다.
- 웹 콘텐츠에 대한 액세스(Bing 통합) 플러그 인: Bing 검색 엔진에서 웹 콘텐츠를 통합하기 위한 필수 플러그 인입니다. 자세한 내용은 웹 콘텐츠에 대한 액세스(Bing 통합)를 참조하세요.
- Teams 메시지 확장: Microsoft Teams, Outlook 및 Copilot Chat 간에 작동합니다. 메시지 카드 인터페이스를 통해 다른 시스템과의 정교한 상호 작용을 지원합니다.
- Power Platform 커넥터 플러그 인: Microsoft Power Platform에서 실행되며 FreshDesk, GitHub, MailChimp, MSN 날씨, Salesforce, ServiceNow, Twilio 및 Zendesk와 같은 일반적인 플랫폼에 대한 연결을 제공합니다. Power Platform Connector 플러그 인은 읽기 전용입니다.
- Power Automate Flow 플러그 인: Copilot와 Power Automate Flows 간의 연결을 제공하여 흐름을 실행하고 결과를 Copilot에 다시 반환할 수 있습니다. 이렇게 하면 고객이 비교적 적은 노력으로 Copilot에 대한 자체 기술과 통합을 개발하는 데 사용할 수 있는 강력한 코드 없는 확장성 옵션을 제공합니다. Power Automate 흐름 플러그 인은 읽기 전용입니다.
- Dynamics 365 플러그 인: 영업, 고객 서비스, 현장 서비스 및 공급망을 비롯한 Dynamics 365 비즈니스 애플리케이션에 Microsoft에서 제공하는 플러그 인입니다.