투명도 메모란?
AI 시스템에는 기술뿐만 아니라 기술을 사용할 사용자, 영향을 받을 사용자 및 배포된 환경이 포함됩니다. 의도한 목적에 적합한 시스템을 만들려면 기술의 작동 방식, 기능 및 제한 사항, 최상의 성능을 달성하는 방법을 이해해야 합니다. Microsoft의 투명성 참고 사항은 AI 기술의 작동 방식, 시스템 소유자가 시스템 성능 및 동작에 영향을 줄 수 있는 선택 사항, 기술, 사람 및 환경을 포함한 전체 시스템에 대한 사고의 중요성을 이해하는 데 도움이 되도록 하기 위한 것입니다. 서비스가 발전함에 따라 이 문서를 계속 업데이트할 것입니다.
Microsoft의 투명성 참고 사항은 AI 원칙을 실천하기 위한 Microsoft의 광범위한 노력의 일환입니다. 자세한 내용은 Microsoft AI 원칙을 참조하세요.
Microsoft 365 Copilot 기본 사항
소개
Microsoft 365 Copilot LLM(대규모 언어 모델)을 사용하고 Microsoft Graph 및 Microsoft 365 앱 및 서비스와 데이터를 통합하는 AI 기반 생산성 도구입니다. Word, Excel, PowerPoint, Outlook, Teams 등과 같은 인기 있는 Microsoft 365 앱과 함께 작동합니다.
Microsoft 365 Copilot Azure OpenAI Service에서 제공하는 모델의 조합을 사용합니다. 이를 통해 속도, 창의성 등 각 기능의 특정 요구 사항(예: 속도, 창의성)을 올바른 모델과 일치시킬 수 있으므로 Microsoft 365 Copilot 사용자가 창의력, 생산성 및 기술을 향상시킬 수 있는 실시간 지능형 지원을 제공할 수 있습니다.
Microsoft by OpenAI에 제공된 LLM에 대한 자세한 내용은 모델 - OpenAI API에서 사용할 수 있는 공개 설명서를 참조하세요.
주요 용어
| 용어 | 설명 |
|---|---|
| 사용자 프롬프트 | 사용자 프롬프트는 특정 작업을 실행하거나 정보를 제공하기 위해 Microsoft 365 Copilot 전송된 텍스트입니다. 예를 들어 사용자는 다음 프롬프트를 입력할 수 있습니다. 회계 연도 말에 팀을 축하하는 이메일을 작성합니다. |
| 처리 | Microsoft 365 Copilot 사용자 프롬프트 처리에는 책임 있는 AI 검사를 포함하여 Microsoft 365 Copilot 관련성 있고 실행 가능한 응답을 제공하는지 확인하는 여러 단계가 포함됩니다. |
| 접지 | 접지란 사용자 프롬프트와 관련된 LLM에 입력 소스를 제공하는 프로세스를 나타냅니다. Microsoft 365 Copilot Microsoft Graph 또는 Bing의 데이터와 같은 입력 원본으로 사용할 데이터에 액세스할 수 있도록 함으로써 Microsoft 365 Copilot 사용자에게 보다 정확하고 상황에 맞는 응답을 제공할 수 있습니다. |
| Microsoft Graph | Microsoft Graph는 Microsoft 365의 데이터 및 인텔리전스 게이트웨이를 말합니다. 여기에는 사용자, 활동 및 organization 데이터 간의 관계에 대한 정보가 포함됩니다. |
| Microsoft Graph 커넥터 | Microsoft Graph 커넥터는 외부 서비스의 콘텐츠를 Microsoft Graph로 가져와 외부 데이터를 Microsoft Search 및 Microsoft 365 Copilot 같은 Microsoft 365 지능형 환경에 전력을 공급할 수 있는 방법을 제공합니다. |
| 인덱싱 | Microsoft는 Microsoft Graph 데이터의 어휘 및 의미 체계 인덱싱을 모두 사용하여 엔터프라이즈 데이터의 Microsoft 365 Copilot 대한 응답을 접지합니다. 인덱싱은 사용자 프롬프트를 해석하여 상황에 맞는 응답을 생성합니다. 인덱싱에 대한 자세한 내용은 시스템 동작을 참조하세요. |
| 보강된 프롬프트 | 사용자의 입력된 프롬프트에 추가 지침이 추가되면 프롬프트가 보강되어 보다 구체적이고 관련 있는 응답을 생성하는 Microsoft 365 Copilot 안내합니다. |
| 상호 작용의 콘텐츠 | 사용자의 프롬프트를 설명하고 해당 프롬프트에 대한 Microsoft 365 Copilot 응답을 설명하는 데 사용되는 용어입니다. |
| LLM(큰 언어 모델) | 이 컨텍스트의 LLM(큰 언어 모델)은 대량의 텍스트 데이터를 학습하여 순서대로 단어를 예측하는 AI 모델입니다. LLM은 텍스트 생성, 요약, 번역, 분류 등과 같은 다양한 작업을 수행할 수 있습니다. |
| LLM 응답 | Microsoft 365 Copilot 반환되는 사용자 프롬프트에 대한 응답으로 LLM에서 생성된 콘텐츠입니다. |
| 사후 처리 | 처리 Microsoft 365 Copilot LLM에서 응답을 받은 후에 수행됩니다. 이 사후 처리에는 Microsoft Graph에 대한 추가 접지 호출, 책임 있는 AI, 보안, 규정 준수 및 개인 정보 검사가 포함됩니다. |
| 책임 있는 AI | Microsoft의 정책, 연구 및 엔지니어링 사례는 AI 원칙에 기반을 두고 책임 있는 AI 표준을 통해 운영됩니다. |
| 코필로트 에이전트 | Copilot 에이전트는 사용자와 조직이 Microsoft 365 Copilot 새로운 기술과 지식을 추가하기 위해 설치할 수 있는 Microsoft 및 기타 공급자에서 개발한 애플리케이션입니다. Copilot 에이전트에서 AI를 사용하는 방법에 대한 자세한 내용은 해당 제품을 직접 참조하세요. |
| 레드 팀 테스트 | 전문가가 시스템의 제한 사항과 취약성을 평가하고 계획된 완화의 효과를 테스트하는 데 사용하는 기술입니다. 레드 팀 테스트는 잠재적인 위험을 식별하는 데 사용되며 체계적인 위험 측정과는 다릅니다. |
기능
기능
| 기능 | 설명 |
|---|---|
| Word의 Microsoft 365 Copilot | Word의 Microsoft 365 Copilot 사용자가 문서를 만들고, 요약하고, 이해하고, 구체화하고, 승격할 수 있도록 효율성과 창의성으로 쓰기를 변환합니다. 사용자는 텍스트를 테이블로 시각화 및 변환하는 것과 같은 향상된 기능을 사용할 수도 있습니다. 다른 기능으로는 기존 프롬프트에 추가, 다른 문서를 참조하여 문서 초안 작성, 문서에 대한 정보 검색 등이 있습니다. 자세한 내용은 Word의 Copilot 대한 질문과 대답을 참조하세요. |
| PowerPoint의 Microsoft 365 Copilot | PowerPoint의 Microsoft 365 Copilot 사용하여 프롬프트 또는 Word 파일에서 엔터프라이즈 템플릿을 활용하여 새 프레젠테이션을 만들 수 있습니다. 채팅 기능을 사용하면 요약 및 Q&A 및 라이트 명령을 사용하면 사용자가 슬라이드, 그림을 추가하거나 데크 전체 서식을 변경할 수 있습니다. PowerPoint 파일은 데이터를 접지하는 데도 사용할 수 있습니다. 자세한 내용은 PowerPoint의 Copilot 대한 질문과 대답을 참조하세요. |
| Excel의 Microsoft 365 Copilot | Excel의 Microsoft 365 Copilot 사용자가 스프레드시트의 데이터에 대한 수식, 차트 유형 및 인사이트에 대한 제안을 할 수 있도록 지원합니다. 자세한 내용은 Excel의 Copilot 대한 질문과 대답을 참조하세요. |
| Outlook의 Microsoft 365 Copilot | Outlook의 Microsoft 365 Copilot 전자 메일 받은 편지함을 관리하고 보다 효율적으로 효과적인 통신을 만드는 데 도움이 됩니다. Outlook의 Microsoft 365 Copilot 이메일 스레드를 요약하고, 작업 항목, 회신 및 후속 모임을 제안할 수 있습니다. 또한 전자 메일을 초안 작성할 때 길이와 톤을 조정할 수 있습니다. 자세한 내용은 Outlook의 Copilot 대한 질문과 대답을 참조하세요. |
| Teams의 Microsoft 365 Copilot | Teams의 Microsoft 365 Copilot 대화를 요약하고, 주요 토론 지점을 구성하고, 주요 작업을 요약할 수 있습니다. 사용자는 특정 질문에 대한 답변을 얻고 모임이나 채팅에서 놓친 항목을 파악할 수 있습니다. 자세한 내용은 Microsoft Teams의 Copilot에 대한 질문과 대답을 참조하세요. |
| Loop의 Microsoft 365 Copilot | Loop의 Microsoft 365 Copilot 사용하면 Copilot에서 직접 편집 또는 구체화를 통해 공동으로 개선할 수 있는 콘텐츠를 만들 수 있습니다. 자세한 내용은 Loop의 Copilot 대한 질문과 대답을 참조하세요. |
| Microsoft Stream Microsoft 365 Copilot | Microsoft Stream Microsoft 365 Copilot 모든 비디오에서 대본과 함께 정보를 얻는 데 도움이 됩니다. Stream Microsoft 365 Copilot 비디오 요약을 제공하고, 특정 질문에 답변하고, 특정 topics 또는 토론 지점으로 빠르게 이동하고, 행동 호출을 식별할 수 있습니다. 자세한 내용은 Stream Copilot에 대한 질문과 대답을 참조하세요. |
| Whiteboard의 Microsoft 365 Copilot | Whiteboard의 Microsoft 365 Copilot 아이디어를 생성, 분류 및 요약하기 위한 아이디어 생성 프로세스를 시작하는 데 도움이 됩니다. 자세한 내용은 Whiteboard Copilot에 대한 질문과 대답을 참조하세요. |
| OneNote의 Microsoft 365 Copilot | OneNote의 Microsoft 365 Copilot 사용하면 사용자가 OneNote 앱에서 필요한 항목을 찾을 수 있도록 계획을 작성하고, 아이디어를 생성하고, 목록을 만들고, 정보를 구성할 수 있습니다. 자세한 내용은 OneNote의 Copilot 대한 질문과 대답을 참조하세요. |
| Microsoft 365 Copilot Chat | Microsoft 365 Copilot Chat(이전 명칭이 비즈니스 채팅)은 대규모 언어 모델의 기능과 인터넷, 회사 콘텐츠 및 컨텍스트 및 기타 앱을 결합하여 사용자가 콘텐츠 초안을 작성하고 누락된 내용을 파악하고 프롬프트를 통해 질문에 대한 답변을 얻을 수 있도록 지원합니다. |
| SharePoint 서식 있는 텍스트 편집기에서 Microsoft 365 Copilot | Microsoft SharePoint 서식 있는 텍스트 편집기에서 Microsoft 365 Copilot SharePoint 페이지 및 게시물의 콘텐츠 생성을 간소화합니다. Copilot를 사용하면 텍스트를 다시 작성하고, 톤을 조정하고, 정보를 압축하고, 정교한 아이디어를 만들 수 있습니다. 자세한 내용은 SharePoint의 Copilot에 대한 질문과 대답을 참조하세요. |
| OneDrive의 Microsoft 365 Copilot | OneDrive의 Microsoft 365 Copilot 정보를 추출하고, 주요 차이점을 비교하고, 파일을 요약하고, 인사이트를 생성하여 문서와 상호 작용할 수 있도록 설계된 혁신적인 AI 기반 도우미. 자세한 내용은 OneDrive의 Copilot 대한 질문과 대답을 참조하세요. |
| Microsoft 365 Copilot 보기 카드 | 한눈에 보는 카드는 관련성 또는 회수를 평가하는 데 도움이 되는 문서와 같은 작업 엔터티의 빠른 미리 보기를 제공합니다. Microsoft 365 Copilot 앱 검색 탭에서 파일을 마우스로 가리키면 액세스됩니다. |
| 지능형 검색 | 지능형 검색을 사용하면 자연어를 사용하여 Dynamics 365 Sales, 서비스 및 재무 & 작업과 같은 Dataverse 애플리케이션에서 검색할 수 있습니다. |
| Power Platform 커넥터 | Power Platform Connectors를 사용하면 고객이 Microsoft 365 Copilot 환경에서 비즈니스 및 개인 생산성 애플리케이션 컬렉션의 실시간 데이터에 액세스할 수 있습니다. |
| Microsoft Graph 커넥터 | Microsoft Graph 커넥터를 사용하면 Microsoft 365 Copilot 라이선스당 최대 500개 항목을 포함하여 외부 데이터 원본에 연결할 수 있습니다. |
| Microsoft Purview | Microsoft Purview는 조직이 데이터를 관리하고 보호하는 데 도움이 되는 솔루션입니다. 데이터 거버넌스, 정보 보호, 위험 관리 및 규정 준수를 위한 통합 플랫폼을 제공합니다. 고객은 고객의 Microsoft 구독(예: Microsoft 365 E3 또는 E5 구독)에서 제공하는 Microsoft Purview 기능을 데이터 및 상호 작용을 Microsoft 365 Copilot 확장할 수 있습니다. |
| Microsoft 365 Copilot 튜닝 | Microsoft 365 Copilot 튜닝을 사용하면 조직에서 자체 테넌트 데이터를 사용하여 LLM(대규모 언어 모델)을 미세 조정할 수 있습니다. 이러한 모델은 organization 고유 지식을 기반으로 도메인별 작업을 수행하는 데 사용할 수 있습니다. 자세한 내용은 Microsoft 365 Copilot 튜닝에 대한 책임 있는 AI FAQ를 참조하세요. |
시스템 동작
Microsoft 365 Copilot LLM의 조합을 사용하여 콘텐츠를 요약, 예측 및 생성합니다. 이러한 LLM에는 이러한 작업에서 뛰어난 능력을 발휘하도록 설계된 OpenAI의 GPT-4 같은 GPT(생성 전 학습 변환기)와 같은 미리 학습된 모델이 포함됩니다.
사용자가 Microsoft 365 애플리케이션에서 볼 수 있는 기능은 추가 기능, 기능 및 프롬프트 기능으로 표시됩니다. LLM 및 독점 Microsoft 기술은 사용자가 조직 데이터에 안전하게 액세스, 사용 및 관리하는 데 도움이 되는 기본 시스템에서 함께 작동합니다.
Microsoft 365 앱(예: Word, Excel, PowerPoint, Outlook, OneNote, Teams 및 Loop)은 작업 흐름에서 사용자를 지원하기 위해 Microsoft 365 Copilot 함께 작동합니다. 예를 들어 Word의 Microsoft 365 Copilot 문서를 만들고, 이해하고, 편집하는 과정에서 특히 사용자를 지원하도록 설계되었습니다. 비슷한 방식으로 다른 앱의 Microsoft 365용 Copilot은 해당 앱 내에서 작업 컨텍스트의 사용자를 지원합니다.
Microsoft Graph는 오래된 Microsoft 365의 기본 사항입니다. 여기에는 사용자, 활동 및 organization 데이터 간의 관계에 대한 정보가 포함됩니다. Microsoft Graph API 이메일, 채팅, 문서 및 모임의 정보와 같은 고객 신호의 더 많은 컨텍스트를 프롬프트에 제공합니다. 자세한 내용은 Microsoft Graph 개요 및 Microsoft Graph의 주요 서비스 및 기능을 참조하세요.
Microsoft 365 Copilot Chat 통해 고객은 회사 콘텐츠와 컨텍스트를 Microsoft 365 Copilot 채팅 기능으로 가져올 수 있습니다. Microsoft 365 Copilot Chat 통해 사용자는 콘텐츠 초안을 작성하고, 놓친 내용을 파악하고, 개방형 프롬프트를 통해 질문에 대한 답변을 얻을 수 있습니다. 모두 회사 데이터에 안전하게 기반합니다. Microsoft Teams, Microsoft365.com 및 copilot.microsoft.com 등 다양한 표면에서 Microsoft 365 Copilot Chat 사용합니다.
의미 체계 인덱 스는 Microsoft Graph의 콘텐츠에서 생성된 인덱스입니다. 사용자 프롬프트를 처리하여 상황에 맞는 응답을 생성하는 데 사용됩니다. 이를 통해 조직은 수십억 개의 벡터(기능 또는 특성의 수학 표현)를 검색하고 관련 결과를 반환할 수 있습니다. 의미 체계 인덱스는 개별 사용자의 보안 컨텍스트를 존중하도록 설계되었으며 사용자가 액세스할 수 있는 콘텐츠만 표시됩니다. 의미 체계 인덱스는 보안, 규정 준수, 개인 정보에 대한 Microsoft의 포괄적인 접근 방식을 기반으로 하며 고객 테넌트 내의 모든 조직 경계를 준수합니다. 자세한 내용은 Copilot의 의미 체계 인덱스 를 참조하세요.
다음은 Microsoft 365 Copilot의 작동 방식에 대한 설명입니다.
Microsoft 365 Copilot Word 또는 PowerPoint와 같은 앱의 사용자로부터 입력 프롬프트를 받습니다.
그런 다음 Microsoft 365 Copilot 프롬프트의 특이성을 향상시키는 사용자 프롬프트를 처리하여 사용자가 특정 작업에 관련되고 실행 가능한 답변을 얻을 수 있도록 합니다. 프롬프트에는 Microsoft Graph를 사용하여 Microsoft 365 Copilot 검색한 입력 파일 또는 기타 콘텐츠의 텍스트가 포함될 수 있으며 Microsoft 365 Copilot 처리를 위해 이 프롬프트를 LLM에 보냅니다. Microsoft 365 Copilot 개별 사용자가 기존 Microsoft 365 역할 기반 액세스 제어를 기반으로 기존 액세스 권한이 있는 데이터에만 액세스합니다.
Microsoft 365 Copilot LLM의 응답을 받아 사후 처리합니다. 이 사후 처리에는 Microsoft Graph에 대한 다른 접지 호출, 콘텐츠 분류자, 보안, 규정 준수 및 개인 정보 검사, 명령 생성과 같은 책임 있는 AI 검사가 포함됩니다.
Microsoft 365 Copilot 사용자가 응답을 검토하고 평가할 수 있는 앱에 대한 응답을 반환합니다.
데이터는 저장되는 동안 암호화되며 Microsoft 365 Copilot 사용하는 것을 포함하여 Azure OpenAI Service Foundation LLM을 학습시키는 데 사용되지 않습니다. 이에 대한 자세한 내용은 Microsoft 365 Copilot 대한 데이터, 개인 정보 및 보안을 참조하세요.
Microsoft 365 Copilot 웹 콘텐츠 또는 조직 데이터 없이 응답을 생성하는 방법
Microsoft 365 Copilot 응답을 제공하기 위해 웹 콘텐츠 또는 조직 데이터가 필요하지 않지만 해당 정보는 응답의 품질, 정확도 및 관련성을 개선하는 데 도움이 될 수 있습니다. 웹 또는 조직 데이터 없이 응답하는 경우 Microsoft 365 Copilot LLM에만 의존하여 프롬프트를 이해하고 응답을 생성합니다. 이 프로세스에는 입력 구문 분석, 모델의 내부 기술 자료 활용, 상황에 맞는 응답을 구체화하는 작업이 포함됩니다.
확장성 & 사용자 지정
Microsoft 365 Copilot 사용자가 생산성과 창의성의 잠금을 해제하는 데 도움이 되는 기능을 제공합니다. 적응성은 다양한 조직의 고유한 요구 사항을 충족하도록 사용자 지정할 수 있음을 의미합니다. 확장을 통해 역량을 확장할 수 있으므로 끊임없이 변화하는 비즈니스 요구 사항에 적응할 수 있는 지속적으로 진화하는 자산입니다. Copilot에서 Microsoft 365 Copilot 사용자 지정에 대해 자세히 알아보기 | Microsoft 개발자. 확장에서 AI를 사용하는 방법에 대한 자세한 내용은 해당 제품을 직접 참조하세요.
사용 사례
Microsoft 365 Copilot 회사 데이터와 연결하고 고객이 매일 사용하는 앱과 통합하여 모든 organization 다양한 일상적인 작업을 지원하도록 설계된 범용 서비스입니다. 예시:
만들기 & 채팅 및 대화 상호 작용: 사용자는 Microsoft 365 Copilot Chat 상호 작용하고 내부 회사 설명서 또는 기술 지원 설명서와 같은 신뢰할 수 있는 문서에서 가져온 응답을 생성할 수 있습니다.
검색: 사용자는 내부 회사 설명서와 같은 신뢰할 수 있는 원본 문서를 검색할 수 있습니다.
요약: 사용자는 애플리케이션에 기본 제공되는 미리 정의된 topics 대해 요약할 콘텐츠를 제출할 수 있습니다. 예를 들어 Teams 채팅, 전자 메일, 웹 페이지 및 Word 문서에 대한 요약이 있습니다.
특정 topics 대한 쓰기 지원: 사용자는 비즈니스 콘텐츠 또는 미리 정의된 topics 대한 쓰기 지원으로 사용자가 제출한 새 콘텐츠를 만들거나 콘텐츠를 다시 작성할 수 있습니다. 예를 들어 Microsoft Outlook에서 전자 메일 초안을 작성하거나 Microsoft에서 콘텐츠를 작성하는 Word.
캡션 또는 전사: 사용자는 자연어 이해 또는 요약과 같은 분석 작업을 위해 오디오 파일을 텍스트로 기록할 수 있습니다. 예를 들어 Teams 모임 성적증명서와 Microsoft Stream 비디오 등이 있습니다.
Microsoft는 고객이 조직에 Microsoft 365 Copilot 기능의 통합을 가속화할 수 있도록 일반적인 사용 사례 및 시나리오에 초점을 맞춘 자세한 지침을 제공합니다. Microsoft Copilot 시나리오 라이브러리 – Microsoft 채택에서 자세히 알아보세요.
사용 사례를 선택할 때 고려 사항
사용자가 사용하기 전에 Microsoft 365 Copilot 생성된 모든 콘텐츠를 검토하는 것이 좋습니다. 또한 피하는 것이 좋습니다 특정 시나리오가 있습니다. 어떤 경우에는 의미있는 인간의 감독과 검토가 유해한 결과의 위험을 더 줄일 수 있습니다.
시스템의 사용이나 오용을 피하면 개인에게 심각한 신체적 또는 심리적 상해를 초래할 수 있습니다. 예를 들면, 환자를 진단하거나 약물을 처방하는 시나리오는 중요한 해를 일으키는 원인이 될 가능성이 있습니다.
시스템의 사용이나 오용을 피하면 삶의 기회나 법적 상태 영향을 미칠 수 있습니다. 예를 들어 AI 시스템이 개인의 법적 상태, 법적 권리 또는 신용, 교육, 고용, 의료, 주택, 보험, 사회복지 혜택, 서비스, 기회 또는 제공된 조건에 대한 액세스에 영향을 줄 수 있는 시나리오가 있습니다.
높은 지분 도메인 또는 업계의 사용 사례를 신중하게 고려합니다. 예를 들어 의료 또는 재무에만 국한되지는 않습니다.
제한 사항
Microsoft 365 Copilot 대한 특정 제한 사항
통합 및 호환성: Microsoft 365 Copilot Microsoft 365 애플리케이션과 원활하게 통합되도록 설계되어 있지만, 특히 타사(타사) 앱 및 사용자 지정 또는 비표준 구성과 같은 특정 환경에서 호환성에 대한 제한이나 문제가 있을 수 있습니다.
사용자 지정 및 유연성: Microsoft 365 Copilot 조정할 수 있지만 특정 조직의 요구 사항 또는 워크플로에 맞게 사용자 지정할 수 있는 정도에는 제한이 있습니다. 조직은 특정 기능 또는 응답이 엄격하거나 조직 요구 사항에 완전히 부합하지 않을 수 있습니다.
인터넷 연결에 대한 종속성: Microsoft 365 Copilot 작동하려면 인터넷 연결에 의존합니다. 연결 중단은 서비스의 가용성 및 성능에 영향을 미칠 수 있습니다.
사용자 교육 및 채택: Microsoft 365 Copilot 효과적으로 사용하려면 사용자가 해당 기능과 제한 사항을 이해해야 합니다. 학습 곡선이 있을 수 있으며 사용자는 서비스와 효과적으로 상호 작용하고 혜택을 받을 수 있도록 학습되어야 합니다.
리소스 강도: 고급 AI 모델을 실행하려면 특히 리소스가 제한된 환경에서 성능에 영향을 미칠 수 있는 상당한 계산 리소스가 필요합니다. 사용자는 사용량이 많은 시간에 대기 시간 또는 성능 문제가 발생할 수 있습니다.
법률 및 규정 준수 고려 사항: 조직은 특히 규제 산업에서 Microsoft 365 Copilot 사용할 때 특정 법률 및 규정 준수 의무를 고려해야 합니다. Microsoft는 기술 공급자로서 Microsoft에 적용되는 규정 요구 사항을 검토하고 지속적인 개선 프로세스를 통해 제품 내에서 이를 해결하고 있습니다.
바이어스, 스테레오티핑 및 비그라운드 콘텐츠: OpenAI의 집중적인 교육과 사용자 프롬프트 및 LLM 출력 모두에서 Microsoft의 책임 있는 AI 컨트롤 구현에도 불구하고 AI 서비스는 오류 및 확률적입니다. 이로 인해 모든 부적절한 콘텐츠를 포괄적으로 차단하여 AI에서 생성된 콘텐츠의 잠재적 편견, 고정관념 또는 비경지로 이어질 수 있습니다. AI 생성 콘텐츠의 알려진 제한 사항에 대한 자세한 내용은 Microsoft 365 Copilot 뒤에 있는 LLM에 대한 참조를 포함하는 Azure OpenAI Service에 대한 투명성 참고를 참조하세요.
Microsoft 365 Copilot 성능
많은 AI 시스템에서 성능은 정확도와 관련하여 정의되는 경우가 많습니다. 즉, AI 시스템이 올바른 예측 또는 출력을 제공하는 빈도입니다. Microsoft 365 Copilot 사용하면 두 명의 다른 사용자가 동일한 출력을 보고 얼마나 유용하거나 관련성이 있는지에 대해 서로 다른 의견을 가질 수 있습니다. 즉, 이러한 시스템의 성능을 보다 유연하게 정의해야 합니다. 일반적으로 성능은 사용자가 예상한 대로 애플리케이션이 수행된다는 의미로 간주합니다.
Microsoft 365 Copilot 환경을 개선하기 위한 모범 사례
Microsoft 365 Copilot 출력의 정확도와 관련하여 성능을 향상시키려면 조직에서 다음을 고려하는 것이 좋습니다.
좋은 프롬프트를 작성합니다. 좋은 프롬프트를 작성하는 것은 Microsoft 365 Copilot 더 나은 결과를 얻는 열쇠입니다. 사람들이 인간과 효과적으로 의사 소통하는 데 도움이 되는 기술이 있는 것처럼, 사용자가 프롬프트를 작성할 때 Microsoft 365 Copilot 더 나은 결과를 얻는 데 도움이 될 수 있는 지침이 있습니다. 예를 들어 세부 정보, 구조 프롬프트를 포함하고, 긍정적인 지침을 제공하고, 반복 및 다시 생성하고, 항상 AI 생성 응답을 검토하고 확인합니다. 자세한 내용은 Copilot 프롬프트를 사용하여 더 나은 결과 가져오기를 참조하세요.
웹 콘텐츠 참조를 허용합니다. Microsoft 365 Copilot 웹 콘텐츠를 참조하도록 허용하면 응답이 현재 웹의 공개 정보를 활용하는 Microsoft 365 Copilot 응답의 품질, 정확도 및 관련성을 향상시킬 수 있습니다. 그러나 Microsoft 365 Copilot 웹 콘텐츠를 참조할 때 Bing Search 서비스를 통해 이를 수행하고 Bing Search 쿼리에 대한 데이터 처리 방법은 Microsoft 365 Copilot 데이터가 처리되는 방식과 다릅니다. Bing 사용은 각 사용자와 Microsoft 간의 Microsoft 서비스 계약과 함께 Microsoft 개인정보처리방침의 적용을 받습니다.
Microsoft Graph에서 접지를 확장합니다. Microsoft 365 Copilot Microsoft Graph의 데이터를 사용하여 전자 메일, 채팅, 파일 및 일정과 같은 organization 특정 데이터의 응답을 접지합니다. 조직은 CRM 시스템 또는 외부 파일 리포지토리와 같은 원본의 조직 데이터로 Microsoft Graph를 확장하여 Microsoft 365 Copilot 응답의 풍부함과 정확도를 더욱 향상시키는 추가 컨텍스트별 관련 정보를 포함할 수 있습니다.
위험 매핑, 측정 및 관리
다른 변환 기술과 마찬가지로 AI의 이점을 활용하는 것은 위험이 없으며 Microsoft 책임 있는 AI 프로그램의 핵심 부분은 잠재적 위험을 식별하고 발생 가능성을 측정하며 완화를 구축하여 관리하도록 설계되었습니다. AI 원칙과 책임 있는 AI Standard 따라가고, 다른 생성 AI 제품 및 중앙 집중식 완화 인프라(예: Azure AI 콘텐츠 보안)의 학습을 기반으로 하여 잠재적 위험 및 오용을 매핑, 측정 및 관리하려고 합니다Microsoft 365 Copilot 새 환경에서 제공하는 변형적이고 유익한 용도를 보호합니다. 아래 섹션에서는 잠재적 위험을 매핑, 측정 및 관리하는 반복적인 접근 방식을 설명합니다.
지도
모델 수준에서 우리의 작업은 2022년 늦은 여름에 GPT-4 대한 예비 분석으로 시작되었습니다. 여기에는 OpenAI와 공동으로 광범위한 레드 팀 테스트를 수행하는 것이 포함되었습니다. 이 테스트는 추가 보호 조치 없이 최신 기술이 작동하는 방식을 평가하도록 설계되었습니다. 현재 당사의 구체적인 의도는 위험을 식별하고, 잠재적인 오용 방법을 노출하고, 기능 및 제한 사항을 식별하는 것이었습니다. OpenAI와 Microsoft의 결합된 학습은 모델 개발의 발전에 기여했으며 Microsoft에서 위험을 이해하고 Microsoft 365 Copilot 포함한 모든 생성 AI 기술에 대한 초기 완화 전략에 기여했습니다.
모델 수준 레드 팀 테스트 외에도, 전문가의 다분야 팀은 공개적으로 사용할 수 있도록 하기 전에 Microsoft 365 Copilot 환경에 대한 애플리케이션 수준 레드 팀 테스트를 수행했습니다. 이 프로세스를 통해 시스템을 악용하는 방법을 더 잘 이해하고 완화를 개선할 수 있습니다. 릴리스 후 Microsoft 365 Copilot 새로운 AI 환경은 엔지니어링 organization 기존 프로덕션 측정 및 테스트 인프라에 통합됩니다.
측정
레드 팀 테스트는 특정 위험의 인스턴스를 표시할 수 있지만 프로덕션 사용자는 Microsoft 365 Copilot 다양한 종류의 상호 작용을 하게 됩니다. 또한 상호 작용은 컨텍스트적이고 종종 멀티 턴이며 상호 작용 내에서 유해한 콘텐츠를 식별하는 것은 복잡한 작업입니다. Microsoft 365 Copilot 환경을 포함하여 생성 AI 서비스에 대한 위험 가능성을 더 잘 이해하고 해결하기 위해 탈옥, 유해한 콘텐츠 및 비그라운드 콘텐츠와 같은 잠재적 위험을 측정하기 위한 새로운 AI 환경과 관련된 책임 있는 AI 평가를 개발했습니다.
설명 예제로, 유해한 콘텐츠에 대한 업데이트된 부분적으로 자동화된 측정 파이프라인에는 대화 시뮬레이션과 자동화된 사람이 확인한 대화 주석이라는 두 가지 주요 혁신이 포함됩니다. 먼저 책임 있는 AI 전문가는 다양한 유형의 유해한 콘텐츠를 초래할 수 있는 대화의 구조와 콘텐츠를 캡처하는 템플릿을 빌드했습니다. 그런 다음 이러한 템플릿은 대화 에이전트에 제공되었으며, 이 에이전트는 Microsoft 365 Copilot 가상 사용자로 상호 작용하여 시뮬레이션된 대화를 생성합니다. 이러한 시뮬레이션된 대화에 유해한 콘텐츠가 포함되어 있는지 여부를 식별하기 위해 일반적으로 전문 언어학자가 데이터에 레이블을 지정하고 LLM이 대규모로 대화에 레이블을 지정하는 데 사용하도록 수정하는 지침을 취하여 모델 레이블이 지정된 대화와 사람이 레이블이 지정된 대화 간에 상당한 합의가 있을 때까지 지침을 구체화했습니다. 마지막으로 모델 레이블이 지정된 대화를 사용하여 유해한 콘텐츠를 완화하는 Microsoft 365 Copilot 효과를 이해했습니다.
측정 파이프라인을 사용하면 잠재적 위험에 대한 측정을 대규모로 신속하게 수행할 수 있습니다. 미리 보기 기간 및 지속적인 레드 팀 테스트를 통해 새로운 문제를 파악하면서 측정 세트를 계속 확장하고 개선하여 추가 위험을 평가합니다.
관리
레드 팀 테스트와 같은 프로세스를 통해 잠재적 위험과 오용을 식별하고 측정하면서 피해 가능성을 줄이기 위한 완화 방법을 개발했습니다. 아래에서는 이러한 완화 방법 중 일부를 설명합니다. 제품 성능 및 완화를 개선하기 위해 Microsoft 365 Copilot 환경을 계속 모니터링할 것입니다.
단계적 릴리스, 지속적인 평가. Microsoft는 기술 및 사용자 동작이 진화함에 따라 책임 있는 AI 접근 방식을 지속적으로 학습하고 개선하기 위해 최선을 다하고 있습니다. Microsoft는 제품 성능을 개선하고, 기존 완화를 개선하고, 학습에 대응하여 새로운 완화를 구현하기 위해 정기적으로 Microsoft 365 Copilot 변경하고 있습니다.
비즈니스 데이터 접지. 큰 언어 모델의 알려진 위험은 기본이 없는 콘텐츠를 생성하는 기능입니다. 콘텐츠는 정확해 보이지만 원본 자료에는 없습니다. Microsoft 365 Copilot 중요한 완화 방법은 사용자가 권한에 따라 액세스할 수 있는 관련 비즈니스 데이터에서 AI 생성 콘텐츠를 접지하는 것입니다. 예를 들어 사용자 프롬프트에 따라 Microsoft 365 Copilot 해당 문서에서 응답을 접지하기 위해 관련 비즈니스 문서가 제공됩니다. 그러나 다양한 원본의 콘텐츠를 요약할 때 Microsoft 365 Copilot 입력 원본에 없는 정보를 응답에 포함할 수 있습니다. 즉, 비그라운드 결과를 생성할 수 있습니다. 사용자는 항상 주의를 기울이고 Microsoft 365 Copilot 출력을 사용할 때 최선의 판단을 사용해야 합니다. 사용자가 비그라운드 AI 생성 콘텐츠에 지나치게 의존할 수 있는 위험을 완화하기 위해 몇 가지 조치를 취했습니다. 가능한 경우 비즈니스 문서를 기반으로 하는 Microsoft 365 Copilot 응답에는 사용자가 응답을 확인하고 자세히 알아볼 수 있는 원본에 대한 참조가 포함됩니다. 또한 사용자에게 AI 시스템과 상호 작용하고 있다는 명시적 알림이 제공되며, 최상의 판단을 위해 원본 자료를 검사 것이 좋습니다.
잠재적인 위험 또는 오용을 완화하기 위한 AI 기반 분류자 및 메타프롬프팅. LLM을 사용하면 문제가 있는 콘텐츠를 생성하여 피해를 줄 수 있습니다. 예를 들어 자해, 폭력, 그래픽 콘텐츠, 보호된 자료, 부정확한 정보, 증오 발언 또는 불법 활동과 관련될 수 있는 텍스트와 관련된 출력이 포함될 수 있습니다. Azure AI 콘텐츠 보안 및 메타프롬프팅에서 사용할 수 있는 분류자는 이러한 유형의 콘텐츠 위험을 줄이기 위해 Microsoft 365 Copilot 구현된 완화의 두 가지 예입니다. 분류자는 사용자 프롬프트 또는 생성된 응답에서 다양한 유형의 잠재적으로 유해한 콘텐츠에 플래그를 지정하도록 텍스트를 분류합니다. Microsoft 365 Copilot AI 기반 분류자 및 콘텐츠 필터를 사용합니다. 플래그는 생성된 콘텐츠를 사용자에게 반환하지 않거나 사용자를 다른 토픽으로 전환하는 등 잠재적인 완화로 이어질 수 있습니다. 메타프롬프팅에는 Microsoft의 AI 원칙 및 사용자 기대에 따라 시스템이 동작하도록 하는 등 해당 동작을 안내하는 지침을 모델에 제공하는 작업이 포함됩니다. 예를 들어 메타 프롬프렛에는 "사용자가 선택한 언어로 통신"과 같은 줄이 포함될 수 있습니다.
프롬프트 보강. 경우에 따라 사용자의 프롬프트가 모호할 수 있습니다. 이 경우 Microsoft 365 Copilot LLM을 사용하여 사용자가 원하는 응답을 받을 수 있도록 프롬프트에서 자세한 내용을 작성할 수 있습니다. 이러한 프롬프트 보강은 사용자 또는 이전 검색에 대한 지식이 아니라 LLM에 의존합니다.
사용자 중심 디자인 및 사용자 환경 개입. 사용자 중심 디자인 및 사용자 환경은 책임 있는 AI에 대한 Microsoft 접근 방식의 필수적인 측면입니다. 목표는 사용자의 요구와 기대에 따라 제품 디자인을 뿌리 뽑는 것입니다. 사용자가 처음으로 Microsoft 365 Copilot 상호 작용할 때 시스템의 기능을 이해하고, Microsoft 365 Copilot AI에서 제공하는 것을 공개하고, 제한 사항을 전달하는 데 도움이 되도록 설계된 다양한 터치포인트를 제공합니다.
AI 공개. Microsoft 365 Copilot 사용자에게 AI 시스템과 상호 작용하고 있다는 알림과 Microsoft 365 Copilot 대해 자세히 알아볼 수 있는 기회를 제공하는 의미 있는 AI 공개를 위한 몇 가지 터치포인트를 제공합니다. 예를 들어 Word 앱에서 Microsoft 365 Copilot 사용하는 경우 AI 생성 콘텐츠에 오류가 포함될 수 있다는 알림과 함께 AI 생성 콘텐츠가 제공됩니다. 이 지식을 통해 사용자에게 권한을 부여하면 AI 생성 출력에 지나치게 의존하는 것을 방지하고 시스템의 강점과 제한 사항에 대해 알아볼 수 있습니다.
미디어 출처. Microsoft 365 Copilot 내에서 Designer 편집 기능으로 만든 모든 이미지의 경우 사용자가 AI를 사용하여 이미지를 편집하거나 생성했는지 여부를 식별할 수 있도록 C2PA 표준을 기반으로 하는 출처인 콘텐츠 자격 증명을 구현했습니다. 출처 메타데이터는 콘텐츠 자격 증명 사이트에서 볼 수 있습니다.
피드백 및 지속적인 평가. Microsoft 365 Copilot 환경은 사용자가 제품에 대한 피드백을 제출할 수 있는 기존 도구를 기반으로 합니다. 사용자는 응답에서 엄지 손가락 위로 또는 엄지 손가락 아래로 단추를 선택한 후 표시되는 창을 사용하여 Microsoft 365 Copilot 생성된 콘텐츠에 대한 피드백을 제출할 수 있습니다. 사용자가 제출한 피드백은 제품 성능 향상을 위한 노력의 일환으로 제품을 개선하는 데 사용됩니다. 고객 관리자는 Microsoft 365 관리 센터 제출된 피드백을 검토할 수 있습니다. 또한 서비스의 지속적인 평가 및 개선의 일환으로 Microsoft 365 Copilot 및 특정 완화의 성능을 지속적으로 개선하고 테스트합니다. Microsoft 365 앱으로 Microsoft Copilot 대한 피드백 제공에서 자세히 알아보세요.
위험 매핑, 측정 및 관리에 대한 우리의 접근 방식은 더 많은 것을 알게 되면서 계속 진화할 것이며, 이미 고객으로부터 받은 피드백에 따라 개선되고 있습니다.
organization 대한 Microsoft 365 Copilot 평가 및 통합
배포 & 채택 최적화
Microsoft는 microsoft 365 고객용 Microsoft Copilot 대시보드와 같은 도구와 Microsoft 365 관리 센터 보고서를 제공합니다. 이러한 도구는 조직이 사용량, 채택 및 Microsoft 365 Copilot 영향을 측정하는 데 도움이 되도록 설계되었습니다. 예시:
Microsoft 365 Copilot 사용 현황 보고서를 사용하면 관리자가 사용자의 채택, 보존 및 참여가 Microsoft 365 Copilot 방법에 대한 요약을 볼 수 있습니다. 자세한 내용은 Microsoft 365 Copilot 사용을 참조하세요.
채택 점수는 관리자에게 organization Microsoft 365 Copilot 작동하는 방식에 대한 인사이트를 제공합니다. 100포인트 규모의 점수, 채택 데이터 & 추세에 대한 dashboard 보기 및 피드백을 수집하기 위한 사용자 설문 조사를 만들기 위한 도구를 제공합니다.
Experience Insights(미리 보기) dashboard 사용량 전반의 데이터를 표시하여 교육, 앱 및 서비스 데이터 및 사용자 피드백에 대한 인사이트를 포함하여 Microsoft 365에 대한 organization 환경을 보다 자세히 볼 수 있습니다.
Microsoft 365 Copilot 대해 자세히 알아보기
- Microsoft 365 Copilot 개요
- Copilot 시스템: Microsoft의 설명
- Microsoft 365 Copilot 데이터, 개인 정보 보호 및 보안
- Microsoft 365 Copilot의 확장성