애플리케이션 카드: Microsoft Copilot(조직용)

참고

  • 이 문서의 정보는 사용자가 회사 또는 학교 계정으로 로그인한 조직의 Microsoft Copilot 사용에만 적용됩니다.
  • 개인 전자 메일 주소와 같은 Microsoft 계정으로 로그인한 개인이 Microsoft Copilot을 사용하는 방법에 대한 자세한 내용은 Microsoft Copilot에 대한 투명성 참고 사항(개인용)을 참조하세요.

애플리케이션 또는 플랫폼 카드란 무엇인가요?

Microsoft의 응용 프로그램 및 플랫폼 카드는 AI 기술의 작동 방식, 응용 프로그램 성능 및 동작에 영향을 줄 수 있는 응용 프로그램 소유자의 선택, 기술, 사람 및 환경을 포함한 전체 응용 프로그램 고려의 중요성을 이해하는 데 도움을 주기 위한 것입니다. 애플리케이션 카드는 AI 애플리케이션을 위해 생성되고 플랫폼 카드는 AI 플랫폼 서비스를 위해 생성됩니다. 이러한 리소스는 사용자의 고유한 응용 프로그램의 개발 또는 배포를 지원할 수 있으며 영향을 받는 사용자 또는 이해 관계자와 공유할 수 있습니다.

Microsoft는 책임 있는 AI에 대한 약속의 일환으로 공정성, 안정성 및 안전, 개인 정보 보호 및 보안, 포용성, 투명성 및 책임이라는 6가지 핵심 원칙을 준수합니다. 이러한 원칙은 AI 애플리케이션을 설계, 구축 및 테스트하는 팀을 안내하는 Responsible AI Standard에 포함되어 있습니다. 애플리케이션 및 플랫폼 카드는 기능, 용도 및 제한 사항에 대한 투명성을 제공하여 이러한 원칙을 운영하는 데 핵심적인 역할을 합니다. 더 많은 인사이트를 얻기 위해 독자는 Microsoft의 책임 있는 AI 투명성 보고서 와 Microsoft 엔터프라이즈 AI 서비스 행동 강령 (조직용) 또는 Microsoft 서비스 계약의 행동 강령 섹션 (개인용)을 살펴보는 것이 좋습니다. 두 가지 모두 책임감 있게 AI에 참여하는 방법을 설명합니다.

개요

Microsoft Copilot은 LLM(대규모 언어 모델) 및 액세스할 수 있는 콘텐츠를 사용하여 창의성, 생산성 및 기술을 향상시키는 데 도움이 되는 AI 기반 생산성 도구입니다. 인기 있는 Microsoft 365 앱 및 서비스(예: Word, Excel, PowerPoint, Outlook, Teams 등)와 함께 작동하여 실시간 지능형 지원을 제공합니다.

예를 들어 회사에서 Microsoft Copilot이 놓친 Teams 모임을 요약하도록 할 수 있습니다. 집에서 Microsoft Copilot을 사용하여 가족 휴가 사진을 사용하여 슬라이드 쇼를 생성할 수 있습니다.

조직에 대한 자세한 내용은 Microsoft Copilot 개요 및 Microsoft Copilot 허브를 참조하세요. 개인의 경우 Microsoft Copilot 도움말 및 학습을 참조하세요.

주요 용어

다음 표에서는 Microsoft Copilot과 관련된 주요 용어의 용어집을 제공합니다.

용어 설명
에이전트 에이전트는 미리 정의된 지침과 조직 데이터에 대한 액세스를 기반으로 AI를 사용하여 비즈니스 프로세스를 자동화하고 실행하도록 설계되었습니다. 그들은 간단한 프롬프트 및 응답 상호 작용에서 완전히 자율적인 작업 실행에 이르기까지 개인이나 팀을 대신하여 지원하거나 독립적으로 행동할 수 있습니다. Copilot 에이전트에서 AI 사용에 대한 자세한 내용은 해당 제품을 직접 참조하세요.
상호 작용의 콘텐츠 사용자의 프롬프트와 해당 프롬프트에 대한 Microsoft Copilot의 응답을 설명하는 데 사용되는 용어입니다.
보강된 프롬프트 보다 구체적이고 관련성 있는 응답을 생성하도록 Microsoft Copilot을 안내하는 추가 지침이 프롬프트에 추가되면 프롬프트가 보강됩니다.
접지 기반 관리는 프롬프트와 관련된 LLM에 입력 원본을 제공하는 프로세스를 나타냅니다. Microsoft Copilot이 Microsoft Graph 또는 Bing의 데이터와 같이 입력 원본으로 사용할 데이터에 액세스할 수 있도록 함으로써, Microsoft Copilot은 사용자에게 보다 정확하고 상황에 맞는 응답을 제공할 수 있습니다.
인덱싱 Microsoft는 엔터프라이즈 데이터의 Microsoft Copilot에 대한 응답을 파악하기 위해 Microsoft Graph 데이터의 어휘 및 의미 체계 인덱싱을 모두 사용합니다. 인덱싱은 프롬프트를 해석하여 상황에 맞는 응답을 생성합니다.
추론 추론은 AI 모델이 콘텐츠 요약 또는 질문에 답변하는 것과 같은 출력 또는 응답을 생성하기 위해 프롬프트를 실행하는 처리 단계입니다.
LLM(대규모 언어 모델) 이 맥락에서 대규모 언어 모델(LLM)은 시퀀스의 단어를 예측하기 위해 대량의 텍스트 데이터에 대해 학습된 AI 모델입니다. LLM은 텍스트 생성, 요약, 번역, 분류 등과 같은 다양한 작업을 수행할 수 있습니다.
Microsoft Graph Microsoft Graph는 Microsoft 365의 데이터 및 인텔리전스에 대한 게이트웨이입니다. 여기에는 사용자, 활동 및 organization의 데이터 간의 관계에 대한 정보가 포함됩니다.
사후 처리 Microsoft Copilot은 LLM으로부터 응답을 받은 후 처리를 수행합니다. 이 후처리에는 Microsoft Graph, 책임 있는 AI, 보안, 규정 준수 및 개인 정보 확인에 대한 추가 기반 호출이 포함됩니다.
처리 중 Microsoft Copilot에서 사용자 프롬프트 처리에는 책임 있는 AI 검사를 비롯한 Microsoft Copilot이 관련성 있고 실행 가능한 응답을 제공할 수 있도록 도와주는 여러 단계가 포함됩니다.
프롬프트 프롬프트는 특정 작업을 실행하거나 정보를 제공하기 위해 Microsoft Copilot에 전송되는 텍스트입니다. 예를 들어 사용자는 다음과 같은 프롬프트를 입력할 수 있습니다. 회계 연도 종료를 위해 우리 팀을 축하하는 이메일을 작성합니다.
레드팀 테스트 전문가가 시스템의 한계와 취약성을 평가하고 계획된 완화의 효과를 테스트하는 데 사용하는 기술입니다. 레드팀 테스트는 잠재적인 위험을 식별하는 데 사용되며 체계적인 위험 측정과는 다릅니다.
응답 LLM에서 생성하고 프롬프트에 대한 회신으로 Microsoft Copilot에 반환된 콘텐츠입니다.
책임 있는 AI AI 원칙에 기반을 두고 책임 있는 AI 표준을 통해 운영되는 Microsoft의 정책, 연구 및 엔지니어링 관행입니다.

주요 특징 또는 기능

다음 표의 주요 기능은 Microsoft Copilot의 수행 목적과 지원되는 작업에서 수행되는 방식에 대해 설명합니다.

기능 설명
Word의 Microsoft Copilot Word의 Microsoft Copilot은 사용자가 문서를 만들고, 요약하고, 이해하고, 구체화하고, 향상할 수 있도록 효율적이고 창의성으로 글쓰기를 변화시킵니다. 사용자는 텍스트를 시각화하고 표로 변환하는 것과 같은 향상된 기능을 사용할 수도 있습니다. 기존 프롬프트에 추가, 다른 문서를 참조하여 문서 초안 작성, 문서에 대한 정보 검색 등의 다른 기능도 있습니다.

자세한 내용은 Word의 Copilot에 대해 자주 하는 질문을 참조하세요.
PowerPoint의 Microsoft Copilot PowerPoint의 Microsoft Copilot을 사용하면 사용자가 엔터프라이즈 서식 파일을 활용하여 프롬프트 또는 Word 파일에서 새 프레젠테이션을 만들 수 있습니다. 채팅 기능을 통해 요약 및 Q&A를 사용할 수 있으며, 가벼운 명령어를 통해 사용자는 슬라이드, 사진을 추가하거나 데크 전체의 서식을 변경할 수 있습니다. PowerPoint 파일은 데이터 기반 관리에도 사용할 수 있습니다.

자세한 내용은 PowerPoint의 Copilot에 대한 질문과 대답을 참조하세요.
Excel의 Microsoft Copilot Excel의 Microsoft Copilot은 수식, 차트 유형, 스프레드시트의 데이터에 대한 인사이트에 대한 제안을 통해 사용자를 지원합니다.

자세한 내용은 Excel의 Copilot에 대한 질문과 대답을 참조하세요.
Outlook의 Microsoft Copilot Outlook의 Microsoft Copilot은 전자 메일 받은 편지함을 관리하고 영향력 있는 커뮤니케이션을 보다 효율적으로 만드는 데 도움이 됩니다. Outlook의 Microsoft Copilot은 전자 메일 스레드를 요약하고, 작업 항목, 회신 및 후속 모임을 제안할 수 있습니다. 또한 전자 메일 초안을 작성할 때 길이와 어조를 조정할 수 있습니다.

자세한 내용은 Outlook의 Copilot에 대한 자주 묻는 질문을 참조하세요.
Teams의 Microsoft Copilot Teams의 Microsoft Copilot은 대화를 요약하고, 주요 토론 요점을 구성하고, 주요 작업을 요약할 수 있습니다. 사용자는 특정 질문에 대한 답변을 얻고, 모임이나 채팅에서 놓친 내용을 확인할 수 있습니다

자세한 내용은 Microsoft Teams의 Copilot에 대한 자주 묻는 질문을 참조하세요.
Loop의 Microsoft Copilot Loop의 Microsoft Copilot을 사용하면 사용자가 Copilot의 직접 편집 또는 개선을 통해 공동으로 개선할 수 있는 콘텐츠를 만들 수 있습니다.

자세한 내용은 Loop의 Copilot에 대한 자주 묻는 질문을 참조하세요.
Microsoft Clipchamp 비디오 플레이어의 Microsoft Copilot Microsoft Clipchamp 비디오 플레이어의 Microsoft Copilot을 사용하면 대본이 있는 모든 비디오에서 정보를 얻을 수 있습니다. Clipchamp 비디오 플레이어의 Microsoft Copilot은 비디오 요약을 제공하고, 특정 질문에 답변하고, 특정 topics 또는 토론 요점으로 빠르게 이동하고, 행동 촉구를 식별할 수 있습니다.

자세한 내용은 Clipchamp 비디오 플레이어의 Copilot에 대해 자주 묻는 질문을 참조하세요.
Whiteboard의 Microsoft Copilot Whiteboard의 Microsoft Copilot은 아이디어를 생성, 분류 및 요약하는 아이디어 프로세스를 시작하는 데 도움이 됩니다.

자세한 내용은 Whiteboard의 Copilot에 대한 자주 묻는 질문을 참조하세요.
OneNote의 Microsoft Copilot OneNote의 Microsoft Copilot을 사용하면 사용자가 OneNote 앱에서 필요한 것을 찾는 데 도움이 되는 계획 초안을 작성하고, 아이디어를 생성하고, 목록을 만들고, 정보를 구성할 수 있습니다.

자세한 내용은 OneNote의 Copilot에 대한 질문과 대답을 참조하세요.
Microsoft Forms의 Microsoft Copilot Microsoft Forms의 Microsoft Copilot은 설문 조사, 퀴즈 및 설문 조사에 대한 AI 기반 지원을 제공합니다. Copilot은 사용자가 결과 초안을 작성하고, 검토하고, 보내고, 분석하는 데 도움이 될 수 있습니다.

자세한 내용은 Forms의 Copilot에 대한 질문과 대답을 참조하세요.
Microsoft Copilot Chat Microsoft Copilot Chat는 대규모 언어 모델의 기능을 인터넷, 작업 콘텐츠 및 컨텍스트, 기타 앱과 결합하여 사용자가 콘텐츠 초안을 작성하고, 놓친 내용을 파악하고, 프롬프트를 통해 질문에 대한 답변을 얻을 수 있도록 지원합니다.

자세한 내용은 Microsoft Copilot Chat에 대한 질문과 대답을 참조하세요.
SharePoint 서식 있는 텍스트 편집기의 Microsoft Copilot Microsoft SharePoint 서식 있는 텍스트 편집기의 Microsoft Copilot은 SharePoint 페이지 및 게시물의 콘텐츠 생성을 간소화합니다. Copilot을 사용하면 텍스트를 다시 작성하고, 톤을 조정하고, 정보를 압축하고, 아이디어를 정교하게 구성할 수 있습니다.

자세한 내용은 SharePoint의 Copilot에 대한 자주 묻는 질문을 참조하세요.
OneDrive의 Microsoft Copilot OneDrive의 Microsoft Copilot은 정보를 추출하고, 주요 차이점을 비교하고, 파일을 요약하고, 인사이트를 생성하여 문서와 상호 작용하는 데 도움이 되도록 설계된 혁신적인 AI 기반 도우미입니다.

자세한 내용은 OneDrive의 Copilot에 대한 자주 묻는 질문을 참조하세요.
Microsoft Copilot 한눈에 보기 카드 한눈에 보기 카드는 관련성 또는 회상력을 평가하는 데 도움이 되도록 문서와 같은 작업 엔터티의 빠른 미리 보기를 제공합니다. Microsoft Copilot 앱의 검색 탭에서 파일 위로 마우스를 가져가면 액세스할 수 있습니다.
Power Platform 커넥터 Power Platform 커넥터를 사용하면 고객이 Microsoft Copilot 환경에서 비즈니스 및 개인 생산성 애플리케이션 컬렉션의 데이터에 액세스할 수 있습니다.
Microsoft 365 Copilot 커넥터 Microsoft 365 Copilot 커넥터를 사용하면 구조화되지 않은 기간 업무 데이터를 Microsoft Graph로 수집하여 Microsoft Copilot이 엔터프라이즈 콘텐츠 전체에 대해 추론할 수 있습니다.

자세한 내용은 Microsoft 365 Copilot 커넥터 개요를 참조하세요.
Microsoft Purview Microsoft Purview는 조직에서 데이터를 관리하고 보호하는 데 도움이 되는 솔루션입니다. 데이터 거버넌스, 정보 보호, 위험 관리 및 규정 준수를 위한 통합 플랫폼을 제공합니다. 고객은 고객의 Microsoft 구독(예: Microsoft 365 E3 또는 E5 구독)에서 제공하는 Microsoft Purview 기능을 Microsoft Copilot 데이터 및 상호 작용으로 확장할 수 있습니다.
Microsoft Copilot 튜닝 Microsoft Copilot 튜닝을 사용하면 조직에서 자체 테넌트 데이터를 사용하여 LLM(대규모 언어 모델)을 미세 조정할 수 있습니다. 이러한 모델은 organization의 고유한 지식을 기반으로 도메인별 작업을 수행하는 데 사용할 수 있습니다.

자세한 내용은 Copilot 조정에 대한 FAQ를 참조하세요.
Microsoft Copilot Studio Microsoft Copilot Studio는 Microsoft 365 및 LOB(기간 업무) 시스템에서 작동하는 안전하고 확장 가능한 지능형 에이전트를 빌드하기 위한 강력한 플랫폼입니다.

자세한 내용은 애플리케이션 카드: Microsoft Copilot Studio를 참조하세요.
Microsoft Copilot의 에이전트 빌더 기능 Microsoft Copilot의 에이전트 작성기 기능은 자연어 또는 수동으로 선언적 에이전트를 빠르고 쉽게 빌드하는 데 사용할 수 있는 간단한 인터페이스를 제공합니다.

자세한 내용은 Microsoft Copilot의 에이전트 작성기를 참조하세요.
컴퓨터를 사용하는 에이전트가 있는 Microsoft Copilot 컴퓨터 사용 에이전트가 포함된 Microsoft Copilot을 사용하면 브라우저 또는 데스크톱 작업을 자동화하여 프롬프트에서 콘텐츠와 컨텍스트를 더 많이 활용할 수 있습니다. 에이전트가 사용자를 대신하여 작업을 수행할 수 있으므로 시스템 보안 또는 개인 정보 보호에 대한 위험이 증가할 수 있습니다. 이 위험을 완화하기 위해 에이전트에는 콘텐츠 및 작업에 대한 모델 기반 안전 검사는 물론 컴퓨터를 사용하는 에이전트를 사용하거나 사용하지 않도록 설정하고 에이전트가 액세스할 수 있는 인터넷 사이트 및 도메인을 제한하는 테넌트 관리자 컨트롤을 비롯한 여러 가지 보호 장치가 있습니다. 이러한 컨트롤을 적용하고 에이전트 사용을 평가하는 것이 좋습니다.
Microsoft Copilot Cowork Microsoft Copilot Cowork는 AI를 사용하여 Microsoft 365에서 사용자를 대신하여 다단계 작업을 수행합니다. 필요한 것을 자연어로 설명하면 Cowork는 이메일 전송, 모임 예약, 문서 작성, Teams에 게시, 조사 수행 및 파일 관리를 통해 이를 실행합니다.

자세한 내용은 애플리케이션 카드: Microsoft Copilot Cowork를 참조하십시오.
Microsoft Copilot용 페더레이션 커넥터 Microsoft Copilot용 페더레이션 커넥터를 사용하면 Copilot이 MCP(모델 컨텍스트 프로토콜)를 사용하여 외부 시스템에서 실시간으로 데이터를 읽고 쓸 수 있습니다. 데이터는 사용자의 ID 및 권한으로 액세스되며 원래 위치에 유지됩니다. 데이터는 Microsoft Graph에 인덱싱되거나 저장되지 않습니다. 관리자는 Microsoft 365 관리 센터에서 이러한 커넥터를 관리할 수 있습니다.

자세한 내용은 페더레이션 커넥터 개요를 참조하세요.

확장성 및 사용자 지정

Microsoft Copilot 및 Copilot Studio의 에이전트 빌더 기능은 Microsoft 365 및 LOB(기간 업무) 시스템에서 작동하는 안전하고 확장 가능하며 지능적인 에이전트를 빌드하기 위한 도구입니다. 두 도구 모두 에이전트를 만들 수 있지만 서로 다른 요구 사항을 제공합니다. 자연어와 기존 콘텐츠를 사용하여 자신이나 소규모 팀을 위한 에이전트를 빠르게 만들려면 에이전트 빌더 기능을 사용하세요. 더 광범위한 대상 그룹을 위한 에이전트가 필요하거나 에이전트에 다단계 워크플로 또는 사용자 지정 통합과 같은 고급 기능이 필요한 경우 Copilot Studio를 선택합니다. 자세한 내용은 Microsoft Copilot과 Copilot Studio 중에서 선택하여 에이전트 및 Microsoft Copilot용 선언적 에이전트를 빌드하세요.

개발자의 경우 Microsoft 365 에이전트 SDK는 Microsoft 365 앱 및 서비스와 긴밀하게 작동하는 에이전트를 빌드하는 도구를 제공합니다.

사용 목적

Microsoft Copilot은 다양한 산업 분야의 여러 시나리오에서 사용할 수 있습니다. 사용 사례의 몇 가지 예는 다음과 같습니다.

  • Chat 및 대화 상호 작용 및 생성: 사용자는 Microsoft Copilot Chat와 상호 작용하고 내부 회사 문서 또는 기술 지원 문서와 같은 신뢰할 수 있는 문서에서 가져온 응답을 생성할 수 있습니다.
  • 검색: 사용자는 내부 회사 문서와 같은 신뢰할 수 있는 원본 문서를 검색할 수 있습니다.
  • 요약: 사용자는 응용 프로그램에 내장된 미리 정의된 topics에 대해 요약할 콘텐츠를 제출할 수 있습니다. 예를 들어 Teams 채팅, 전자 메일, 웹 페이지 및 Word 문서의 요약이 있습니다.
  • 특정 topics에 대한 작성 지원: 사용자는 비즈니스 콘텐츠 또는 미리 정의된 topics에 대한 작성 지원으로 새 콘텐츠를 만들거나 사용자가 제출한 콘텐츠를 다시 작성할 수 있습니다. 예를 들어 Microsoft Outlook에서 전자 메일 초안을 작성하거나 Microsoft Word에서 콘텐츠를 작성합니다.
  • 캡션 또는 대화 내용 기록: 사용자는 자연어 이해나 요약과 같은 분석 작업을 위해 오디오 파일을 텍스트로 전사할 수 있습니다. 예를 들어 Microsoft Clipchamp 비디오 플레이어의 Teams 모임 대본과 비디오가 있습니다.

Microsoft는 고객이 조직에 Microsoft Copilot 기능을 빠르게 채택할 수 있도록 일반적인 사용 사례 및 시나리오에 초점을 맞춘 자세한 지침을 제공합니다. Microsoft 시나리오 라이브러리 - Microsoft 채택에서 자세히 알아보세요.

모델 및 학습 데이터

Microsoft Copilot은 다양한 AI 모델을 활용하여 다음 예제와 같이 사용자에게 표시되는 환경을 강화합니다.

  • Microsoft에서 제공하는 GPT(Generative Pre-trained Transformers) 모델(Azure OpenAI Service)
  • Anthropic에서 제공하는 Claude Opus 및 Claude Sonnet 모델
  • OpenAI에서 제공하는 GPT 모델

참고

Microsoft Copilot에서 이러한 모델을 학습시키는 데 사용되는 데이터에 대해 자세히 알아보려면 다음 리소스를 참조하세요.

Microsoft Copilot은 LLM의 조합을 사용하여 Microsoft(Azure OpenAI Service), Anthropic 및 OpenAI에서 제공하는 모델을 포함하여 콘텐츠를 요약, 예측 및 생성합니다. 이를 통해 각 기능의 특정 요구 사항(예: 속도, 창의성)을 올바른 모델에 일치시킬 수 있으므로 Microsoft Copilot은 사용자가 창의성, 생산성 및 기술을 향상시킬 수 있는 실시간 지능형 지원을 제공할 수 있습니다. OpenAI에서 Microsoft에 제공하는 LLM에 대한 자세한 내용은 모델 - OpenAI API의 공개 설명서를 참조하세요.

성능

많은 AI 시스템에서 성능은 정확도, 즉 AI 시스템이 올바른 예측 또는 출력을 제공하는 빈도와 관련하여 정의되는 경우가 많습니다. Microsoft Copilot을 사용하면 두 명의 다른 사용자가 동일한 출력을 보고 얼마나 유용하거나 관련성이 있는지에 대해 서로 다른 의견을 가질 수 있으며, 이는 이러한 시스템의 성능을 보다 유연하게 정의해야 함을 의미합니다. 당사는 일반적으로 성능으로 응용 프로그램이 사용자가 기대하는 대로 작동한다는 의미로 간주합니다.

Microsoft Copilot 작동 방식

  • Microsoft Copilot은 Word 또는 PowerPoint와 같은 앱에서 사용자로부터 입력 프롬프트를 받습니다. 지원되는 언어 목록은 Microsoft Copilot에 지원되는 언어를 참조하세요.
  • 그런 다음 Microsoft Copilot이 프롬프트를 처리하여 프롬프트의 구체성을 개선하여 사용자가 특정 작업과 관련성이 있고 실행 가능한 답변을 얻을 수 있도록 도와줍니다. 프롬프트에는 Microsoft Graph를 사용하여 Microsoft Copilot에서 검색한 입력 파일 또는 기타 콘텐츠의 텍스트가 포함될 수 있으며, Microsoft Copilot은 처리를 위해 이 프롬프트를 LLM으로 보냅니다. Microsoft Copilot은 예를 들어 기존 Microsoft 365 역할 기반 액세스 제어를 기반으로 개별 사용자가 기존 액세스 권한이 있는 데이터에만 액세스합니다.
  • Microsoft Copilot은 LLM에서 응답을 가져와 사후 처리합니다. 이 후처리에는 Microsoft Graph에 대한 기타 기반 호출, 콘텐츠 분류자와 같은 책임 있는 AI 검사, 보안, 규정 준수 및 개인 정보 검사, 명령 생성이 포함됩니다.
  • Microsoft Copilot은 사용자가 응답을 검토하고 평가할 수 있는 앱에 응답을 반환합니다.

Microsoft Copilot과의 사용자 상호 작용에 대해 저장된 데이터는 암호화되며 Microsoft(Azure Open AI Service), Anthropic 또는 OpenAI와 같은 모델 공급자의 기본 모델(Microsoft Copilot에서 사용하는 모델 포함)을 학습시키는 데 사용되지 않습니다. 자세한 내용은 Microsoft Copilot에 대한 데이터, 개인 정보 및 보안을 참조하세요.

Microsoft Copilot이 웹 콘텐츠 또는 조직 데이터 없이 응답을 생성하는 방법

Microsoft Copilot은 응답을 제공하기 위해 웹 콘텐츠 또는 조직 데이터를 요구하지 않지만 해당 정보는 응답의 품질, 정확성 및 관련성을 개선하는 데 도움이 될 수 있습니다. 웹 또는 조직 데이터 없이 응답할 때 Microsoft Copilot은 LLM만 사용하여 프롬프트를 이해하고 응답을 생성합니다. 이 프로세스에는 입력을 구문 분석하고, 모델의 내부 기술 자료를 활용하고, 상황에 맞게 응답을 구체화하는 작업이 포함됩니다.

제한 사항

안전하고 효과적인 경계 내에서 사용되는지 결정하려면 Microsoft Copilot의 제한 사항을 이해하는 것이 중요합니다. 고객이 혁신적인 솔루션 또는 애플리케이션에서 Microsoft Copilot을 활용하도록 권장하지만 Microsoft Copilot이 가능한 모든 시나리오에 맞게 설계된 것은 아니라는 점에 유의해야 합니다. 사용자가 사용 사례를 선택할 때 다음과 같은 고려 사항과 함께 Microsoft 엔터프라이즈 AI 서비스 행동 강령 (조직용) 또는 Microsoft 서비스 계약(개인용)의 행동 강령 섹션 을 참조하는 것이 좋습니다.

  • 정보 안정성: Copilot은 기초 정보를 찾는 경우 신뢰할 수 있는 소스로 응답하는 것을 목표로 하지만 AI는 실수를 할 수 있습니다. 잠재적으로 무의미한 콘텐츠를 생성하거나 합리적으로 들릴 수 있지만 실제로는 부정확한 콘텐츠를 조작할 수 있습니다. 권위가 높은 웹 데이터에서 응답을 도출하는 경우에도 응답이 완전히 정확하지 않거나, 최신이거나, 신뢰할 수 없는 방식으로 해당 콘텐츠를 잘못 표현할 수 있습니다. Microsoft는 사용자 인터페이스와 이와 같은 설명서를 통해 Copilot이 실수를 할 수 있음을 사용자에게 상기시킵니다. 또한 결정을 내리거나 Copilot의 응답에 따라 조치를 취하기 전에 사실을 다시 검사하도록 장려하는 등 AI의 한계에 대해 사용자에게 계속 교육합니다. 사용자가 텍스트를 통해 Copilot과 상호 작용할 때 세대가 접지되지 않을 위험을 줄이기 위해 고품질 웹 데이터에 기반을 두려고 시도합니다.

  • 응답의 연령 적절성:organization의 IT 관리자에 의해 "성인이 아님"(청소년)으로 분류된 사용자는 특정 Copilot 채팅 환경에서 추가 보호 기능을 사용하도록 설정됩니다. 그러나 청소년에게 적합한 것은 연령, 지리, 문화, 언어, 개인 상황 및 맥락과 같은 요인에 따라 달라질 수 있습니다. Copilot이 이러한 요소를 항상 완전히 해석하는 것은 아니며, 청소년 전용 보호가 모든 부적절하거나 잠재적으로 유해한 반응을 방지하지 못할 수 있습니다. 청소년은 연령과 발달 단계로 인해 특정 AI 상호 작용으로 인해 더 높은 위험에 직면할 수도 있습니다. 신뢰할 수 있는 성인은 청소년이 Copilot을 사용하는 방법을 결정할 때 이러한 제한 사항을 고려해야 하며 액세스를 제공하지 않거나 해당 옵션을 사용할 수 있는 특정 기능을 제한하도록 선택할 수 있습니다. 청소년은 민감하거나 중요한 topics에 대해 Copilot을 사용할 때 신뢰할 수 있는 성인 또는 자격을 갖춘 전문가와 대화하도록 권장되어야 합니다.

  • 호환성: Microsoft Copilot은 Microsoft 365 애플리케이션과 원활하게 작동하도록 설계되었지만 특정 환경, 특히 타사(Microsoft 이외) 앱 및 사용자 지정 또는 비표준 구성과의 호환성에 제한 사항이나 문제가 있을 수 있습니다.

  • 맞춤화 및 유연성: Microsoft Copilot은 맞춤화할 수 있지만 특정 조직 요구 사항이나 워크플로에 맞게 사용자 지정할 수 있는 정도에는 제한이 있습니다. 조직에서는 특정 기능 또는 응답이 경직되거나 조직의 요구 사항과 완전히 일치하지 않을 수 있습니다.

  • 인터넷 연결에 대한 의존성: Microsoft Copilot은 인터넷에 의존하여 작동합니다. 연결이 중단되면 서비스의 가용성과 성능에 영향을 줄 수 있습니다.

  • 사용자 교육 및 채택: Microsoft Copilot을 효과적으로 사용하려면 사용자가 기능과 제한 사항을 이해해야 합니다. 학습 곡선이 있을 수 있으며 사용자는 서비스와 효과적으로 상호 작용하고 혜택을 받을 수 있도록 교육을 받아야 합니다.

  • 리소스 집약도: 고급 AI 모델을 실행하려면 상당한 계산 리소스가 필요하며, 이는 특히 리소스가 제한된 환경에서 성능에 영향을 미칠 수 있습니다. 사용자가 피크 사용 시간에 대기 시간 또는 성능 문제를 경험할 수 있습니다.

  • 편견, 고정 관념 및 근거 없는 콘텐츠: OpenAI 및 Anthropic의 집중 교육과 사용자 프롬프트와 LLM 출력 모두에 대한 Microsoft의 책임 있는 AI 제어 구현에도 불구하고 AI 서비스는 오류가 발생하기 쉽고 확률적입니다. 이로 인해 모든 부적절한 콘텐츠를 포괄적으로 차단하는 것이 어려워지며, AI 생성 콘텐츠에 잠재적인 편견, 고정관념 또는 근거가 없는 것으로 이어집니다. AI 생성 콘텐츠의 알려진 제한 사항에 대한 자세한 내용은 다음 리소스를 참조하세요.

  • 지원 언어: 현재 Microsoft Copilot은 Microsoft 365보다 적은 언어를 지원합니다. 프롬프트에서 사용하거나 요청하는 언어가 현재 지원되지 않는 경우 오류 메시지가 표시됩니다. 자세한 내용은 Microsoft Copilot에 지원되는 언어를 참조하세요.

  • 개인에 대한 잠재적인 심각한 신체적 또는 정신적 상해. 개인에게 심각한 신체적 또는 정신적 상해를 초래할 수 있는 시스템의 사용이나 오용을 피하십시오. 예를 들어 환자를 진단하거나 약을 처방하는 시나리오는 심각한 피해를 입힐 가능성이 있습니다.

  • 삶의 기회 또는 법적 상태에 대한 결과적 영향. 생활의 기회나 법적 상태에 결과적인 영향을 미칠 수 있는 시스템의 사용이나 오용을 피하십시오. 예를 들어 AI 시스템이 개인의 법적 상태, 법적 권리 또는 신용, 교육, 고용, 의료, 주택, 보험, 사회 복지 혜택, 서비스, 기회 또는 제공되는 조건에 대한 접근에 영향을 미칠 수 있는 시나리오가 포함됩니다.

  • 고위험 영역 또는 산업. 고위험 도메인이나 산업의 사용 사례를 신중하게 고려하세요. 예를 들어 의료 또는 금융이 포함되지만 이에 국한되지는 않습니다.

평가

성능 및 안전성 평가는 유해한 콘텐츠 생성의 위험을 식별하는 동시에 근거, 관련성, 일관성과 같은 요소를 조사하여 AI 애플리케이션이 안정적이고 안전하게 작동하는지 평가합니다. 다음 평가는 안전 구성 요소 및 완화에 설명된 안전 구성 요소가 이미 있는 상태에서 수행되었습니다.

성능 및 품질 평가

AI 애플리케이션에 대한 성능 평가는 실제 애플리케이션에서 안정성을 향상시키는 데 필수적입니다. 응답 관련성, 정확성 및 근거와 같은 메트릭은 AI 생성 출력의 정확성과 일관성을 평가하는 데 도움이 되므로 근거 콘텐츠 시나리오에서 실제로 지원되고 상황에 적합하며 논리적으로 구조화됩니다. Microsoft Copilot의 경우 관련성, 정확성, 근거 등 여러 메트릭에 걸쳐 정기적으로 엄격한 품질 평가를 수행합니다.

성능 및 품질 평가 방법

Microsoft Copilot은 사용자가 Microsoft 365 앱에서 작업하는 방식을 반영하는 텍스트 및 이미지 기반 시나리오를 사용하여 평가되었습니다. 근거, 응답 품질 및 인용 관련성과 같은 메트릭에 대한 평가에는 확립된 LLM as-judge 방법이 사용되었습니다. 오프라인 테스트 세트에는 사실 쿼리, 다중 문서 이해, 요약 및 대표적인 엔터프라이즈 시나리오가 포함되었습니다. 평가자는 응답이 사실적으로 뒷받침되고, 상황에 적절하며, 논리적으로 구조화되었는지 평가했습니다. 이상적인 결과는 동일한 작업의 변형에 걸쳐 정확한 기반, 명확한 추론 및 일관된 성능을 반영합니다. 차선의 결과에는 뒷받침되지 않는 주장, 누락되거나 관련이 없는 인용 또는 유사한 프롬프트에서 일관되지 않은 출력이 포함됩니다.

위험 및 안전성 평가

AI 생성 콘텐츠와 관련된 잠재적 위험을 평가하는 것은 심각도가 다양한 콘텐츠 위험으로부터 보호하는 데 필수적입니다. 여기에는 유해한 콘텐츠 생성에 대한 AI 시스템의 성향을 평가하거나 탈옥 공격에 대한 취약성을 테스트하는 것이 포함됩니다. Microsoft Copilot의 경우 수행한 위험 및 안전 평가 중 일부는 다음과 같습니다.

  • 혐오와 불공정
  • 성적
  • 폭력
  • 자해
  • 보호 대상 물질
  • 간접 탈옥
  • 직접 탈옥
  • 코드 취약성
  • 기초가 되지 않은 특성

위험 및 안전성 평가 방법

위험 및 안전 평가에서는 텍스트 기반 적대적 프롬프트와 자동 분류기를 사용하여 혐오, 성적 콘텐츠, 폭력, 자해, 보호 대상 자료 유출, 탈옥 시도, 근거 없는 속성 등 잠재적 피해를 평가했습니다. 테스트는 LLM 심사 평가를 필요한 경우 분류기 기반 감지 및 수동 테스트와 결합했습니다. 이상적인 결과: 잠재적으로 유해한 요청을 리디렉션하거나 거부하고 프롬프트 변형 전반에 걸쳐 일관된 경계 유지를 유지합니다. 차선의 결과에는 유해한 콘텐츠 생성, 적대적 입력에 일관되지 않은 응답 또는 탈옥 기술에 대한 민감성 표시가 포함됩니다.

안전 구성 요소 및 완화 기능

레드팀 테스트와 같은 프로세스를 통해 잠재적인 위험과 오용을 식별하고 측정하면서 피해 가능성을 줄이기 위한 완화 조치를 개발했습니다. 다음 목록에서는 이러한 완화 기능 중 일부를 설명합니다. 제품 성능 및 완화를 개선하기 위해 Microsoft Copilot 환경을 계속 평가할 것입니다.

  • 단계적 릴리스, 지속적인 평가. Microsoft는 기술과 사용자 행동이 발전함에 따라 책임 있는 AI 접근 방식을 지속적으로 학습하고 개선하기 위해 최선을 다하고 있습니다. 제품 성능을 개선하고, 기존 완화 기능을 개선하고, 학습 내용에 대한 응답으로 새로운 완화 기능을 구현하기 위해 정기적으로 Microsoft Copilot을 변경하고 있습니다.

  • 비즈니스 데이터 기반 대규모 언어 모델의 알려진 위험은 올바르게 보이지만 원본 자료에 없는 근거되지 않은 콘텐츠를 생성하는 능력입니다. Microsoft Copilot의 중요한 완화 기능은 AI 생성 콘텐츠를 사용자가 권한에 따라 액세스할 수 있는 관련 비즈니스 데이터에 기반을 두는 것입니다. 예를 들어 프롬프트에 따라 Microsoft Copilot에는 해당 문서에서 응답을 기반으로 하는 관련 비즈니스 문서가 제공됩니다. 그러나 다양한 원본의 콘텐츠를 요약할 때 Microsoft Copilot은 입력 원본에 없는 정보를 응답에 포함할 수 있습니다. 즉, 근거가 없는 결과를 생성할 수 있습니다. 사용자는 Microsoft Copilot의 출력을 사용할 때 항상 주의를 기울이고 최선의 판단을 내려야 합니다. 사용자가 기초가 되지 않은 AI 생성 콘텐츠에 지나치게 의존할 수 있는 위험을 완화하기 위해 몇 가지 조치를 취했습니다. 가능한 경우 비즈니스 문서를 기반으로 하는 Microsoft Copilot의 응답에는 사용자가 응답을 확인하고 자세히 알아볼 수 있는 원본에 대한 참조가 포함됩니다. 또한 사용자에게는 AI 시스템과 상호 작용하고 있다는 명시적인 알림이 제공되며 최선의 판단을 내리는 데 도움이 되도록 원본 자료를 검사해야 합니다.

  • AI 기반 분류기 및 메타 프롬프트를 사용하여 잠재적인 위험이나 오용을 완화합니다. LLM을 사용하면 해를 끼칠 수 있는 문제가 있는 콘텐츠가 생성될 수 있습니다. 예를 들어 자해, 폭력, 그래픽 콘텐츠, 생물 보안 문제, 보호 자료, 부정확한 정보, 혐오 발언 또는 불법 활동과 관련될 수 있는 텍스트와 관련된 결과물이 포함될 수 있습니다. Azure AI 콘텐츠 안전 및 메타 프롬프트에서 사용할 수 있는 것과 같은 분류자는 이러한 유형의 콘텐츠의 위험을 줄이는 데 도움이 되도록 Microsoft Copilot에서 구현된 완화의 두 가지 예입니다. 분류자는 텍스트를 분류하여 프롬프트 또는 생성된 응답에서 잠재적으로 유해한 다양한 유형의 콘텐츠에 플래그를 지정합니다. Microsoft Copilot은 AI 기반 분류자와 콘텐츠 필터를 사용합니다. 플래그는 생성된 콘텐츠를 사용자에게 반환하지 않거나 사용자를 다른 주제로 전환하는 것과 같은 잠재적인 완화 기능으로 이어집니다. Microsoft는 Microsoft Copilot Chat에서 잠재적으로 유해하거나 민감한 콘텐츠를 필터링하는 것이 요구 사항을 충족하지 않는 경우 관리자 및 사용자를 위한 특정 콘텐츠 필터링 컨트롤을 제공합니다. 메타 프롬프트에는 시스템이 Microsoft의 AI 원칙 및 사용자 기대에 따라 작동하도록 하는 등 동작을 안내하도록 모델에 지침을 제공하는 작업이 포함됩니다. 예를 들어 메타 프롬프트에는 "사용자가 선택한 언어로 통신"과 같은 문장이 포함될 수 있습니다.

    예를 들어 위기 콘텐츠가 감지되면 시스템은 대화에서 분리하고 대신 위기 지원 리소스(예: 미국 988번의 자살 및 위기 라이프라인)를 제공하여 사용자가 전문적인 도움을 요청하도록 장려합니다. Copilot은 상담을 제공하지 않으며, 사용자가 유해하거나 방해가 되는 생각을 경험하거나 정신 건강 문제를 겪고 있는 경우 전문적인 도움을 받아야 합니다.

  • 프롬프트 보강. 경우에 따라 사용자의 프롬프트가 모호할 수 있습니다. 이 경우 Microsoft Copilot은 LLM을 사용하여 사용자가 원하는 응답을 얻을 수 있도록 프롬프트에 더 많은 세부 정보를 작성할 수 있습니다. 이러한 프롬프트 보강은 사용자 또는 이전 검색에 대한 지식이 아니라 LLM에 의존합니다.

  • 사용자 중심 디자인 및 사용자 환경 개입. 사용자 중심 디자인과 사용자 환경은 책임 있는 AI에 대한 Microsoft의 접근 방식에서 매우 중요한 측면입니다. 목표는 제품의 디자인을 사용자의 요구와 기대에 뿌리를 내리는 것입니다. 사용자가 처음으로 Microsoft Copilot과 상호 작용할 때 시스템의 기능을 이해하고, Microsoft Copilot이 AI로 구동된다는 것을 공개하고, 제한 사항을 전달하는 데 도움이 되도록 설계된 다양한 접점을 제공합니다.

  • AI 공개. Microsoft Copilot은 사용자에게 AI 시스템과 상호 작용하고 있음을 알리는 의미 있는 AI 공개를 위한 여러 접점과 Microsoft Copilot에 대해 자세히 알아볼 수 있는 기회를 제공합니다. 예를 들어 Word 앱에서 Microsoft Copilot을 사용하는 경우 AI 생성 콘텐츠는 AI 생성 콘텐츠에 오류가 포함될 수 있다는 알림과 함께 제공됩니다. 사용자에게 이러한 지식을 제공하면 AI 생성 결과에 지나치게 의존하지 않고 시스템의 강점과 한계에 대해 배우는 데 도움이 될 수 있습니다.

  • 미디어 출처. Microsoft Copilot 내에서 Designer의 편집 기능을 사용하여 만든 모든 이미지에 대해 사람들이 이미지가 AI로 편집되었는지 또는 생성되었는지 식별할 수 있도록 C2PA 표준을 기반으로 하는 출처인 콘텐츠 자격 증명을 구현했습니다. 출처 메타데이터는 콘텐츠 자격 증명 사이트에서 볼 수 있습니다.

  • 피드백 및 지속적인 평가. Microsoft Copilot 환경은 사용자가 제품에 대한 피드백을 제출할 수 있도록 하는 기존 도구를 기반으로 합니다. 사용자는 응답에서 엄지손가락 또는 엄지 손가락 아래로 단추를 선택한 후 나타나는 창을 사용하여 Microsoft Copilot에서 생성한 콘텐츠에 대한 피드백을 제출할 수 있습니다. 사용자가 제출한 피드백은 제품 성능 개선을 위한 노력의 일환으로 제품을 개선하는 데 사용됩니다. 고객 관리자는 Microsoft 365 관리 센터에서 제출된 피드백을 검토할 수 있습니다. 또한 지속적인 서비스 평가 및 개선의 일환으로 Microsoft Copilot의 성능과 특정 완화 기능을 지속적으로 개선하고 테스트합니다. 자세한 내용은 Microsoft 365 앱과 함께 Microsoft Copilot에 대한 피드백 제공을 참조하세요.

위험을 매핑, 측정 및 관리하는 접근 방식은 더 많은 것을 배우면서 계속 발전할 것이며 이미 고객으로부터 받은 피드백을 기반으로 개선하고 있습니다.

Microsoft Copilot 배포 및 채택 모범 사례

책임 있는 AI는 Microsoft와 고객 간의 공동의 약속입니다. Microsoft는 안전성, 공정성 및 투명성을 핵심으로 AI 시스템을 구축하지만 고객은 자신의 컨텍스트 내에서 책임감 있게 이러한 기술을 배포하고 사용하는 데 중요한 역할을 합니다. 이 파트너십을 지원하기 위해 고객이 책임 있는 AI를 효과적으로 구현할 수 있도록 배포자와 최종 사용자를 위한 다음과 같은 모범 사례를 제공합니다.

배포자와 최종 사용자는 다음을 수행해야 합니다.

  • 결과적 결정 또는 중요한 도메인에서 Microsoft Copilot을 사용할 때는 주의를 기울이고 결과를 평가하세요. 결과적 결정이란 개인의 교육, 고용, 금융 서비스, 정부 혜택, 의료, 주택, 보험, 법률 서비스에 대한 개인의 접근에 법적 또는 중대한 영향을 미칠 수 있거나 신체적, 심리적 또는 재정적 피해를 초래할 수 있는 결정입니다. 금융 서비스, 의료, 주택과 같은 민감한 영역은 다양한 그룹의 사람들에게 불균형적인 영향을 미칠 수 있기 때문에 특별한 관리가 필요합니다. 이러한 영역의 의사 결정에 AI를 사용하는 경우 영향을 받는 이해 관계자가 의사 결정 방법을 이해하고, 결정에 이의를 제기하고, 관련 입력 데이터를 업데이트할 수 있는지 확인합니다.

  • 법적 및 규제 고려 사항 평가: 고객은 모든 산업 또는 시나리오에서 사용하기에 적합하지 않을 수 있는 AI 서비스 및 솔루션을 사용할 때 잠재적인 특정 법적 및 규제적 의무를 평가해야 합니다. 또한 AI 서비스 또는 솔루션은 해당 서비스 약관 및 관련 사용 규정에서 금지하는 방식으로 설계되지 않았으며 사용해서는 안 됩니다.

  • 웹 콘텐츠 참조를 허용합니다. Microsoft Copilot이 웹 콘텐츠를 참조할 수 있도록 허용하면 응답이 웹의 최신 공개 정보를 활용할 수 있는 Microsoft Copilot 응답의 품질, 정확성 및 관련성을 향상시킬 수 있습니다. 그러나 Microsoft Copilot이 웹 콘텐츠를 참조하는 경우 Bing Search 서비스를 통해 참조하며 Bing Search 쿼리에 대한 데이터 처리 방법은 Microsoft Copilot에서 데이터를 처리하는 방법과 다릅니다. Bing 사용에는 Microsoft 개인정보처리방침과 함께 각 사용자와 Microsoft 간의 Microsoft 서비스 계약이 적용됩니다.

  • Microsoft Graph의 기반을 확장합니다. Microsoft Copilot은 Microsoft Graph의 데이터를 사용하여 이메일, 채팅, 파일 및 일정과 같은 organization별 데이터의 응답을 기반으로 합니다. CRM 시스템 또는 외부 파일 리포지토리와 같은 원본의 조직 데이터로 Microsoft Graph를 확장함으로써 조직은 Microsoft Copilot 응답의 풍부함과 정확성을 더욱 향상시키는 추가 컨텍스트별 관련 정보를 포함할 수 있습니다.

최종 사용자는 다음을 수행해야 합니다.

Microsoft Copilot 출력의 정확도와 관련하여 성능을 개선하려면 조직에서 다음을 고려하는 것이 좋습니다.

  • 좋은 프롬프트를 작성합니다. 좋은 프롬프트를 작성하는 것은 Microsoft Copilot을 사용하여 더 나은 결과를 얻는 데 중요합니다. 사람들이 인간과 효과적으로 의사소통하는 데 도움이 되는 기술이 있는 것과 마찬가지로 사용자가 프롬프트를 작성할 때 Microsoft Copilot을 사용하여 더 나은 결과를 얻는 데 도움이 될 수 있는 지침이 있습니다. 예를 들어 세부 정보 포함, 프롬프트 구성, 긍정적인 지침 제공, 반복 및 다시 생성, 항상 AI 생성 응답 검토 및 검증 등이 있습니다. 자세한 내용은 Copilot 프롬프트를 사용하여 더 나은 결과 얻기를 참조하세요.

  • 적절한 경우 다음과 같이 사람의 감독을 수행합니다. 인간의 감독은 AI 시스템과 상호 작용할 때 중요한 보호 장치입니다. AI 시스템을 지속적으로 개선하지만 AI는 여전히 실수를 할 수 있습니다. 생성된 출력은 부정확하거나, 불완전하거나, 편향되거나, 잘못 정렬되거나, 의도한 목표와 관련이 없을 수 있습니다. 이는 입력의 모호성 또는 기본 모델의 제한 사항과 같은 다양한 이유로 인해 발생할 수 있습니다. 따라서 사용자는 Microsoft Copilot에서 생성된 응답을 검토하고 기대치 및 요구 사항과 일치하는지 확인해야 합니다.

  • 과도한 의존의 위험에 유의하세요. AI에 대한 과도한 의존은 주로 AI 출력의 실수를 감지하기 어려울 수 있기 때문에 사용자가 부정확하거나 불완전한 AI 출력을 수락할 때 발생합니다. 최종 사용자의 경우 과도한 의존은 생산성 저하, 신뢰 상실, 제품 포기, 재정적 손실, 심리적 피해, 신체적 피해 등을 초래할 수 있습니다. (예: 의사가 잘못된 AI 출력을 수락합니다.) Microsoft Copilot의 경우 제품에 고지 사항을 추가하여 이 위험을 완화하는 데 도움이 되지만 사용자는 여전히 답변의 정확성을 검토해야 합니다.

  • 중요한 도메인에서 에이전트 AI를 설계할 때는 주의 해야 합니다. 에이전트 작업이 되돌릴 수 없거나 매우 중요한 중요한 중요한 도메인에서 에이전트 AI 시스템을 설계 및/또는 배포할 때 사용자는 주의를 기울여야 합니다. Microsoft 엔터프라이즈 AI 서비스 행동 강령(조직용) 또는 Microsoft 서비스 계약의 행동 강령 섹션(개인용)에 자세히 설명된 대로 자율 에이전트 AI를 만들 때도 추가 예방 조치를 취해야 합니다.

  • 청소년 및 신뢰할 수 있는 성인을 위한 지침. 신뢰할 수 있는 성인은 Copilot이 실수를 할 수 있는 AI 시스템이라는 것을 십대들이 이해하도록 도와야 합니다. Copilot은 인간의 판단, 대인 관계 또는 전문적인 지원을 대체할 수 없습니다. 청소년은 Copilot 응답에 의존하기 전에 중요한 정보를 확인해야 하며, 대화가 혼란스럽거나, 민감하거나, 우려되거나, 건강, 안전, 관계, 교육 또는 재정에 영향을 미칠 수 있는 경우 신뢰할 수 있는 성인을 참여시켜야 합니다. 청소년은 암호, 정확한 위치, 재무 세부 정보, 건강 기록 또는 자신이나 타인에 대한 기타 민감한 개인 정보를 공유해서는 안 됩니다. Copilot이 연령에 부적절하거나 잠재적으로 유해하거나 우려되는 콘텐츠를 제공하는 경우 청소년은 상호 작용을 중지하고 신뢰할 수 있는 성인 또는 자격을 갖춘 전문가의 도움을 요청하고 Copilot 내에서 사용 가능한 피드백 도구를 사용하거나 우려 사항 보고 를 사용하여 응답을 보고해야 합니다. 보고서에는 Microsoft가 발생한 상황을 이해하는 데 도움이 될 수 있는 관련 컨텍스트가 포함되어야 하지만 암호, 계정 자격 증명 또는 기타 중요한 개인 정보는 포함되어서는 안 됩니다.

배포자는 다음을 수행해야 합니다.

Microsoft는 Microsoft 365 고객을 위한 Microsoft Copilot 대시보드 및 Microsoft 365 관리 센터의 보고서와 같은 도구를 제공합니다. 이러한 도구는 조직에서 Microsoft Copilot의 사용량, 채택 및 영향을 측정하는 데 도움이 되도록 설계되었습니다. 예시:

  • 관리자는 Microsoft Copilot 사용 현황 보고서를 사용하여 사용자의 채택, 유지 및 참여가 Microsoft Copilot을 사용하여 라이선스를 관리하고 최적화하는 방법에 대한 요약을 볼 수 있습니다. 자세한 내용은 Microsoft Copilot 사용량을 참조하세요.
  • Microsoft Copilot 대시보드는 리더, 분석가 및 대리인에게 채택 및 영향을 측정하기 위해 Microsoft Copilot 및 Copilot Chat의 광범위한 사용organization 대한 미리 작성된 보고서에 대한 액세스를 제공합니다. 자세한 내용은 Microsoft 365 고객을 위한 Microsoft Copilot 대시보드에 연결을 참조하세요.
  • Copilot의 비즈니스 영향은 Viva Insights에서 사용할 수 있으며, 이를 통해 분석가는 Microsoft Copilot의 사용량을 비즈니스 메트릭과 비교하여 비즈니스 가치를 이해할 수 있습니다. 자세한 내용은 Copilot 비즈니스 영향 보고서를 참조하세요.

Microsoft Copilot에 대해 자세히 알아보기

Microsoft Copilot의 책임 있는 사용에 대한 추가 지침은 다음 설명서를 검토하는 것이 좋습니다.

책임 있는 AI에 대해 자세히 알아보기

  • 에 마지막으로 업데이트됨