애플리케이션 카드: Copilot 코드(프론티어)

  • 적용 대상: Microsoft Copilot

Important

  • Microsoft 제품 사용 약관에 따라 제공되는 미리 보기 기능입니다.
  • 미리 보기 기능에는 제한된 기능이 있을 수 있으며 일반 제공으로 릴리스되지 않을 수 있습니다. 이런 기능은 공식 릴리스 전에 사용할 수 있으므로 고객이 조기에 액세스하고 피드백을 제공할 수 있습니다.
  • 조기에 액세스하려면 Frontier 미리 보기 프로그램에 참여해야 합니다. Frontier는 Microsoft의 최신 AI 혁신과 직접 연결합니다. 프론티어 미리 보기에는 고객 계약의 기존 미리 보기 조건이 적용됩니다. 이러한 기능은 아직 개발 중이므로 가용성 및 기능은 시간이 지남에 따라 변경 될 수 있습니다.

애플리케이션 또는 플랫폼 카드 무엇인가요?

Microsoft의 애플리케이션 및 플랫폼 카드는 AI 기술의 작동 방식, 애플리케이션 소유자가 애플리케이션 성능 및 동작에 영향을 줄 수 있는 선택 사항, 기술, 사람 및 환경을 포함한 전체 애플리케이션을 고려하는 것의 중요성을 이해하는 데 도움이 되도록 하기 위한 것입니다. 애플리케이션 카드는 AI 애플리케이션용으로 만들어지고 플랫폼 카드는 AI 플랫폼 서비스에 대해 만들어집니다. 이러한 리소스는 자체 애플리케이션의 개발 또는 배포를 지원할 수 있으며 영향을 받는 사용자 또는 이해 관계자와 공유할 수 있습니다.

책임 있는 AI에 대한 노력의 일환으로 Microsoft는 공정성, 안정성 및 안전, 개인 정보 보호 및 보안, 포용성, 투명성 및 책임의 6가지 핵심 원칙을 준수합니다. 이러한 원칙은 책임 있는 AI Standard 포함되며, 이는 AI 애플리케이션을 설계, 빌드 및 테스트하는 팀을 안내합니다. 애플리케이션 및 플랫폼 카드는 기능, 의도된 사용 및 제한 사항에 대한 투명성을 제공하여 이러한 원칙을 운영하는 데 중요한 역할을 합니다. 추가 인사이트를 위해 독자는 책임 있는 AI 투명성 보고서 와 책임 있는 AI에 참여하는 방법을 간략하게 설명하는 Microsoft 엔터프라이즈 AI 서비스 행동 강령을 살펴보는 것이 좋습니다.

Overview

Microsoft Copilot 코드 탭은 사용자가 설명하는 내용을 작동하는 소프트웨어로 바꾸는 AI 기반 에이전트입니다. 대시보드, 내부 도구, 정적 웹사이트, 데이터 변환 또는 스크립트와 같은 결과물을 자연어로 설명하면, Copilot Code가 이를 빌드하고, 캔버스에 라이브 미리 보기를 표시하고, 작동할 때까지 사용자와 함께 반복 작업합니다. 코딩하는 방법을 알 필요가 없습니다. Copilot 코드는 사용자 고유의 디바이스(로컬) 또는 클라우드의 안전하고 격리된 환경에서 실행될 수 있습니다.

Copilot Code는 아이디어와 데이터가 있고 반복적인 워크플로를 사용하는 정보 근로자를 위해 설계되었습니다. 사용자를 대신해 소프트웨어를 작성하고 실행하고, 허용하면 Microsoft 365 작업 컨텍스트를 사용하고, 선택한 프로젝트 폴더를 벗어나는 작업을 수행하기 전에 사용 권한을 요청합니다.

Copilot 코드는 Microsoft Copilot 일부로 사용할 수 있습니다. 자세한 내용은 Copilot 코드 개요를 참조하세요.

주요 용어

다음 표에서는 Copilot Code와 관련된 주요 용어를 정의합니다.

용어 Description
Agent 자연어 지침에 따라 사용자를 대신하여 작업을 자동화하고 실행하는 AI 기반 구성 요소입니다. Copilot Code는 소프트웨어를 빌드하고 실행하는 에이전트입니다.
프로젝트 소프트웨어 아티팩트 Copilot Code는 이를 구성하는 파일들과 그 집합입니다. 프로젝트는 디바이스(로컬) 또는 클라우드에 저장되고 해당 대화는 프로젝트에 연결됩니다.
Canvas 대화 옆에 있는 시각적 작업 영역으로, 아티팩트의 라이브 미리 보기가 표시되고 코드 보기로 전환하여 생성된 파일을 보고 편집할 수 있는 영역입니다.
지역 개발 Copilot Code가 사용자 고유의 디바이스에서 실행되고 선택한 프로젝트 폴더 내에서 작동하는 모드입니다.
클라우드 개발 Copilot Code가 실행되고 프로젝트가 클라우드의 안전하고 격리된 환경에서 유지되는 모드입니다.
동의 프롬프트 선택한 폴더 외부의 위치에 액세스하거나, 네트워크에 연결하거나, 명령을 실행하기 전에 Copilot Code가 사용 권한을 요청하는 대화 상자입니다. 프롬프트는 쉬운 언어로 작성됩니다.
플러그 인 Copilot 코드를 외부 데이터 원본 및 서비스에 연결하는 Microsoft 365 App Store를 통해 배포되는 패키지입니다. Copilot Code는 Cowork에서 사용할 수 있는 동일한 플러그 인을 사용합니다.
작업 환경 Microsoft 365 데이터(문서, 이메일, 모임 및 일정)는 Copilot Code가 생성하는 내용에 대한 컨텍스트로 사용할 수 있으며, 사용자의 허가를 받아 조직(회사) 계정을 사용하여 이용됩니다.
GitHub 연결 Copilot Code가 리포지토리에서 작동하고, 코드에 대한 질문에 답변하고, 끌어오기 요청을 열 수 있는 GitHub 계정에 대한 선택적 링크입니다.
Automation Automations 패널에서 설정하는, Code가 일정에 따라 실행하는 작업.

주요 기능 또는 역량

아래의 주요 기능과 역량은 Copilot Code가 수행하도록 설계된 사항을 설명합니다.

Feature Description
자연어로 빌드 Copilot Code는 결과에 대한 일반 언어 설명을 앱, 대시보드, 정적 웹사이트, 데이터 변환, 자동화 또는 스크립트와 같은 작동하는 소프트웨어 아티팩트로 바꿉니다.
질문 명확히 하기 빌드하기 전에 Copilot Code가 원하는 항목과 표시 방식을 확인하기 위해 몇 가지 질문을 할 수 있습니다.
라이브 미리 보기 및 코드 보기 캔버스는 정적 웹 사이트 또는 웹앱이 빌드되는 동안의 라이브 미리 보기를 보여줍니다. 코드 보기로 전환하여 생성된 파일을 보고 편집하고 캔버스에서 요소를 선택하여 다음 요청의 대상을 해당 요소로 설정할 수 있습니다.
반복 실행 및 되돌리기 대화의 변경 내용을 설명하여 결과를 구체화합니다. 언제든지 이전 버전으로 되돌릴 수 있습니다. 단계가 실패하면 Copilot Code에서 복구를 시도하고 일반 언어로 발생한 내용을 설명합니다.
로컬 또는 클라우드 실행 Copilot Code는 사용자 자신의 디바이스 또는 클라우드의 안전하고 격리된 환경에서 프로젝트를 실행할 수 있습니다.
파일 및 데이터 가져오기 파일(CSV, 스프레드시트, 이미지, 문서, PDF 및 프레젠테이션)을 업로드하거나 끌어서 놓고, 텍스트를 붙여넣고, 로컬 프로젝트의 경우 Copilot Code가 작업할 기존 폴더를 열 수 있습니다.
작업 컨텍스트 통합 사용자의 허가가 있으면 Copilot Code는 Microsoft 365 작업 컨텍스트(문서, 이메일, 모임 및 일정)를 구축하는 작업의 컨텍스트로 사용합니다. 조직(회사) 계정을 사용합니다.
플러그인 및 도구 Copilot Code는 Cowork에서 사용할 수 있는 동일한 플러그 인을 사용하여 외부 데이터 원본 및 서비스에 연결하고, 조직의 정책에 따라 웹 검색 및 이미지 생성과 같은 도구도 사용할 수 있습니다.
GitHub 통합 필요에 따라 GitHub 계정을 리포지토리를 기반으로 시작하도록 연결하고, 코드에 대한 질문을 하고, 분기 및 커밋을 만들고, 초안 풀 리퀘스트를 열고, 상태를 보고, 리포지토리를 만들고, 내 작업에서 문제를 추적하고, 풀 리퀘스트를 추적하고, 검토 요청을 추적할 수 있습니다.
Automations Automations 패널에서 일정에 따라 실행되는 작업을 설정할 수 있습니다.
공유 및 내보내기 정적 앱을 조직으로 범위가 지정된 링크로 공유하고 프로젝트를 .zip 파일로 내보낼 수 있습니다.
모델 선택 프로젝트에 사용할 모델을 선택하거나 Copilot Code가 선택하도록 할 수 있습니다.
동의 관리 Copilot Code는 선택한 프로젝트 폴더 외부의 위치에 액세스하거나, 네트워크 연결을 만들거나, 명령을 실행하기 전에 사용 권한을 요청합니다. 동의 프롬프트는 일반 언어로 작성됩니다.

에이전트 AI 애플리케이션인 Copilot Code는 다음과 같은 에이전트 특성을 보여 줍니다.

  • 계획: Copilot Code는 자연어 설명을 소프트웨어를 빌드하는 데 필요한 단계로 분해하고 그 단계를 차례로 수행하며 진행 상황을 표시합니다.
  • 적응성: 세션 중에 피드백을 사용하여 Copilot Code를 조정할 수 있으며, Copilot Code가 이전 버전으로 되돌리는 것을 포함하여 접근 방식을 조정합니다.
  • 확장성: Copilot 코드의 기능은 Microsoft 365 App Store의 플러그 인, 외부 데이터 원본에 대한 커넥터, 선택적 GitHub 연결을 통해 확장됩니다.
  • 메모리(대화 범위): 프로젝트의 대화 내에서 Copilot Code는 단계 및 메시지 간에 컨텍스트를 유지 관리합니다. 세션 중에 부여된 동의는 해당 세션에 적용됩니다. 문맥은 별도의 대화 간에는 유지되지 않습니다.

의도한 용도

Copilot Code는 Microsoft 365를 사용하고 아이디어, 데이터 및 정기 워크플로를 개발 환경 없이 작동하는 소프트웨어로 전환하려는 정보 근로자를 위해 설계되었습니다. 사용 사례의 몇 가지 예는 다음과 같습니다.

  • 대시보드 및 데이터 뷰: 채널별 주간 등록과 같이 데이터에서 메트릭을 추적하는 대시보드를 빌드합니다.
  • 내부 도구: 인벤토리 또는 승인 추적기와 같은 팀 워크플로에 대한 추적기, 양식 또는 계산기를 빌드합니다.
  • 정적 웹 사이트 및 랜딩 페이지: 간단한 사이트 또는 랜딩 페이지를 구축하여 아이디어를 테스트합니다.
  • 데이터 변환 및 스크립트: 여러 원본에서 보고서를 다시 빌드하는 것과 같은 반복적인 수동 프로세스를 재사용 가능한 스크립트로 전환합니다.
  • 기존 리포지토리 작업: GitHub 계정을 연결하여 리포지토리에 대해 물어보고, 변경하고, 초안 풀 리퀘스트를 엽니다.

에이전트 범위: Copilot Code는 Microsoft 365 권한 및 선택한 프로젝트 폴더의 경계 내에서 작동합니다. 사용자가 만들도록 지시한 소프트웨어를 빌드하고 실행하며, 선택한 폴더 밖에 접근하기 전에, 네트워크에 연결하거나, 명령을 실행하기 전에 사용자의 승인을 요청합니다. 사용자의 지시나 승인 없이는 이러한 작업을 수행하지 않습니다.

Copilot Code는 사람의 검토 없이 보장된 정확도를 요구하는 사용 사례 또는 적절한 테스트 및 사람의 감독 없이 결과적 또는 안전에 중요한 사용을 위한 소프트웨어를 생성하기 위한 것이 아닙니다.

모델 및 학습 데이터

Copilot Code는 AI 모델을 활용하여 사용자가 보는 경험을 지원합니다. Anthropic의 Claude Opus 및 Claude Sonnet 변형과 Claude Haiku를 비롯한 여러 모델과 Microsoft에서 호스팅 및 운영하는 GPT 모델 중에서 선택하거나 Copilot Code에서 모델을 대신 선택하도록 할 수 있습니다. Anthropic 모델은 하위 프로세서로서 Microsoft에 제공됩니다. 자세한 내용은 Microsoft 온라인 서비스의 하위 처리자로서의 Anthropic 및 Microsoft 온라인 서비스의 AI 기능 및 모델 이해를 참조하세요.

Microsoft Graph를 통해 액세스된 프롬프트, 응답 및 데이터는 Microsoft Copilot에서 사용하는 것을 포함하여 기본 LLM을 학습시키는 데 사용되지 않습니다. 클라우드 모드에서 조직 데이터는 Microsoft 365 내에 유지되며 조직의 기존 데이터 거버넌스 정책이 적용됩니다. 그러나 로컬 모드에서는 관리자 동의에 따라 데이터가 로컬 장치에도 저장될 수 있습니다. 데이터 처리 방법에 대한 자세한 내용은 Microsoft Copilot의 데이터, 개인정보 및 보안을 참조하세요.

Performance

Copilot Code는 사용자의 의도를 반영하는 작동하는 소프트웨어를 빌드하도록 설계되었습니다. 성능은 Copilot Code가 요청을 충족하는 작동하는 아티팩트를 생성하는지 여부와 피드백에 따라 올바르게 반복되는지 여부에 따라 평가됩니다.

지원되는 모달리티

  • 입력: 사용자가 입력한 텍스트 프롬프트, 붙여넣은 텍스트, 그리고 파일당 최대 200MB 크기의 첨부 파일(CSV, 스프레드시트, 이미지, 문서, PDF, 프레젠테이션). 로컬 프로젝트의 경우 Copilot Code는 선택한 폴더의 파일을 읽을 수도 있습니다.
  • 출력: 캔버스에 표시되는 실행 중인 소프트웨어 아티팩트, 생성된 소스 코드, 기기나 클라우드에 저장된 파일, 그리고 GitHub를 연결할 경우의 브랜치, 커밋, 초안 상태의 풀 리퀘스트. 정적 앱을 조직 범위 링크로 공유하고 프로젝트를 .zip 파일로 내보낼 수 있습니다.

Copilot Code에서 요청을 처리하는 방법

  1. Copilot Code는 원하는 결과를 설명하는 자연어 설명을 받습니다.
  2. Copilot 코드는 확인 질문을 한 다음 아티팩트 빌드에 필요한 단계를 계획할 수 있습니다.
  3. Copilot Code는 캔버스에서 진행률과 라이브 미리 보기를 보여 주면서 소프트웨어를 작성하고 실행합니다. 코드 보기로 전환하여 생성된 파일을 볼 수 있습니다.
  4. Copilot Code가 선택한 폴더 외부의 위치에 액세스하거나, 네트워크 연결을 만들거나, 명령을 실행하기 전에 일반 언어로 승인을 요청합니다.
  5. 결과를 검토하고, 대화를 통해 구체화하고, 프로젝트를 저장, 공유 또는 내보냅니다.

안정적인 작동을 위한 조건

  • Copilot Code는 결과의 대상과 사용해야 하는 데이터를 포함하여 결과를 명확하게 설명할 때 가장 효과적으로 작동합니다.
  • Copilot Code는 Microsoft 365 계정에서 사용할 권한이 있는 데이터 및 서비스에만 액세스할 수 있으며, 로컬 프로젝트의 경우 선택한 폴더와 승인한 모든 위치에만 액세스할 수 있습니다.
  • 미리 보기 지원은 아티팩트 유형 및 디바이스에 따라 달라집니다.
  • 상호 종속성이 많은 매우 복잡한 프로젝트의 경우 성능이 저하될 수 있습니다.

다국어 기능

  • CCopilot 코드는 Copilot에서 지원되는 모든 언어로 제공됩니다. 추가 언어에 대한 지원은 기본 모델 기능 및 Microsoft 365 서비스 가용성을 기반으로 합니다. 지원되는 언어에 대한 자세한 내용은 Microsoft Copilot 지원 언어를 참조하세요.

Limitations

Copilot 코드의 제한 사항을 이해하는 것은 안전하고 효과적인 경계 내에서 사용되는지 여부를 결정하는 데 중요합니다. 고객이 혁신적인 솔루션 또는 애플리케이션에서 Copilot Code를 사용하도록 권장하지만 Copilot Code가 가능한 모든 시나리오에 맞게 설계되지 않았다는 점에 유의해야 합니다. 사용자는 Microsoft Enterprise AI Services 행동 강령 (조직용) 또는 Microsoft 서비스 계약 (개인용)의 행동 강령 섹션과 사용 사례를 선택할 때 다음과 같은 고려 사항을 참조하는 것이 좋습니다.

  • 명령 해석: Copilot 코드가 모호하거나 지나치게 광범위한 설명을 잘못 해석하여 의도와 일치하지 않는 소프트웨어로 이어질 수 있습니다. 더 나은 결과를 얻기 위해 명확하고 구체적인 요청을 제공하세요.

  • 생성된 코드 정확도: AI에서 생성된 코드 및 아티팩트는 초안으로 간주해야 합니다. 코드에 의존하거나 공유하거나 프로덕션 환경에서 사용하기 전에 Copilot Code가 빌드한 것을 테스트하세요. Copilot 코드는 특히 원본 데이터가 불완전하거나 오래된 경우 부정확한 결과를 생성할 수 있습니다.

  • Project 복잡성: 종속성이 많은 복잡한 프로젝트가 항상 예상대로 빌드되지는 않을 수 있습니다. 진행률을 모니터링하고, 작은 단계로 반복하고, 필요한 경우 이전 버전으로 되돌려 갑니다.

  • 미리 보기 지원: 미리 보기는 아티팩트 유형 및 디바이스에 따라 달라집니다. 예를 들어 일부 아티팩트도 모든 플랫폼에서 미리 볼 수 없습니다.

  • 사용 권한 경계: Copilot Code는 기존 Microsoft 365 권한 및 로컬 프로젝트에 선택한 폴더에 의존합니다. 사용자가 권한을 부여하지 않은 데이터, 서비스 또는 위치에 액세스할 수 없습니다.

  • 플랫폼 및 디바이스 지원: Copilot 코드는 Windows 및 Mac용 Microsoft Copilot 데스크톱 앱과 클라우드 개발을 위한 웹에서 실행됩니다. 이 릴리스에서는 모바일 앱을 사용할 수 없으며 기능 가용성은 플랫폼에 따라 다를 수 있습니다.

  • 사용자 지정 기술 및 플러그 인: 플러그 인 및 커넥터는 타사 게시자가 제공하며 Microsoft에서 유효성을 검사하지 않았습니다. 품질은 게시한 사람에 따라 달라지기 때문에 플러그인의 출력을 신중하게 검토하세요.

  • 편향, 고정관념화 및 근거 없는 콘텐츠: 책임 있는 AI 제어 조치에도 불구하고 AI에서 생성된 콘텐츠와 코드는 여전히 편향, 고정관념 또는 근거 없는 정보를 반영할 수 있습니다. Copilot Code가 생성한 내용을 신뢰하기 전에 검토하세요. Anthropic 모델의 AI 생성 콘텐츠의 알려진 제한 사항에 대한 자세한 내용은 Anthropic 하위 프로세서 설명서를 참조하세요.

  • 개인에 대한 잠재적인 심각한 신체적 또는 정신적 상해: 개인에게 심각한 신체적 또는 정신적 상해를 초래할 수 있는 시스템의 사용이나 오용을 피하십시오. 예를 들어 환자를 진단하거나 약물을 처방하는 소프트웨어를 빌드하면 심각한 피해를 초래할 가능성이 있습니다.

  • 생활 기회 또는 법적 지위에 대한 중대한 영향: 생활 기회 또는 법적 지위에 중대한 영향을 미칠 수 있는 시스템의 사용 또는 오용을 피하십시오. 예를 들어 개인의 법적 지위, 법적 권리 또는 신용, 교육, 고용, 의료, 주택, 보험, 사회복지 혜택, 서비스, 기회 또는 그것이 제공되는 조건에 대한 액세스에 영향을 줄 수 있는 소프트웨어가 포함됩니다.

Evaluations

성능 및 안전 평가는 생성된 소프트웨어가 올바르고 기능적인지 여부와 같은 요인을 검토하여 Copilot Code가 안정적이고 안전하게 운영되는지 여부를 평가하고 유해한 콘텐츠를 생성하거나 무단 작업을 수행할 위험을 식별합니다. 다음 평가는 안전 구성 요소 및 완화에 설명된 안전 구성 요소가 이미 있는 상태에서 수행되었습니다.

성능 및 품질 평가

Copilot Code에 대한 성능 평가는 실제 사용에서 안정성을 향상시키는 데 필수적입니다. 다음 영역에 대한 성능 평가를 정기적으로 수행합니다.

  • 생성된 코드가 구문적으로 올바른지 여부입니다.
  • 생성된 아티팩트의 기능이 사용자의 요청을 충족하는지 여부입니다.
  • 사용자 환경 관점에서 결과의 품질입니다.

성능 및 품질 평가 방법

평가 데이터는 안전 및 품질의 주요 영역에서 AI 애플리케이션 성능을 평가하여 실제 시나리오와 위험을 시뮬레이션하도록 사용자 지정 빌드되었습니다. 우리는 다학제 연구 및 전문가의 의견을 기반으로 우려의 관련 평가 측면을 식별하는 것으로 시작합니다. 이러한 문제는 대상 평가 목표로 변환되고 평가 메트릭의 공식을 안내합니다. 안전을 위해 바람직하지 않거나 에지 케이스 응답을 유도하는 악의적인 프롬프트를 만든 다음, Microsoft의 안전 표준에 부합되는지 평가하도록 학습된 AI 지원 주석을 사용하여 점수를 매깁니다. 품질을 위해 코드 생성 및 에이전트 시나리오와 관련된 루브릭 기반 프롬프트를 작성합니다. 데이터 세트는 실제 사용자 시나리오를 시뮬레이션하기 위해 가상 및 공용 데이터 세트를 비롯한 다양한 원본에서 큐레이팅됩니다. 큐레이팅된 데이터 세트를 사용하여 두 평가 모두 반복적인 구체화와 인간 맞춤을 거쳐 메트릭 효율성과 안정성을 개선합니다.

Copilot 코드는 정보 작업자가 대시보드, 내부 도구, 정적 사이트 및 데이터 변환 생성과 같은 소프트웨어를 빌드하는 방법을 반영하는 시나리오를 사용하여 평가되었습니다. 평가자는 생성된 코드가 올바르고 실행되었는지 여부, 아티팩트가 요청을 충족하는지 여부 및 결과가 동일한 작업의 변형에 걸쳐 유지되는지 여부를 평가했습니다. 이상적인 결과는 요청과 일치하는 기능하는 소프트웨어를 의미합니다. 바람직하지 않은 결과에는 실행되지 않는 코드, 누락된 기능 또는 의도와 일치하지 않는 결과가 포함됩니다.

사용자 지정 평가

표준 메트릭 외에도 Copilot Code는 에이전트형 코드 작성 기능과 관련된 사용자 지정 메트릭을 사용하여 평가되었습니다.

  • 빌드 성공(Copilot Code가 작동하는 아티팩트를 생성했는지 여부).
  • 요청 맞춤(결과가 사용자의 의도와 일치하는지 여부).
  • 반복 정확도(Copilot Code가 요청된 변경 내용을 올바르게 적용하고 되돌리는지 여부).

위험 및 안전 평가

다양한 심각도의 위험으로부터 보호하기 위해 AI 생성 콘텐츠 및 작업과 관련된 잠재적 위험을 평가하는 것이 중요합니다. 여기에는 유해한 콘텐츠 또는 코드를 생성하는 Copilot Code의 성향을 평가하고 탈옥 공격 및 무단 작업에 대한 취약성 테스트가 포함됩니다. 다음과 같은 위험 및 안전성 평가가 수행되었습니다.

  • 증오와 불공평
  • Sexual
  • 폭력
  • 자해
  • 보호 재질
  • 안전하지 않거나 악의적인 코드 생성
  • 간접 탈옥
  • 직접 탈옥
  • 무단 작업 실행

위험 및 안전 평가 방법

위험 및 안전 평가는 악의적 프롬프트와 자동화된 분류자를 사용하여 잠재적인 피해를 평가했습니다. 테스트는 LLM 판정 평가를 분류기 기반 감지 및 필요한 경우의 수동 테스트와 결합했습니다. Copilot Code의 실행 기능과 관련된 추가 평가는 필요한 동의 없이 에이전트가 안전하지 않은 코드를 생성하거나 파일 액세스, 네트워크 연결 또는 명령 실행 등의 작업을 수행하도록 조작될 수 있는지 여부를 테스트했습니다. 이상적인 결과는 안전하지 않은 요청을 리디렉션하거나 거절하며 프롬프트가 달라져도 동의 경계를 그대로 유지합니다. 최적이 아닌 결과에는 유해하거나 안전하지 않은 콘텐츠를 생성하거나 적절한 승인 없이 조치를 취하는 것이 포함됩니다.

안전 구성 요소 및 완화

레드팀 테스트와 같은 프로세스를 통해 잠재적인 위험과 오용을 식별하고 측정하면서 피해 가능성을 줄이기 위한 완화 조치를 개발했습니다. 다음 목록에서는 이러한 완화 기능 중 일부를 설명합니다. 제품 성능 및 완화 조치를 개선하기 위해 Copilot Code를 계속 평가합니다.

  • 프로젝트 폴더를 벗어나는 작업에 대한 동의입니다. Copilot Code의 기본 안전 메커니즘은 동의 모델입니다. 작업할 폴더를 선택하면 Copilot Code는 해당 폴더 내에서 읽고 쓸 수 있습니다. 다른 위치에 액세스하거나, 네트워크 연결을 만들거나, 명령을 실행하려면 명시적 승인이 필요합니다. 동의 프롬프트는 일반 언어로 작성됩니다.

  • 코드 실행을 위한 구성 가능한 격리입니다. Copilot Code는 구성 가능한 격리 및 강제 적용 수준으로 생성된 소프트웨어를 실행합니다. 관리자는 조직에 대한 시행 수준을 구성할 수 있습니다.

  • 사용 권한 경계. Copilot Code는 기존 Microsoft 365 권한 및 선택한 폴더 내에서 엄격하게 작동합니다. 권한이 부여되지 않은 데이터, 서비스 또는 리소스에 액세스할 수 없으므로 권한 상승 방지에 도움이 됩니다.

  • 대화 범위 동의 세션 중에 부여한 동의는 해당 세션에 적용되며 별도의 대화에서 유지되지 않으므로 의도하지 않은 권한 부여의 폭발 반경을 제한합니다.

  • AI 기반 분류기 및 콘텐츠 필터링. Copilot Code는 AI 기반 분류자 및 콘텐츠 필터를 사용하여 증오 발언, 폭력, 성적 콘텐츠, 자해 및 보호된 자료에 대한 필터를 포함하여 사용자 프롬프트 및 생성된 응답에서 잠재적으로 유해한 콘텐츠를 식별하고 차단합니다.

  • 메타프롬프팅. 시스템 지침은 부적절한 요청을 거절하고 안전하지 않거나 악의적인 코드를 생성하지 않도록 하는 지침을 포함하여 Microsoft AI 원칙 및 사용자 기대치에 부합하는 Copilot Code의 동작을 안내합니다.

  • 사용자 중심 디자인 및 투명성. Copilot 코드는 작동할 때 각 단계를 표시하고 라이브 미리 보기를 표시하여 에이전트의 작업을 투명하게 만들어 의도치 않은 방향으로 향하고 있는 시기를 식별할 수 있습니다.

  • 감사 가능성. Copilot Code는 수행하는 작업(코드 생성, 명령 실행 및 파일 읽기 또는 쓰기)을 기록하며, 이러한 로그는 IT 관리자가 사용할 수 있으므로 사용자의 요청에서 작업 및 결과에 대한 추적 가능성을 제공합니다.

  • 관리 컨트롤. 관리자는 Copilot Code 및 특정 기능을 사용하거나 사용하지 않도록 설정하고, 조직 수준에서 정책을 적용하고, GitHub 계정 연결을 제한하고, 사용자별 지출 한도를 설정할 수 있습니다. 사용량은 Microsoft Copilot 사용 권한에 따라 측정됩니다.

  • 피드백 메커니즘. 사용자는 긍정(thumbs up) 또는 부정(thumbs down) 피드백을 제출할 수 있으며, 부정 피드백에는 의견을 덧붙일 수 있습니다. 이는 Copilot Code의 품질과 안전을 평가하고 개선하는 데 사용됩니다.

  • 사이버 보안 조치. Copilot Code는 암호화된 데이터 전송, Microsoft Entra ID 통한 보안 인증 및 Microsoft 보안 개발 수명 주기 준수를 포함한 사이버 보안 사례를 구현합니다. 클라우드 모드에서 조직 데이터는 Microsoft 365 내에 유지되며 조직의 기존 데이터 거버넌스 정책이 적용됩니다. 그러나 로컬 모드에서는 관리자 동의에 따라 데이터가 로컬 장치에도 저장될 수 있습니다. 잠재적인 취약성을 식별하고 해결하기 위해 정기적인 보안 감사와 위협 모델 검토가 수행됩니다.

Copilot Code 배포 및 채택에 대한 모범 사례

책임 있는 AI는 Microsoft와 고객 간의 공유된 약속입니다. Microsoft는 안전, 공정성 및 투명성을 핵심으로 AI 애플리케이션 및 플랫폼 서비스를 빌드하지만, 고객은 자체 컨텍스트 내에서 이러한 기술을 책임감 있게 배포하고 사용하는 데 중요한 역할을 합니다. 이 파트너십을 지원하기 위해 고객이 책임 있는 AI를 효과적으로 구현할 수 있도록 배포자와 최종 사용자를 위한 다음과 같은 모범 사례를 제공합니다.

배포자 및 최종 사용자는 다음을 수행해야 합니다.

  • 중대한 결정이나 민감한 도메인에서 Copilot Code를 사용할 때 주의를 기울이고 결과를 평가합니다. 결과적 결정은 교육, 고용, 금융 플랫폼, 정부 혜택, 의료, 주택, 보험, 법적 플랫폼에 대한 개인의 접근에 법적 또는 중대한 영향을 미칠 수 있거나 신체적, 심리적 또는 재정적 피해를 초래할 수 있는 결정입니다. 금융 플랫폼, 의료 및 주택과 같은 민감한 도메인은 다른 그룹의 사람들에게 불균형적으로 영향을 미칠 수 있기 때문에 특별한 주의가 필요합니다. 이러한 영역에서 결정에 AI를 사용하는 경우 영향을 받는 이해 관계자가 의사 결정 방법을 이해하고, 결정에 이의를 제기하고, 관련 입력 데이터를 업데이트할 수 있는지 확인합니다.

  • 법적 및 규제적 고려 사항을 평가합니다. 고객은 모든 산업 또는 시나리오에서 사용하기에 적합하지 않을 수 있는 AI 플랫폼 및 솔루션을 사용할 때 잠재적인 특정 법률 및 규제 의무를 평가해야 합니다. 또한 AI 플랫폼 또는 솔루션은 해당 서비스 약관 및 관련 행동 강령에서 금지된 방식으로 설계되지 않았으며 사용할 수 없습니다.

배포자는 다음을 수행해야 합니다.

  • 액세스 및 컨트롤을 적절하게 구성합니다. 사용 가능한 관리 컨트롤을 사용하여 Copilot Code에 액세스할 수 있는 사용자, 사용 가능한 기능, GitHub 연결 제한 및 사용자별 지출 한도를 관리할 수 있습니다. 광범위한 배포 전에 파일럿 그룹으로 시작하는 것이 좋습니다.

  • 동의 모델에 대해 사용자를 교육합니다. 사용자가 Copilot Code가 액세스하고, 연결하고, 실행하는 대상을 검토하고 승인할 책임이 있으며, AI 생성 코드는 사용하기 전에 테스트할 초안으로 취급해야 한다는 것을 이해하도록 합니다.

  • 플러그인 사용 검토. 플러그인을 사용 가능하게 하기 전에 평가합니다. 각 플러그 인이 액세스하는 데이터와 수행할 수 있는 작업을 이해합니다.

  • 사용량, 감사 로그 및 피드백을 모니터링합니다. 감사 로그와 사용자 피드백을 검토하여 패턴, 공통적인 문제 또는 추가적인 지침이 필요할 수 있는 부분을 파악합니다.

최종 사용자는 다음을 수행해야 합니다.

  • 적절한 경우 사람이 감독하도록 하십시오. 사람의 감독은 AI 애플리케이션과 상호 작용할 때 중요한 보호 장치입니다. AI 애플리케이션을 지속적으로 개선하는 동안 AI는 여전히 실수를 할 수 있습니다. 생성된 출력은 부정확하거나, 불완전하거나, 편향되거나, 잘못 정렬되거나, 의도한 목표와 무관할 수 있습니다. 따라서 Copilot Code가 빌드한 내용을 검토하고 테스트하며 예상 및 요구 사항과 일치하는지 확인합니다.

  • 지나친 의존의 위험에 유의하세요. AI에 대한 지나친 의존은 사용자가 잘못되거나 불완전한 AI 출력을 수락할 때 발생합니다. 주로 실수를 감지하기 어려울 수 있기 때문입니다. 코드 및 소프트웨어의 경우 이는 특히 중요합니다. Copilot Code가 빌드한 항목에 의존하거나 공유하거나 프로덕션 환경에서 사용하기 전에 테스트하세요.

  • 중요한 도메인에서 코드를 사용할 때는 주의해야 합니다. Microsoft 엔터프라이즈 AI 서비스 사용 규정(조직용) 또는 Microsoft 서비스 계약의 사용 규정 섹션(개인용)에 자세히 설명된 대로, 되돌릴 수 없거나 중대한 영향을 미치는 소프트웨어를 개발할 때는 추가 예방 조치를 취하세요.

  • 명확하고 구체적인 지침을 제공합니다. 원하는 결과, 대상 사용자 및 사용해야 하는 데이터에 대한 세부 정보를 포함합니다. 지침이 구체적일수록 더 나은 결과를 얻을 수 있습니다.

  • 동의 프롬프트를 신중하게 검토하세요. 위치, 네트워크 연결 또는 명령에 대한 액세스를 승인하기 전에 이를 이해하고 직접 요청한 것인지 확인하세요.

  • 정기적으로 피드백을 제공하십시오. 좋아요/싫어요 버튼 및 의견을 사용하여 시간이 지남에 따라 Copilot Code의 성능을 향상시키는 데 도움을 주세요.

Copilot 코드에 대해 자세히 알아보기

추가 지침 또는 Copilot Code의 책임 있는 사용에 대한 자세한 내용은 다음 설명서를 검토하는 것이 좋습니다.

책임감 있는 AI에 대해 자세히 알아보기

  • 에 마지막으로 업데이트됨