Microsoft 365 Copilot 오케스트레이터 개요

Microsoft 365 Copilot 오케스트레이터는 사용자 요청에 응답하는 데 사용하는 언어 모델, 사용 가능한 컨텍스트 및 기능을 조정합니다. 선언적 에이전트의 경우 이러한 기능에는 MCP 또는 API 플러그 인에서 제공하는 지식 검색, 기본 제공 기능 및 작업이 포함될 수 있습니다.

이 문서에서는 에이전트의 구성이 작업 선택 및 호출에 미치는 영향에 중점을 둡니다. 지침, 도구 정의 및 외부 서비스를 제공합니다. Microsoft는 대화형 런타임을 관리합니다. 광범위한 책임 분담은 선언적 에이전트 아키텍처를 참조하세요.

Copilot 오케스트레이터

오케스트레이터는 에이전트의 구성과 사용 가능한 컨텍스트를 사용하여 직접 응답할지, 지식을 검색할지, 도구를 호출할지를 결정합니다. 모든 요청에 외부 작업이 필요한 것은 아닙니다.

에이전트, AI 오케스트레이션, 언어 모델, 조직 데이터 및 인프라를 연결하는 개념 다이어그램입니다.

예를 들어 사용자는 "지금 어떤 티켓이 나에게 할당되어 있나요?"라고 물어볼 수 있습니다. 적절한 발권 작업이 있는 에이전트는 모델 지식에 의존하지 않고 발권 서비스에서 현재 정보를 검색할 수 있습니다.

다음 다이어그램은 API 작업 상호 작용을 보여줍니다. 이는 고정된 실행 순서나 모든 요청이 Microsoft Graph 또는 외부 API를 사용한다는 보장이 아닌 개념적 보기입니다.

플랫폼 검사, 도구 선택, API 실행, 결과 분석 및 응답을 통해 진행되는 티켓 쿼리의 개념적 예입니다.

  1. 요청을 해석합니다. Copilot은 프롬프트, 에이전트 지침, 대화 기록 및 사용 가능한 앱 컨텍스트를 사용하여 사용자의 작업을 식별합니다. 플랫폼 안전 및 정책 검사는 요청의 진행 여부와 진행 방식에 영향을 줄 수 있습니다.
  2. 관련 기능을 선택합니다. Copilot은 구성된 지식 또는 도구가 도움이 될 수 있는지 여부를 결정합니다. 외부 작업의 경우 플러그 인과 도구 설명을 통해 적절한 작업을 파악할 수 있습니다.
  3. 입력을 결정하고 도구를 호출합니다. Copilot은 사용 가능한 정보를 도구의 매개 변수에 매핑합니다. 지침은 값을 발명하는 대신 누락된 필수 정보를 요청하도록 안내해야 합니다. 외부 통화는 구성된 인증 및 확인 동작을 사용합니다.
  4. 결과를 해석합니다. Copilot은 반환된 데이터 또는 오류를 사용하여 다음 단계를 결정합니다. 상호 작용에는 다른 통화, 설명 요청 또는 사용자에 대한 응답이 포함될 수 있습니다.
  5. 사용자에게 응답합니다. Copilot은 사용 가능한 컨텍스트 및 결과를 사용하여 응답을 생성합니다. 응답은 서비스가 실제로 반환하거나 변경한 내용을 반영해야 합니다.

선언적 에이전트는 한 API 호출의 출력을 다른 호출로 전달하고 API 작업을 SharePoint 지식 또는 코드 인터프리터와 결합하는 등 함수 호출 체인을 지원합니다. 고정된 수의 호출이 항상 한 차례에 완료된다고 가정하는 대신 필요한 상호 작용을 설계하고 테스트합니다. 현재 플러그 인 제한 사항 및 외부 서비스 제한을 따릅니다.

플랫폼 보호 및 사용자 확인은 외부 서비스의 권한 부여 또는 비즈니스 규칙 확인을 대체하지 않습니다. 워크플로에 정확한 실행 순서, 트랜잭션 또는 복구가 필요한 경우 모델 명령에 의존하는 대신 서비스에서 이러한 요구 사항을 구현합니다.

Copilot의 오케스트레이터가 사용자 쿼리에 작업을 일치시키는 방법

플러그인 선택과 개별 도구 호출은 서로 다른 결정입니다. 플러그 인의 설명은 Copilot이 관련 서비스 또는 도메인을 식별하는 데 도움이 됩니다. 그런 다음 해당 플러그 인에서 사용할 수 있는 도구는 Copilot이 호출할 수 있는 작업과 필요한 입력을 설명합니다.

플러그인 선택에 의미 매칭을 사용하는 경우 일치는 개별 기능에 대한 설명이 아닌 플러그인의 설명을 기반으로 합니다. 일치하는 플러그인은 해당 기능이나 도구를 사용할 수 있게 해줍니다. 5가지 기능으로 구성된 고정된 최종 후보 목록이 아닙니다. 현재 선택 동작 및 컨텍스트 제약 조건은 MCP 및 API 플러그인 제한 사항을 참조하세요.

각 수준에서 유용한 설명을 제공합니다.

구성 설명할 내용
플러그인 설명 서비스의 목적, 지원되는 사용자 작업 및 도메인. 다른 플러그인과 구별될 수 있을 정도로 구체적으로 설명을 작성하세요.
함수 또는 도구 정의 작업의 목적, 사용 시기, 데이터를 검색하거나 변경할지 여부입니다. API 플러그인의 경우 함수 이름을 OpenAPI operationId에 매핑합니다.
매개 변수 필수 입력, 유형, 형식 및 의미 있는 예제입니다. 식별자와 표시 이름을 구분하고 선택적 동작을 명확하게 만듭니다.
결과 및 오류 반환된 데이터, 성공적인 작업의 의미 및 실패가 표시되는 방식. 페이로드를 작업과 관련성 있게 유지합니다.

API 플러그인의 경우 효과적인 OpenAPI 설명 만들기를 따르세요. MCP 플러그인의 경우 도구 정의가 동적으로 검색되었는지 또는 플러그인 매니페스트에 고정되어 있는지 검사합니다. 동적 검색을 사용하면 서버의 도구 정의를 변경하면 에이전트를 다시 게시하지 않고도 선택에 영향을 줄 수 있습니다.

작업 선택 개선 및 평가

설명 및 지침은 선택에 영향을 줍니다. 요청의 모든 구문에 대해 특정 도구가 호출된다는 보장은 없습니다.

  • 겹치는 작업을 명확히 합니다. 여러 도구가 적합하다고 생각되면 다양한 목적과 필요한 입력을 설명합니다. 읽기 작업과 데이터를 변경하는 작업을 구분합니다.
  • 지침에서 작업을 도구에 연결합니다. 구성된 도구를 사용하는 경우, 누락된 정보를 수집하는 방법 및 후속 요청에서 이전 결과를 사용하는 방법을 설명합니다. API 플러그인이 있는 에이전트에 대한 지침을 참조하세요.
  • 사용 가능한 도구에 집중하세요. 에이전트의 작업에 필요한 작업을 노출합니다. 더 많은 도구 정의와 더 큰 페이로드는 컨텍스트를 소비하며 응답 품질을 저하시킬 수 있습니다.
  • 실제 선택 항목과 결과를 테스트합니다. 다르게 표현된 프롬프트, 모호한 요청, 누락된 입력, 다단계 작업, 취소된 확인 및 서비스 오류를 포함합니다. 최종 문구뿐만 아니라 서비스가 받은 작업 및 매개 변수를 확인합니다.
  • 정의가 변경되면 테스트를 반복합니다. 플러그인 설명, 도구 정의, 지침 또는 플랫폼이 변경된 후 대표 사례를 다시 실행합니다. 동적 검색을 사용할 때 MCP 서버 업데이트를 포함합니다.

중요

누락되거나 불완전한 대화형 응답은 외부 작업이 완료되었는지 여부를 설정하지 않습니다. 데이터를 변경하는 작업을 다시 시도하기 전에 서비스의 결과를 확인하고 반복되는 요청을 안전하게 처리하도록 서비스를 설계합니다.

광범위한 디자인 권장 사항은 선언적 에이전트 모범 사례를 참조하세요. 반복 가능한 테스트 사례 및 어설션은 에이전트 평가 개요를 참조하세요.