선언적 에이전트 작동 방식

  • 5분

이제 선언적 에이전트의 기본 사항을 알고 있으므로 백그라운드에서 작동하는 방식을 살펴보겠습니다. 선언적 에이전트의 모든 부분에 대해 알아보고 에이전트를 만들기 위해 에이전트가 어떻게 적합한지 알아봅니다. 이 지식은 선언적 에이전트가 적합한지 여부를 결정하는 데 도움이 됩니다.

사용자 지정 지식

선언적 에이전트는 사용자 지정 지식을 사용하여 특정 시나리오 또는 작업으로 범위가 지정된 Microsoft 365 Copilot 추가 데이터 및 컨텍스트를 제공합니다.

사용자 지정 지식은 다음 두 부분으로 구성됩니다.

  • 사용자 지정 지침: 에이전트가 동작하는 방식과 응답의 모양을 지정하는 방법을 정의합니다.
  • 사용자 지정 접지: 에이전트가 응답에 사용할 수 있는 데이터 원본을 정의합니다.

사용자 지정 지침이란?

지침은 응답을 형성하기 위해 기본 모델에 전달되는 특정 지시문 또는 지침입니다. 이러한 지침에는 다음이 포함될 수 있습니다.

  • 작업 정의: 질문 답변, 텍스트 요약 또는 창의적인 콘텐츠 생성과 같이 모델이 수행해야 하는 작업을 간략하게 설명합니다.
  • 행동 지침: 응답에 대한 톤, 스타일 및 세부 정보 수준을 설정하여 사용자의 기대에 부합하도록 합니다.
  • 콘텐츠 제한: 중요한 주체 또는 저작권이 있는 자료와 같이 모델이 피해야 하는 것을 지정합니다.
  • 서식 규칙: 글머리 기호 또는 특정 서식 스타일을 사용하는 것과 같이 출력을 구성하는 방법을 보여 줌

예를 들어 IT 지원 시나리오에서는 에이전트에 다음 지침이 제공됩니다.

Contoso Electronics 직원의 일반적인 IT 지원 쿼리에 응답하고 지원 티켓을 관리하도록 설계된 지능형 도우미 IT 지원입니다. IT 기술 지원 센터 SharePoint Online 사이트의 티켓 작업 및 문서를 정보 원본으로 사용할 수 있습니다. 필요한 정보를 찾을 수 없는 경우 IT 기술 지원 센터 사이트의 문서의 우선 순위를 교육 지식보다 우선 순위를 지정하고 응답이 Contoso Electronics와 관련이 없는지 확인합니다. 항상 답변에 인용된 소스를 포함합니다. 응답은 간결하고 비기술적 대상 그룹에 적합해야 합니다.

사용자 지정 접지란?

접지는 LLM(대규모 언어 모델)을 실제 정보에 연결하여 보다 정확하고 관련성 있는 응답을 가능하게 하는 프로세스입니다. 접지 데이터는 응답을 생성할 때 LLM에 컨텍스트 및 지원을 제공하는 데 사용됩니다. 이는 LLM이 학습 데이터에만 의존할 필요성을 줄이고 응답 품질을 향상시킵니다.

기본적으로 선언적 에이전트는 데이터 원본에 연결되지 않습니다. 하나 이상의 Microsoft 365 데이터 원본을 사용하여 선언적 에이전트를 구성합니다.

  • OneDrive에 저장된 문서
  • SharePoint Online에 저장된 문서
  • Copilot 커넥터를 통해 Microsoft 365로 수집된 콘텐츠

또한 Bing.com 웹 검색 결과를 사용하도록 선언적 에이전트를 구성할 수 있습니다.

예를 들어 IT 지원 시나리오에서 SharePoint Online 문서 라이브러리는 접지 데이터의 원본으로 사용됩니다.

Copilot가 답변에 접지 데이터를 사용하는 경우 데이터의 원본이 참조되고 응답에서 인용됩니다.

SharePoint Online의 문서에 대한 인용이 있는 Microsoft 365 Copilot 응답을 보여 주는 Microsoft Edge의 스크린샷

사용자 지정 작업

사용자 지정 작업을 사용하면 선언적 에이전트가 외부 시스템과 실시간으로 상호 작용할 수 있습니다. 세관 작업을 만들고 선언적 에이전트와 통합하여 API를 사용하여 외부 시스템에서 데이터를 읽고 업데이트합니다.

예를 들어 IT 지원 시나리오에서 사용자 지정 작업은 API를 통해 지원 티켓 시스템에서 데이터를 읽고 쓰는 데 사용됩니다.

외부 시스템에서 검색된 데이터를 사용하여 Microsoft 365 Copilot 응답을 보여 주는 Microsoft Edge의 스크린샷

선언적 에이전트는 사용자 지정 지식 및 사용자 지정 작업을 사용하여 질문에 대답하는 방법

IT 지원 문제를 해결하기 위해 선언적 에이전트에서 사용자 지정 지식과 사용자 지정 작업을 함께 사용하는 방법을 살펴보겠습니다.

다음 구성을 사용하여 선언적 에이전트를 빌드합니다.

  • 사용자 지정 지침: 비기술적 사용자에게 적합하도록 지침을 사용하여 응답을 형성합니다.
  • 사용자 지정 접지 데이터: 접지 데이터를 사용하여 응답의 관련성과 정확도를 개선합니다. 예를 들어 SharePoint Online 사이트의 기술 자료 문서에 저장된 정보를 사용합니다.
  • 사용자 지정 작업: 작업을 사용하여 외부 시스템에서 실시간으로 데이터에 액세스합니다. 예를 들어 작업을 사용하여 API를 통해 지원 티켓 시스템의 데이터와 상호 작용하여 자연어를 사용하여 지원 티켓을 관리합니다.

다음 단계에서는 Microsoft 365 Copilot 사용자 프롬프트를 처리하고 응답을 생성하는 방법을 설명합니다.

  1. 입력: 사용자가 프롬프트를 제출합니다.
  2. 예비 검사: Copilot는 책임 있는 AI 검사 및 보안 조치를 수행하여 사용자 프롬프트가 위험을 초래하지 않도록 합니다.
  3. 추론: Copilot는 사용자 프롬프트에 응답하는 계획을 만듭니다.
    1. 접지 데이터: Copilot는 접지 데이터에서 관련 정보를 검색합니다.
    2. 작업: Copilot는 관련 작업에서 데이터를 검색합니다.
    3. 지침: Copilot는 선언적 에이전트 지침을 검색합니다.
  4. 응답: Copilot 오케스트레이터는 추론 프로세스 중에 수집된 모든 데이터를 컴파일하고 LLM에 전달하여 최종 응답을 만듭니다.
  5. 출력: Copilot는 사용자 인터페이스에 응답을 전달하고 대화를 업데이트합니다.