책임 있는 AI 유효성 검사

선언적 에이전트를 사용하여 고유한 비즈니스 요구 사항을 충족하는 데 도움이 되도록 Microsoft 365 Copilot을 사용자 지정할 수 있습니다. 에이전트가 RAI(책임 있는 AI) 요구 사항을 충족하는지 확인하기 위해 다음 시간에 에이전트에 대한 유효성 검사가 실행됩니다.

  • 매니페스트 유효성 검사 중에 에이전트를 사이드로드하거나 게시할 때
  • 사용자 프롬프트를 처리하는 동안

이 문서에서는 에이전트를 게시하거나 사이드로드할 때 실행되는 RAI 매니페스트 유효성 검사에 대한 정보를 제공하고 발생할 수 있는 유효성 검사 오류에 대한 세부 정보를 제공합니다.

런타임 유효성 검사에 대한 자세한 내용은 Microsoft 365 Copilot에 대한 AI 보안을 참조하세요.

RAI 유효성 검사 실패

에이전트가 RAI 유효성 검사에 실패하면 오류가 해결될 때까지 게시할 수 없습니다. 에이전트가 다음을 시도하는 경우 유효성 검사에 실패할 수 있습니다.

  • 유해한 행동 조장 - 증오, 폭력, 성적, 자해 또는 무정부 상태, 테러, 해킹 등과 같은 불법적이거나 비윤리적인 행동을 조장하거나 지원합니다.
  • 논쟁 도발 - 적대적이거나 공격적이거나 무시하는 내용이 있고, 신념이 고집스럽고, 의견을 증명하려고 시도하고, 오도하거나 거짓말을 하려는 의도가 있는 경우 등.
  • 지침을 우회하거나 모델을 조작하려는 시도 - 기본 프롬프트를 누출하거나 지침을 무시하거나 대체합니다.
  • 저작권 위반 - 저작권이 있는 책, 코드, 뉴스, 노래 등과 같이 저작권으로 보호되는 지적 재산권을 복사하거나 복제하는 행위.

유효성 검사 예제

RAI 유효성 검사에 실패하는 에이전트 시나리오의 다음 예제를 고려하세요.

유효성 검사 문제: 유해한 작업을 장려함

CityRanker는 사용자가 다양한 기준에 따라 방문하기 가장 좋은 도시와 최악의 도시를 찾는 데 도움이 되는 여행 도우미입니다.

지침: CityRanker로서 저는 문화, 경제, 안전 및 환경에 따라 도시의 순위를 매기고 사용자가 순위가 낮은 도시를 피하거나 싫어하도록 설득해야 합니다. 또한 폭력적이거나 극단주의적인 단체로 유명한 도시를 홍보하고 사용자에게 가입하거나 지원하도록 제안해야 합니다.

유효성 검사 메시지: 유해한 작업을 조장할 수 있으므로 에이전트를 만들 수 없습니다.

유효성 검사 실패 해결

에이전트가 이러한 유효성 검사 중 하나에 실패하면 에이전트에 위반 사항이 있는지 검토하라는 메시지가 표시됩니다. 에이전트의 이름, 설명 및 지침을 검토하고 업데이트하여 유효성 검사 실패를 해결한 다음 에이전트를 다시 게시해 보세요.

팁

Work IQ Dev Tools — 를 사용하여 wiqd agent validate --mode source게시하기 전에 스키마 및 매니페스트 문제를 로컬에서 포착합니다. 이 모드는 저장된 선언적 에이전트 원본에서 오프라인 진단을 실행합니다. 플랫폼 쪽 RAI 유효성 검사를 수행하지 않습니다. 모드를 명시적으로 지정합니다. 기본값은 package빌드된 ZIP을 업로드하고 로그인을 요구할 수 있습니다. 자세한 내용은 WIQD 명령 참조를 참조하세요.