메모
이 문서의 기능은 표준 하니스를 기반으로 하며, 표준 하니스 기반 에이전트의 라이선스에 설명된 결제 옵션을 사용합니다. Access 표준 에이전트와 에이전트 플로우에서 표준 기능에 접근하는 방법을 배워보세요.
사용자 감독을 사용하는 경우 컴퓨터 사용 에이전트는 확인 또는 추가 정보가 필요할 때 휴먼 감독 설정에서 구성하는 사람에게 에스컬레이션됩니다.
메모
컴퓨터 사용 에이전트는 스크린샷, 웹 페이지 또는 기타 입력의 숨겨진 지침이 의도하지 않은 방식으로 작업에 영향을 미치려고 하는 프롬프트 주입 공격이 발생할 수 있습니다. 이러한 위험을 최소화하려면 지침을 실행하기 전에 신뢰할 수 있는 격리된 환경 내에서 이러한 에이전트를 작동하고 강력한 유효성 검사를 적용합니다.
모델별 기능 지원
다음 표는 인간 감독 기능을 지원하는 모델을 나열합니다.
| 모델 제공자 | 버전 | 상태 | 인간의 감독을 지원 |
|---|---|---|---|
| Azure OpenAI | 에이전트 v1을 사용하는 OpenAI 컴퓨터 | 은퇴 | 예 |
| Azure OpenAI | CUA(Computer-Using Agent) | Active | 예 |
| Anthropic | 클로드 소넷 4.5 | Active | 예 |
에이전트 및 컴퓨터 사용 활동 검토
실행 중 컴퓨터 사용 에이전트가 확인이나 추가 정보가 필요할 때, Outlook 이메일을 통해 설정된 인간 검토자에게 검토 요청을 보낼 수 있습니다. 또한 고급 컴퓨터 사용 활동 패널에 인라인 리뷰 카드를 표시할 수도 있습니다.
확률적 AI 모델 동작이 인간 검토 요청을 촉발합니다. 이 동작은 모델이 사람이 일시정지를 원하는 모든 상황에서 이러한 요청을 트리거하지 않을 수 있으며, 일시정지가 필요하지 않을 때도 이 요청을 트리거할 수 있음을 의미합니다. 사람의 검토나 명확화 요청을 최후의 안전장치로 여기거나, 시스템이 진행하기 전에 항상 사람의 입력을 요청한다는 보장으로 의존하지 마세요.
메모
- 컴퓨터 사용 도구 제작자만이 인간 검토 요청을 받고 고급 컴퓨터 사용 활동 패널을 통해 상세한 로그에 접근할 수 있습니다. 기계 설정에서 최종 사용자 자격 증명 을 선택하면, 연결을 처음 설정한 사람이 이 요청을 받지만, 지정된 인간 리뷰어 중 한 명으로도 포함되어야 합니다.
- 에이전트 활동 맵의 컴퓨터 사용 에이전트 활동 사이드 패널에서 사람 검토 요청을 인라인으로 검토하려면, 환경에서 고급 컴퓨터 사용 로깅을 켜야 합니다. 고급 컴퓨터 사용 활동 환경이 활동 맵에 표시되지 않으면 관리자가 사용자 환경에 대해 이 기능을 해제했을 수 있습니다.
다음 표에서는 인적 검토 이메일 요청에 포함되는 주요 정보를 보여줍니다.
| Field | Description |
|---|---|
| 도구를 사용하는 에이전트 | Copilot Studio 에이전트의 이름입니다. |
| 컴퓨터 사용 도구 | 요청을 트리거한 컴퓨터 사용 도구의 이름입니다. |
| 대화 | 컴퓨터 사용 도구가 현재 실행 중인 에이전트 활동에 대한 딥 링크입니다. |
| 요청 시간 초과 | 요청 타임아웃 날짜와 시간 |
| 요청자: | 컴퓨터 사용 도구의 제작자(연결 소유자)입니다. |
| 누락된 정보 제공 | 컴퓨터 사용 도구에 제출할 응답의 텍스트 상자입니다. |
| 제출 | 입력한 텍스트 응답을 제출하는 버튼. 확인 요청의 경우, 확인하려면 Yes 를 입력하거나, 거절하려면 No 를 입력하세요. |
사용자 검토 요청에 응답
사용자 검토 요청에 응답하려면 에이전트의 활동 맵에서 컴퓨터 사용 활동 패널을 사용하여 전자 메일 또는 인라인 으로 응답할 수 있습니다. 인라인 응답을 사용하려면 환경에서 고급 컴퓨터 사용 로깅이 활성화되어 있어야 합니다. 두 경우 모두 응답을 제공하지 않으면 워크플로가 일시 중지된 상태로 유지되고 전자 메일에 지정된 시간 제한에 도달하면 자동으로 중지됩니다.
Important
인간 감독 시스템은 확률적 AI 모델 동작을 기반으로 합니다. 시스템에는 시스템 프롬프트 및 기타 제약 조건이 포함되어 있지만 때때로 불필요한 설명 요청이 생성될 수 있습니다. 예상되는 상황에서 트리거되지 않을 수 있으며, 예기치 않게 제공해서는 안 되는 정보를, 특히 잠재적으로 민감한 정보를 요청할 수 있습니다.
따라서 검토자는 인간 감독 요청에 대응할 때 신중하게 판단해야 하며, 사용자 이름, 비밀번호, PIN, 신용카드 정보, 사회보장번호와 같은 민감한 정보를 제출해서는 안 됩니다. 조직의 구성에 따라 인간 검토 요청에 대한 응답은 Dataverse 환경이나 Purview 감사 로그에 지속될 수 있으며, 조직 내 권한 있는 사용자에게 보일 수 있습니다.
전자 메일을 통해 응답
사용자 검토 요청 이메일에는 에이전트, 도구 및 대화에 대한 세부 정보와 요청되는 특정 정보 또는 설명이 포함됩니다. 요청을 신중하게 검토하여 응답할 충분한 정보가 있는지 확인합니다. 해당하는 경우 지정된 텍스트 필드에 응답을 입력하고 제출을 선택합니다.
인라인으로 응답
- 사용자 검토 요청 전자 메일에서 대화 링크를 선택하여 에이전트의 활동 맵을 엽니다.
- 구성된 컴퓨터 사용 도구와 일치하는 컴퓨터 사용 작업을 찾아 측면 패널을 엽니다.
- 사이드 패널의 활동 섹션에서 활동 목록을 검토합니다. 사용자 검토를 기다리는 활동에는 모델 응답 옆에 대기 표시기가 표시됩니다.
- 요청을 신중하게 검토하고 응답하기에 충분한 정보가 있는지 확인합니다. 해당하는 경우 지정된 텍스트 필드에 응답을 입력하고 제출을 선택합니다.
인간의 감독을 끄세요
Important
인간의 감독을 끄는 것이 컴퓨터 사용자 에이전트가 완전히 자율적으로 행동하는 것은 아닙니다. 상담원은 확인이나 명확한 설명이 필요할 때 여전히 잠시 멈춥니다. 리뷰어가 설정되어 있지 않으면 이 요청들은 라우팅할 곳이 없어, 에이전트가 일시정지할 때 세션이 실패합니다. 최소한 한 명의 리뷰어를 설정하세요.
인간 감독을 끄려면 컴퓨터 사용 도구의 인간 감독 섹션으로 가서 ' 할당 요청 목록 '에서 모든 리뷰어를 제거하세요.