Copilot Studio의 자율 에이전트는 AI가 사용자 프롬프트를 기다리지 않고도 행동할 수 있도록 하여 생성 오케스트레이션의 가치를 확장합니다. 이 에이전트들은 당신이 정의한 트리거, 지시, 가드레일을 사용해 사건을 인지하고 결정을 내리며 독립적으로 작업을 수행합니다. 대화에만 응답하는 대신, 데이터를 모니터링하고 상황에 대응하며 대규모 워크플로우를 운영하는 등 백그라운드에서 지속적으로 작동합니다.
기업 시나리오에서는 자율성이 에이전트가 업데이트 처리, 이벤트 분류, 후속 조치 시작 등 시간에 민감하거나 일상적인 업무를 처리하면서도 조직 정책에 부합할 수 있게 합니다. Copilot Studio는 자율성을 유지하도록 보장합니다. 모든 에이전트는 범위가 정해진 권한, 명시적 의사결정 경계, 감사 가능한 프로세스 내에서 작동합니다.
구현을 위한 모범 사례
명확한 범위와 목표를 정의하세요: 에이전트에게 명확한 작업 또는 도메인을 부여하세요. 무엇을 달성해야 하는지, 그리고 그 권한의 경계가 어디인지 명확히 명확히 하세요. 좁고 명시적인 범위는 에이전트가 의도치 않은 행동으로 '방황'하는 것을 방지합니다.
양질의 데이터와 지침을 제공하세요: 에이전트가 정확하고 관련성 높은 데이터와 규칙을 갖추도록 하세요. "쓰레기 들어오면 쓰레기 나가라"는 원칙을 기억하세요.—요원의 지능과 결정은 당신이 제공하는 정보와 훈련만큼만 가치가 있습니다. 잘 선별된 지식과 테스트 케이스는 더 나은 성과로 이어집니다.
철저히 테스트하고 점진적으로 배포하세요: 완전 배포 전에 안전하고 통제된 환경에서 에이전트를 테스트하세요. 시뮬레이션이나 샌드박스로 시작해 에이전트가 다양한 상황에서 어떻게 행동하는지 관찰하세요. 예상치 못한 행동이 있으면 고치고 단계적으로 진행하세요. 처음에는 에이전트의 결정을 면밀히 모니터링하여 의도한 대로 작동하는지 확신을 쌓으세요.
중요한 행동에 대해 인간의 감독을 도입하세요: 고위험 과제의 경우, 사람을 계속 보고하세요. 민감한 행동을 실행하기 전에 담당자에게 승인이나 확인을 요청하도록 에이전트를 설정하세요. 이 접근법은 정말 중요한 순간에 최종 통제권이 인간 전문가에게 남도록 보장합니다.
반복하고 개선하기: 자율 에이전트를 진화하는 프로젝트로 다루세요. 정기적으로 성과와 피드백을 검토하세요. 신뢰성이 입증되는 대로 지침을 업데이트하거나 점진적으로 기능을 확장하세요. 책임을 조금씩 확장하는 것이 한꺼번에 너무 많은 자율성을 부여하는 것보다 더 안전합니다.
보안 고려사항 및 가드레일
최소 권한 접근: 에이전트의 권한을 업무 수행에 반드시 필요한 범위만 제한합니다. 이 최소 권한이 원칙은 에이전트가 데이터베이스만 읽으면 된다면 쓰기 권한도 주지 않는다는 뜻입니다. 접근을 제한하면 오작동이나 오용 시 피해를 크게 줄일 수 있습니다.
입력 검증 및 진위성: 에이전트를 트리거하는 이벤트나 데이터가 진본적이고 예상 가능한 것인지 확인하세요. 예를 들어, 에이전트가 수신 이메일에 반응할 경우, 발신자 검증이나 특정 키워드 같은 검증 검사를 사용하여 공격자가 쉽게 트리거를 스푸핑하지 못하도록 하세요. 마찬가지로, 에이전트를 인증 뒤에 두세요—권한 있는 시스템이나 사용자만이 그 기능을 호출할 수 있어야 합니다.
강력한 가드레일과 실패 방지 장치: 에이전트의 행동에 엄격한 제한을 프로그래밍합니다. 이 제한에는 "지식 소스를 확인한 후에만 이메일을 보내라"와 같은 지침이 포함될 수 있습니다.
기록 감사 및 모니터링: 에이전트가 받은 트리거, 결정, 취한 조치 등 모든 행동을 상세히 기록하세요. 이 로그에 대한 정기적인 감사는 상담원이 정책을 준수하고 있는지 확인하고, 문제가 생겼을 때 분석할 수 있도록 도와줍니다. 많은 조직이 에이전트 활동을 보안 모니터링 시스템에 통합합니다. 요원이 평소 접근하지 않는 데이터와 같은 의심스러운 행동은 즉각적인 경고를 발령해야 합니다.