Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Note
В этой статье описываются особенности, используемые в агентах или потоках агентов, питаемых стандартным жгутом.
При использовании контроля со стороны человека агент, работающий с компьютером, передает запрос тому человеку, которого вы указали в настройках контроля со стороны человека, когда ему требуется подтверждение или дополнительная информация.
Note
Агенты, использующие компьютер, могут подвергаться атакам с внедрением запросов, при которых скрытые инструкции на снимках экрана, веб-страницах или в других входных данных пытаются повлиять на действия агента непредусмотренным образом. Чтобы минимизировать эти риски, запускайте таких агентов в доверенных изолированных средах и применяйте надежные проверки перед выполнением любых инструкций.
Поддержка функций по моделям
В следующей таблице указано, какие модели поддерживают функцию контроля со стороны человека.
| Поставщик моделей | Версия | Статус | Поддерживает функцию контроля со стороны человека |
|---|---|---|---|
| Azure OpenAI | Агент по использованию компьютера от OpenAI V1 | На пенсии | Да |
| Azure OpenAI | Агент, использующий компьютер (CUA) | Активный | Да |
| Anthropic | Клод Соннет 4.5 | Активный | Да |
Проверка агента и действий инструмента «использование компьютера»
Во время выполнения, когда агенту «использование компьютера» требуется подтверждение или дополнительная информация, он может отправить запрос на проверку настроенному человеку-рецензенту через электронную почту Outlook. Он также может отображать встроенную карточку проверки на расширенной панели действий использования компьютера.
Поведение вероятностной модели ИИ запускает запросы на проверку человеком. Такое поведение означает, что модель может не запускать такие запросы в каждой ситуации, когда человек захотел бы сделать паузу, а также может запускать такие запросы, когда пауза не нужна. Не полагайтесь на запросы на проверку или разъяснения человеком как на меру защиты от сбоев или на гарантию того, что система всегда будет запрашивать ввод человека перед продолжением.
Note
- Только создатель инструмента «использование компьютера» получает запросы на проверку человеком и имеет доступ к подробным журналам через панель расширенных действий инструмента «использование компьютера». Если вы выбрали учетные данные конечного пользователя в настройках компьютера, эти запросы получает лицо, которое изначально настраивало подключение, но только в том случае, если этот человек также включен в список назначенных рецензентов-людей.
- Чтобы просматривать запросы на проверку человеком непосредственно в боковой панели действий агента на карте действий агента, необходимо включить функцию расширенного ведения журнала инструмента «использование компьютера» в вашей среде. Если функция расширенных действий инструмента «использование компьютера» не отображается на карте действий, ваш администратор мог отключить ее для вашей среды.
В следующей таблице показана основная информация, содержащаяся в запросе на проверку человеком по электронной почте:
| Поле | Описание |
|---|---|
| Агент, использующий инструмент | Имя агента Copilot Studio. |
| Инструмент «использование компьютера» | Название инструмента «использование компьютера», который инициировал запрос. |
| Разговор | Прямая ссылка на активность агента, в рамках которой в данный момент выполняется инструмент «использование компьютера». |
| Время ожидания запроса | Дата и время истечения срока действия запроса |
| Кем запрошено | Создатель (владелец соединения) инструмента «использование компьютера». |
| Ввести недостающую информацию | Текстовое поле для ввода ответа, который будет отправлен в инструмент «использование компьютера». |
| Отправить | Кнопка отправки введенного текстового ответа. Для запроса подтверждения, введите Да для подтверждения или Нет для отказа. |
Отвечайте на запросы на проверку человеком
Чтобы ответить на запросы на проверку человеком, вы можете воспользоваться электронной почтой или ответить напрямую, используя панель действий инструмента «использование компьютера» на карте действий агента. Для ответов напрямую необходимо, чтобы в среде была включена панель расширенного ведения журнала инструмента «использование компьютера». В обоих случаях, если вы не предоставите ответ, рабочий процесс останется в режиме паузы и автоматически завершится по истечении времени ожидания, указанного в электронном письме.
Important
Система контроля со стороны человека основана на вероятностном поведении модели ИИ. Хотя система включает системный запрос и, возможно, другие ограничения, она может время от времени создавать запросы на уточнение, которые не являются необходимыми. Она может не сработать в ситуации, когда запрос ожидается, или же может запросить информацию, которую не следует предоставлять в данном контексте, включая потенциально конфиденциальные данные.
В результате проверяющие должны проявлять осмотрительность при ответах на запросы о контроле и не должны предоставлять конфиденциальную информацию, такую как имена пользователей, пароли, PIN-коды, данные кредитных карт или номера социального страхования. В зависимости от конфигурации вашей организации, ответы на запросы на контроль со стороны человека могут сохраняться в вашей среде Dataverse и/или журналах аудита Purview, а также могут быть видны авторизованным пользователям внутри вашей организации.
Ответ по электронной почте
Электронное письмо с запросом на проверку содержит сведения об агенте, инструменте и разговоре, а также конкретную информацию или уточнения, которые запрашиваются. Внимательно изучите запрос, чтобы определить, достаточно ли у вас информации для ответа. Если уместно, введите ответ в указанное текстовое поле и выберите Отправить.
Ответ напрямую
- Выберите ссылку Разговор в электронном письме с запросом на проверку человеком, чтобы открыть карту действий агента.
- Найдите действие «использование компьютера», соответствующее настроенному инструменту, и откройте его боковую панель.
- В разделе Действие боковой панели просмотрите список действий. Действия, ожидающие проверки человеком, помечаются индикатором ожидания рядом с ответом модели.
- Внимательно изучите запрос и определите, достаточно ли у вас информации для ответа. Если уместно, введите ответ в указанное текстовое поле и выберите Отправить.
Отключение надзора со стороны человека
Important
Отключение человеческого надзора не делает агент «использование компьютера», полностью автономным. Агент все равно делает паузу, когда требуется подтверждение или разъяснение. Если рецензенты не настроены, место назначения для маршрутизации этих запросов отсутствует, поэтому сеанс завершается ошибкой, когда агент делает паузу. Настройте хотя бы одного рецензента.
Чтобы отключить функцию контроля со стороны человека, перейдите в раздел «Контроль со стороны человека» в инструменте «использование компьютера» и удалите всех проверяющих из списка Назначить запросы для.
Связанная информация
Часто задаваемые вопросы об инструменте «использование компьютера»