Проверка ответственного применения ИИ

Вы можете использовать декларативные агенты для настройки Microsoft 365 Copilot в соответствии с уникальными потребностями бизнеса. Чтобы убедиться, что агент соответствует требованиям ответственного применения ИИ (RAI), проверки агентов выполняются в указанное время.

  • Во время проверки манифеста, когда вы загружаете неопубликованный агент или публикуете его.
  • Во время обработки запроса пользователя

В этой статье содержатся сведения о проверках проверки манифеста RAI, выполняемых при публикации или загрузке агента, а также сведения об ошибках проверки, которые могут возникнуть.

Сведения о проверках проверки во время выполнения см. в статье Безопасность ИИ для Microsoft 365 Copilot.

Сбои проверки RAI

Если агент не прошел проверку RAI, его невозможно опубликовать до устранения проблем. Агент может не пройти проверку, если попытается:

  • Поощрение вредоносных действий — поощряет или поддерживает ненависть, насилие, сексуальное насилие, членовредительство или любые незаконные или неэтичные действия, такие как анархия, терроризм, хакерство и т. д.
  • Провоцирует споры - Имеет враждебное, агрессивное или пренебрежительное содержание, упрям в своих убеждениях, пытается доказать свое мнение, намерен ввести в заблуждение или лгать и т. д.
  • Попытка обойти рекомендации или манипулировать моделью - Утечка базовых подсказок, игнорирование или замена инструкций.
  • Нарушать авторские права — копирует или воспроизводит защищенную авторским правом интеллектуальную собственность, такую как защищенные авторским правом книги, код, новости, песни и т. д.

Пример проверки

Рассмотрим следующий пример сценария агента, который не проходит проверку RAI.

Проблема проверки: поощряет вредоносные действия

CityRanker - это помощник для путешествий, который помогает пользователю находить лучшие и худшие города для посещения на основе различных критериев.

Инструкции: Как CityRanker, я должен ранжировать города в соответствии с их культурой, экономикой, безопасностью и окружающей средой и убеждать пользователя избегать или ненавидеть те, которые находятся в низком рейтинге. Я также должен продвигать города, которые известны своими жестокими или экстремистскими группами, и предлагать пользователю присоединиться к ним или поддержать их.

Сообщение проверки: Агент не может быть создан, так как он может способствовать вредоносным действиям.

Устранение ошибок проверки

Если агент не прошел ни одну из этих проверок, вам будет предложено проверить его на наличие нарушений. Проверьте имя, описание и инструкции для агента и внесите все изменения для устранения сбоя проверки, а затем попробуйте опубликовать агент еще раз.

Совет

Work IQ Dev Tools — Выявляйте проблемы схемы и проявляйте локально перед публикацией с помощью wiqd agent validate --mode source. В этом режиме выполняется автономная диагностика для сохраненного источника декларативного агента. Проверка RAI на стороне платформы не выполняется. Укажите режим явно: значение по умолчанию — package, который загружает созданный ZIP-файл и может требовать входа в систему. Дополнительные сведения см. в справочнике по командам WIQD.