Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
В часто задаваемых вопросах (вопросах и ответах) описано влияние функций генеративных ответов в Copilot Studio на сферу ИИ.
Что такое генеративные ответы?
Генеративные ответы делают вашего агента полезным без какой-либо настройки и увеличивают количество тем, по которым агент общается, не требуя ручного создания дерева диалогов.
Каковы возможности генеративных ответов?
Когда пользователь задаёт агенту вопрос, который не активирует настроенную тему, агент может по выбору выполнить поиск релевантного содержимого из выбранного вами источника. Этот поиск включает публичные сайты, SharePoint или ваши собственные пользовательские источники данных, включая нетекстовые элементы в загруженных файлах, такие как изображения, табличные данные и диаграммы. Агент использует генеративный ИИ для обобщения этой информации и формирования ответа, который возвращается пользователю агента.
Для чего предназначены генеративные ответы?
Агенты могут использовать генеративные ответы в качестве основного или резервного источника информации, если созданные темы не могут ответить на запрос пользователя.
Как оценивались генеративные ответы и какие метрики используются для измерения производительности?
Эта возможность постоянно оценивается на основе набора вручную созданных наборов данных вопросов и ответов, охватывающих различные отрасли. Процесс оценки также включает специальные наборы данных для оскорбительных и вредоносных запросов и ответов. Для расширения набора тестов используются как автоматизированные, так и специализированные ручные сеансы.
Какие ограничения генеративных ответов?
Необходимо включить для каждого агента параметр генеративных ответов.
См. раздел Поддержка языков, где приведен список поддерживаемых языков этой функцией и их соответствующих стадий. Возможно, вы сможете использовать другие языки, но сгенерированные ответы могут быть непоследовательными, и агент может ответить не так, как вы ожидаете.
На эту возможность могут распространяться ограничения на использование или регулирование емкости.
Ответы, генерируемые с использованием генеративных ответов, не всегда идеальны и могут содержать ошибки.
Система разработана так, чтобы находить релевантные знания на выбранном вами веб-сайте и компоновать из них легко воспринимаемый ответ. Однако важно помнить о некоторых характеристиках ИИ, которые могут привести к неожиданным ответам:
Ответы от языковых моделей не являются детерминированными. Повторение семантически (почти) одинаковых вопросов может привести к различающимся ответам, даже в новых чатах. Процесс ответа на вопросы включает предыдущий контекст чата, так что повторение запроса в сеансе чата почти гарантирует разные ответы. Это поведение означает, что повторение фиксированных запросов при регрессионном тестировании или автоматизированных проверках работоспособности, скорее всего, приведёт к различающимся ответам и ложноположительным результатам.
Copilot Studio позволяет выбрать разные модели в качестве основной модели для генеративных ответов. Обратите внимание на дату отсечки данных, включённых в выбранную вами модель.
Существуют меры, позволяющие модели не использовать свой обучающий корпус в качестве источника ответов, однако ответы могут включать контент с веб-сайтов, отличных от выбранного вами.Система не выполняет проверку точности, поэтому если выбранный источник данных содержит неточную информацию, она может быть показана пользователям вашего агента. Мы внедрили меры для фильтрации неуместных и оскорбительных ответов, и функция настроена так, чтобы не реагировать на оскорбительную лексику. Эти фильтры и меры не являются стопроцентно надежными.
Примечание.
Вам следует всегда тестировать и проверять ваших агентов перед их публикацией, а также рассмотреть возможность сбора отзывов от пользователей ваших агентов. Ваш администратор может отключить возможность публикации агентов с генеративными ответами для вашего клиента в Центре администрирования Power Platform.
Какие данные собирает эта возможность? Как эти данные используются?
Если клиент явно соглашается на ведение лога его беседы с вашим агентом, данная возможность позволяет собирать пользовательские запросы, ответы, возвращаемые системой, и любые предоставленные вами отзывы.
Мы используем эти данные для оценки и улучшения качества работы этой функции.
Какие рабочие факторы и настройки позволяют эффективно и ответственно использовать генеративные ответы?
Генеративные ответы работают лучше всего, когда вы назначаете надежный и валидный источник, из которого будет запрашиваться контент. Таким источником может быть, например, веб-сайт вашей компании www.microsoft.com. Все веб-страницы, принадлежащие этому домену, проверяются на предмет соответствия вопросу пользователя.
Мы используем ваши отзывы об удовлетворенности сгенерированными ответами для улучшения качества системы. Вы можете предоставить отзыв, выбирая значки «палец вверх» или «палец вниз» для сгенерированных ответов. Вы также можете включить дополнительные отзывы в форме произвольного текста.
Какие механизмы защиты реализованы в Copilot Studio для ответственного использования ИИ?
Генеративные ответы включают в себя различные средства защиты, обеспечивающие администраторам, создателям и пользователям безопасную работу в соответствии с нормативными требованиями. Администраторы имеют полный контроль над функциями в своем клиенте и всегда могут отключить возможность публикации агентов с генеративными ответами в вашей организации. Создатели могут добавлять пользовательские инструкции, чтобы влиять на типы ответов, которые возвращают их агенты. Дополнительные сведения о рекомендациях по написанию пользовательских инструкций см. в разделе Использование модификации запроса для предоставления пользовательских инструкций агенту.
Создатели также могут ограничить источники знаний, которые агенты могут использовать для ответов на вопросы. Чтобы агенты могли отвечать на вопросы, выходящие за рамки настроенных источников знаний, разработчики могут включить функцию Разрешить ответы без опоры на источники знаний. Чтобы агенты отвечали только на вопросы в рамках настроенных источников знаний, разработчикам следует отключить эту функцию.
Copilot Studio также применяет политики модерации контента ко всем запросам к генеративному ИИ для защиты администраторов, разработчиков и пользователей от оскорбительного или вредного контента. Эти политики модерации контента также распространяются на злонамеренные попытки джейлбрейка, внедрения запросов, несанкционированных запросов и нарушения авторских прав. Все содержимое проверяется дважды: сначала при вводе данных пользователем, а затем перед тем как агент ответит. Если система обнаружит вредоносный, оскорбительный или вредоносный контент, она предотвращает ответ вашего агента.
Наконец, рекомендуется сообщать пользователям, что агент использует искусственный интеллект, поэтому следующее сообщение по умолчанию информирует пользователей: «Для вашего сведения, я иногда использую ИИ, чтобы ответить на ваши вопросы».