Часто задаваемые вопросы о подсказках

Эти часто задаваемые вопросы (FAQ) описывают влияние конструктора подсказок на ИИ.

Что такое запросы?

Функция подсказок в конструкторе подсказок предлагает пользователям универсальные возможности для создания рабочих процессов на базе ИИ, приложений, преобразования данных и кастомизации второпилотов. Она позволяет создавать рабочие процессы и приложения, которые обобщают содержимое документов, создают черновики ответов, классифицируют текст и переводят с текст с одного языка на другой. Эта функция работает на базе Службы Azure OpenAI, которая построена на технологии генеративного предварительно обученного преобразователя (GPT). Эти модели были обучены на огромных объемах текстовых данных, что позволило им генерировать текст, похожий на написанный человеком контент.

Подробнее можно узнать из информационной статьи о Службе Azure OpenAI.

Каковы предполагаемые варианты использования запросов?

Подсказки в конструкторе подсказок позволяют создавать интеллектуальные приложения, рабочие процессы и расширять копилотов. Они используют возможности предварительно обученных моделей GPT, что устраняет необходимость в обучении пользовательских моделей. Например, целью может быть создание рабочего процесса, обобщающего входящие жалобы клиентов. Затем он создает заявку в инструменте управления инцидентами на основе категории входящей жалобы. В этом примере создатели могут поручить модели классифицировать и обобщить входящую жалобу, чтобы создать новый инцидент.

В следующем списке представлены наиболее популярные варианты использования этой службы:

• Составление сводок электронных писем, разговоров, расшифровок, документов и т. д.
• Составление черновиков ответов на вопросы, жалобы, письма клиентов и т. д.
• Извлечение информации из контрактов, писем, счетов, заказов и т. д.
• Классификация контента по желаемым категориям (например, является ли электронное письмо заказом, жалобой или возвратом).
• Анализ тональности заданного текста, (например определение тональности отзыва о продукте).

Во всех этих случаях пользователи несут ответственность за конечный результат работы системы. Они обязаны проверять созданный контент на наличие потенциальных неточностей или неполноты перед его использованием.

Как оценивалась готовность функции подсказок? Какие метрики используются для измерения производительности?

Оценка этой возможности включает всестороннее тестирование по целому ряду параметров безопасности. Это тестирование гарантирует, что функция будет соответствовать стандартам и принципам ответственного применения ИИ, принятым в нашей организации. Служба также постоянно оценивается на наличие потенциальных уязвимостей. Показатели, которые мы используем, в первую очередь связаны с эффективностью фильтрации контента и степенью согласия между человеком и машиной в отношении отфильтрованного и нефильтрованного контента.

Какая модерация контента реализована для подсказок?

Крупные языковые модели обучаются на интернет-данных, что отлично подходит для построения общей модели мира. В то же время она может наследовать токсичный, вредный и предвзятый контент из тех же источников. Модели обучены вести себя безопасно и не создавать вредный контент (ненависть и справедливость, сексуальность, насилие, самоповреждения), но иногда это может порождать токсичный результат. Подсказки для конструктора подсказок используют сервис Azure AI Content Safety для внедрения передовых возможностей модерации контента в AI-подсказках. Это включает сервисы для анализа сгенерированного результата с помощью многостепенных сканеров вредного контента и защиту от атак с быстрыми инъекциями. Выходные данные также сканируются на предмет регургитации защищенного материала.

Создатели могут настроить уровень модерации контента только для вредного контента. Низкая модерация увеличивает риск попадания вредного контента в ответы на запрос. Более высокая умеренность снижает этот риск, но может уменьшить количество ответов.

Узнайте больше на уровне модерации контента.

Какие ограничения связаны с использованием функции запросов? Как пользователи могут свести к минимуму влияние связанных с запросами ограничений при использовании системы?

Использование этой технологии должно соответствовать требованиям, изложенным в Правилах поведения Службы Azure OpenAI. Эта технология не должна использоваться для создания контента, связанного с политической пропагандой, разжиганием ненависти, дезинформацией, членовредительством, дискриминацией, материалами откровенно сексуального характера или другим контентом, запрещенным Правилами поведения К неподдерживаемым способам использования этой технологии относится предоставление консультаций, вынесение юридических, финансовых, медицинских рекомендаций, предсказания будущего, а также финансовые, научные или математические расчеты и любые другие неподдерживаемые варианты использования, упомянутые в информационной статье о Службе Azure OpenAI.

Контент, созданный ИИ, может содержать ошибки, поэтому создатели должны информировать конечных пользователей своего решения, что ИИ создаёт контент с помощью этой модели прозрачно. Четкая передача сгенерированного контента помогает избежать чрезмерной зависимости. Создателям также следует предусматривать возможность проверки человеком, чтобы гарантировать точность и приемлемость сгенерированного ИИ контента перед его использованием.

Какие рабочие факторы и настройки позволяют эффективно и ответственно использовать систему?

Генерируемый моделью ИИ контент носит вероятностный характер, поэтому ответы модели могут быть разными для одного и того же запроса. Сгенерированный ответ может быть неправильным или вводящим в заблуждение, и может привести к непредвиденным результатам использования потока или приложения. Например, бизнес-клиенты могут получать неправильную или некорректную информацию, рекомендации или поддержку. Создатели должны внедрить значимый контроль со стороны человека в своих потоках и приложениях, а также тестировать свои запросы на предмет того, что они могут привести к вредоносному поведению или генерированию запрещенного контента, как указано в Правилах поведения Microsoft. Разработчики low-code также должны быть прозрачны в отношении использования ИИ в своих приложениях и потоках, чтобы информировать бизнес-пользователя, указывая, что контент генерирует ИИ. Кроме того, генерируемые ответы могут не соответствовать ожиданиям разработчика малокодового решения из-за ограничений по длине, фильтрации содержимого или выбора модели.

Как называется модель GPT, где она размещена и как я могу получить к ней доступ?

Prompt builder поддерживает модели GPT 4.1 mini, GPT 4.1 и GPT 5, которые размещены на Azure OpenAI Service. Доступ к этим моделям можно получать с помощью запросов в Power Platform, в приложениях, потоках и помощниках.

Подробнее см. в статье Новые возможности в Службе Azure OpenAI.

Используются ли мои данные для обучения или улучшения больших языковых моделей, доступных в Prompt Builder?

Prompt builder запускаются на Azure OpenAI Service, размещённом Microsoft. Данные клиентов не используются для обучения или улучшения какой-либо из базовых моделей Службы Azure OpenAI. Microsoft не передает ваши данные третьим лицам, если вы не предоставили на это разрешение. Клиентские подсказки (входные данные) с его заземляющими данными и ответами модели (выводы) не используются для обучения или улучшения базовых моделей Azure OpenAI Service.

Является ли контент, добавленный в действие "Выполнить запрос", доступным широкой публике?

На вкладке Сведения для действия сказано: Это действие обеспечивает доступ к вашим запросам с использованием модели GPT, работающей в Службе Azure OpenAI Service.

Запросы, добавляемые в действие Выполнить запрос в Power Automate, по умолчанию являются частными. Они видны и могут использоваться только внутри вашей организации, но недоступны для всего мира. Запросы являются закрытыми и предназначены для внутреннего использования в вашей компании.

Создаваемые новые запросы по умолчанию являются частными. Это означает, что видеть и использовать их в Power Automate, Power Apps и Microsoft Copilot Studio может только человек, который их создал. Благодаря этому у создателя есть время протестировать и оценить работу запросов в приложениях или рабочих процессах и убедиться в их точности, прежде чем открывать их для общего доступа.

Если вы хотите, чтобы другие пользователи среды или групп могли использовать ваш запрос в Power Apps или Power Automate, вы должны им поделиться.

Чтобы узнать больше, см. раздел Предоставление общего доступа к запросу.

Как обрабатываются изображения людей в подсказках для конструктора подсказок?

Конструктор подсказок не предназначен для идентификации людей по чертам лица или биометрическим данным. Когда вы отправляете изображения с людьми в конструктор подсказок, система автоматически применяет функцию размытия лица перед анализом изображений для защиты личной приватности. Этот шаг размывания помогает решить проблемы конфиденциальности, предотвращая идентификацию по признакам лица. При размытии распознавание лиц или сопоставление шаблонов лиц не требуется. Вместо этого любая идентификация известных людей опирается на контекстуальные сигналы, такие как униформа или уникальная обстановка, а не на их лица. Эта мера конфиденциальности не должна влиять на качество получаемых результатов. Размытие лица может иногда упоминаться в ответах системы.

Дополнительные сведения см. в разделе Размытие лиц.

Потенциальный вред при использовании изображений или документов в запросах

Конструктор подсказок снижает большинство рисков, связанных с использованием изображений или документов в подсказках, но некоторые риски всё равно требуют дополнительной осторожности от создателя подсказок:

• Изображения или документы могут содержать опасный текст или визуальные элементы, которые могут повлиять на последующие процессы.
• Изображения или документы могут содержать специальные и, возможно, скрытые инструкции, которые могут скомпрометировать или переопределить первоначальный запрос.
• Изображения или документы могут содержать инструкции, которые могут привести к созданию контента, защищенного правами интеллектуальной собственности (ИС).
• Запросы могут приводить к появлению предвзятых комментариев к изображениям или документам.
• Извлечение информации из низкокачественных изображений или документов может привести к неправильной информации, также известной как галлюцинации.

Чем модель o3 отличается от моделей GPT?

Модель o3 отличается от моделей GPT в первую очередь своими расширенными возможностями рассуждения. Он генерирует подробные внутренние цепочки размышления перед ответом, что приводит к повышению производительности в математических задачах, задачах программирования и аналитических задачах. Однако такой подход приводит к повышенным вычислительным требованиям и более низкой скорости отклика по сравнению с моделями GPT. Модель GPT-4o или GPT-4.1, например, отлично справляется с общими языковыми задачами и предлагает более быстрые и экономичные ответы, что делает ее подходящей для задач, где важны быстрые результаты.

Что такое подсказки и функции ИИ?

Подсказки

Подсказки дают создателям свободу инструктировать большую языковую модель (LLM) вести себя определённым образом или выполнять конкретную задачу. Тщательно создавая запрос, вы можете генерировать ответы, которые соответствуют конкретным бизнес-потребностям. Это превращает модель LLM в гибкий инструмент для решения различных задач.

Например, в языковой модели подсказка может направлять модель к ответу на вопрос, завершению текста, переводу языков, резюмированию документа и определению задач, задач и действий в тексте. Сложность пользовательской запроса может варьироваться от одного предложения до чего-то более сложного, в зависимости от задачи.

Функции ИИ

Готовые функции ИИ — это предварительно настроенные запросы, созданные специалистами Майкрософт и призванные помочь создателям легко выполнять стандартные задачи. Они предлагают готовые к использованию возможности искусственного интеллекта для различных вариантов использования, что упрощает процесс внедрения интеллекта в их решения.

Например, готовый запрос языковой модели может выглядеть так:

Извлеките в виде нумерованного списка пункты действий из: [TextToExtract]

В этом случае пользователю нужно только указать текст в [TextToExtract], из которого он хочет извлечь пункты действий. Об остальном позаботится предварительно созданная запрос.