Вопросы и ответы о запросах и возможностях генерации текста
В часто задаваемых вопросах (вопросах и ответах) описано влияние ИИ в функции запросов в AI Builder.
Что такое запросы?
Функция запросов в AI Builder предлагает пользователям универсальные возможности для разработки рабочих процессов на основе искусственного интеллекта, приложений, преобразования данных и настройки помощников. Она позволяет создавать рабочие процессы и приложения, которые обобщают содержимое документов, создают черновики ответов, классифицируют текст и переводят с текст с одного языка на другой. Эта функция работает на базе службы Azure OpenAI, которая построена на технологии генеративного предварительно обученного преобразователя (GPT). Эти модели были обучены на огромных объемах текстовых данных, что позволяет им генерировать текст, напоминающий текст, написанный человеком. Чтобы узнать больше о службе Azure OpenAI, перейдите в раздел информационной статьи о службе Azure OpenAI
Каковы предполагаемые варианты использования запросов?
Запросы в AI Builder позволяют создавать интеллектуальные приложения, рабочие процессы и расширять возможности помощников. Они используют возможности предварительно обученных моделей GPT, что устраняет необходимость в обучении пользовательских моделей. Например, целью может быть создание рабочего процесса, обобщающего входящие жалобы клиентов. Затем он создает заявку в инструменте управления инцидентами на основе категории входящей жалобы. В этом примере создатель рабочего процесса может просто дать модели указание классифицировать и обобщить входящую жалобу, чтобы создать новый инцидент.
В следующем списке представлены наиболее популярные варианты использования этой службы:
- Составление сводок электронных писем, разговоров, расшифровок, документов и т. д.
- Составление черновиков ответов на вопросы, жалобы, письма клиентов и т. д.
- Извлечение информации из контрактов, писем, счетов, заказов и т. д.
- Классификация контента по желаемым категориям (например, является ли электронное письмо заказом, жалобой или возвратом).
- Анализ тональности заданного текста, (например определение тональности отзыва о продукте).
Во всех этих случаях пользователи несут ответственность за конечный результат работы системы. Они обязаны проверять созданный контент на наличие потенциальных неточностей или неполноты перед его использованием.
Как оценивалась готовность функции подсказок? Какие метрики используются для измерения ее производительности?
Оценка этой возможности включает всестороннее тестирование по целому ряду параметров безопасности. Это гарантирует, что функция соответствует стандартам и принципам ответственного применения ИИ нашей организации. Служба также постоянно оценивается на наличие потенциальных уязвимостей. Показатели, которые мы используем, в первую очередь связаны с эффективностью фильтрации контента и степенью согласия между человеком и машиной в отношении отфильтрованного и нефильтрованного контента.
Какая модерация контента реализована для подсказок?
Модели GPT обучаются на данных из Интернета, что отлично подходит для построения общей модели мира. В то же время она может наследовать токсичный, вредный и предвзятый контент из тех же источников. Модели обучены вести себя безопасно и не допускать вредного содержания продукта, но иногда это может привести к токсичному результату. Запросы AI Builder используют службу безопасности содержимого Azure AI, чтобы реализовать самые современные возможности модерации контента в запросах ИИ. Сюда входят службы по анализу сгенерированных выходных данных с помощью сканеров текста с различной степенью серьезности и защиты от атак с внедрением в запросы. Выходные данные также сканируются на предмет регургитации защищенного материала.
Какие ограничения связаны с использованием функции запросов? Как пользователи могут свести к минимуму влияние связанных с запросами ограничений при использовании системы?
Использование этой технологии должно соответствовать требованиям, изложенным в Правилах поведения службы Azure OpenAI. Эта технология не должна использоваться для создания контента, связанного с политической пропагандой, разжиганием ненависти, дезинформацией, членовредительством, дискриминацией, материалами откровенно сексуального характера или другим контентом, запрещенным Правилами поведения К неподдерживаемым способам использования этой технологии относится предоставление консультаций, вынесение юридических, финансовых, медицинских рекомендаций или предсказания будущего, а также финансовые, научные или математические расчеты и любые другие неподдерживаемые варианты использования, упомянутые в информационной статье о службе Azure OpenAI. В настоящее время эта служба поддерживается исключительно в США и доступна только на английском языке.
Сгенерированный ИИ контент может содержать ошибки, поэтому создателям следует явным образом информировать конечных пользователей своих решений о том, что сгенерированный этой моделью контент является продуктом ИИ. Четкое указание того, что контент создан ИИ, позволит конечным пользователям не испытывать к нему излишнего доверия. Создателям также следует предусматривать возможность проверки человеком, чтобы гарантировать точность и приемлемость сгенерированного ИИ контента перед его использованием.
Какие рабочие факторы и настройки позволяют эффективно и ответственно использовать систему?
Генерируемый моделью ИИ контент носит вероятностный характер, поэтому ответы модели могут быть разными для одного и того же запроса. Сгенерированный ответ может быть неправильным или вводящим в заблуждение, и может привести к непредвиденным результатам использования потока или приложения. Например, бизнес-клиенты могут получать неправильную или некорректную информацию, рекомендации или поддержку. Создателям потоков и приложений следует реализовывать в своих решениях полноценный контроль контента человеком, а также тестировать свои запросы на предмет потенциальной возможности генерации вредоносного поведения или запрещенного контента, описанного в правилах поведения Майкрософт. Разработчикам малокодовых решений также следует явным образом информировать бизнес-пользователей об использовании ИИ в своих приложениях, указывая, что контент сгенерирован ИИ, Кроме того, генерируемые ответы могут не соответствовать ожиданиям разработчика малокодового решения из-за ограничений по длине, фильтрации содержимого или выбора модели.
Как называется модель GPT, где она размещена и как я могу получить к ней доступ?
Модель GPT-3.5 Turbo размещается в службе Azure OpenAI Service. Для доступа к ней можно использовать API REST Azure OpenAI Service, SDK-пакет Python или веб-интерфейс в Azure OpenAI Studio.
Чтобы узнать больше, перейдите в раздел Новые возможности в службе Azure OpenAI Service
Используются ли мои данные для обучения или улучшения больших языковых моделей, доступных на AI Builder?
AI Builder запросы выполняются на Azure OpenAI службе, размещенной Microsoft. Данные клиентов не используются для обучения или улучшения каких-либо базовых моделей служб Azure OpenAI . Microsoft не передает ваши клиентские данные третьим лицам, если вы не дали на это разрешение. Ни запросы клиентов (входные данные) с их базовыми данными, ни ответы модели (выходные данные) не используются для обучения или улучшения базовых моделей служб Azure OpenAI .
Является ли контент, добавленный к действию «Создать текст с помощью GPT, используя запрос», общедоступным?
На вкладке Сведения для действия указано: Это действие обеспечивает доступ к вашим запросам с использованием модели GPT, работающей в службе Azure OpenAI Service.
Запросы, которые вы добавляете в действие Создать текст с помощью GPT, используя запрос в Power Automate по умолчанию являются закрытыми. Они видны и могут использоваться только внутри вашей организации, но недоступны для всего мира. Запросы являются закрытыми и предназначены для внутреннего использования в вашей компании.
Создаваемые новые запросы по умолчанию являются частными. Это означает, что лишь создавший их человек может их видеть и использовать в Power Automate, Power Apps и Microsoft Copilot Studio. Благодаря этому у создателя есть время протестировать и оценить работу запросов в приложениях или рабочих процессах и убедиться в их точности, прежде чем открывать их для общего доступа.
Если вы хотите, чтобы другие пользователи среды или группы могли пользоваться вашим запросом в Power Apps или Power Automate, вам необходимо предоставить к нему общий доступ.
Чтобы узнать больше, см. раздел Предоставление общего доступа к запросу.
Что такое пользовательские запросы и функции ИИ?
Пользовательские запросы
Пользовательские запросы дают разработчикам свободу указывать большая языковой модели (LLM) вести себя определенным образом или выполнять определенную задачу. Тщательно разработав запрос, вы сможете генерировать ответы, отвечающие конкретным потребностям вашего бизнеса. Это превращает модель LLM в гибкий инструмент для решения различных задач.
Пример
При использовании языковой модели настраиваемая запрос может помочь модели ответить на вопрос, завершить текст, перевести языки, подвести итоги документа и определить задачи, списки дальнейших действий и элементы действий в тексте. Сложность пользовательской запроса может варьироваться от одного предложения до чего-то более сложного, в зависимости от задачи.
Функции ИИ
Готовые функции ИИ — это предварительно настроенные запросы, созданные специалистами Майкрософт и призванные помочь создателям легко выполнять стандартные задачи. Они предлагают готовые к использованию возможности искусственного интеллекта для различных вариантов использования, что упрощает процесс внедрения интеллекта в их решения.
Пример
Предварительно созданное запрос языковой модели может выглядеть так:
Извлеките в виде нумерованного списка пункты действий из: [TextToExtract]
В этом случае пользователю нужно только указать текст в [TextToExtract], из которого он хочет извлечь пункты действий. Об остальном позаботится предварительно созданная запрос.