Создание более эффективных запросов

Завершено

Модели Azure OpenAI способны создавать ответы на запросы естественного языка с замечательной точностью. Однако качество ответов зависит в значительной степени от того, насколько хорошо написан запрос. Разработчики могут оптимизировать производительность моделей Azure OpenAI с помощью различных методов в запросах, что приводит к более точным и соответствующим ответам.

Укажите четкие инструкции

Запрос модели Azure OpenAI четко для того, что вы хотите, является одним из способов получить нужные результаты. Будучи как можно более описательным, модель может создать ответ, который наиболее тесно соответствует тому, что вы ищете.

Например, предположим, что вы хотите создать описание продукта для новой бутылки воды. Рассмотрим ответ, связанный с каждым запросом:

Prompt

Write a product description for a new water bottle

Response

Introducing the latest addition to our product line - the innovative and eco-friendly water bottle.
Made from high-quality, BPA-free materials, this bottle is designed to keep your beverages at the
perfect temperature for hours. Its sleek and stylish design makes it the perfect accessory for any
outdoor activity or workout session. With its convenient carrying handle and leak-proof lid, you 
can take it with you wherever you go, without worrying about spills or leaks. Plus, its easy-to-clean
design ensures that you can use it again and again, making it the perfect choice for anyone looking 
for a reliable and sustainable water bottle.

По сравнению с аналогичным запросом с четкими инструкциями.

Prompt

Write a product description for a new water bottle that is 100% recycled. Be sure to include that
it comes in natural colors with no dyes, and each purchase removes 10 pounds of plastic from our 
oceans

Response

Introducing our newest water bottle, the eco-friendly choice for the conscious consumer. Made from 
100% recycled materials and available in natural colors with no dyes, this bottle is not only 
stylish but also sustainable. Each purchase of this bottle removes 10 pounds of plastic from 
our oceans, making it a responsible choice for those who care about the environment. Its durable 
and leak-proof design makes it perfect for outdoor activities, while its easy-to-carry handle 
makes it convenient to take on the go. Join us in our mission to reduce plastic waste and choose 
this eco-friendly water bottle for your daily hydration needs.

Включая особенности, которые необходимо включить, позволяют модели знать, какие сведения следует добавить в описание, что делает его более точным для нового продукта.

Этот метод можно экстраполировать, чтобы включить сложные инструкции, такие как маркированный список сведений для включения, длины ответа или требуемых форматов, которые будут включены в выходные данные. Попробуйте запросить именно то, что вы хотите увидеть в результате, и вы можете быть удивлены тем, насколько хорошо модель удовлетворяет вашему запросу.

Формат инструкций

Способ форматирования инструкций может повлиять на интерпретацию запроса в модели. Предвзятость может повлиять на модели, где информация, расположенная в конце запроса, может иметь больше влияния на выходные данные, чем сведения в начале. Вы можете получить лучшие ответы, повторяя инструкции в конце запроса и оценивая, как это влияет на созданный ответ.

Эта предвзятость может также вступить в игру при использовании ChatCompletion в сценарии чата, где более последние сообщения в беседе, включенные в запрос, оказывают большее влияние на ответ. Следующий урок более подробно описывает использование бесед для улучшения качества ответа, но размещение важных сведений ближе к концу запроса может привести к лучшему ответу.

Использование маркеров разделов

Определенная методика форматирования — разделить инструкции в начале или конце запроса и содержать содержимое пользователя в --- пределах или ### блоках. Эти теги позволяют модели более четко различать инструкции и содержимое. Рассмотрим пример.

Translate the text into French

---
What's the weather going to be like today?
---

Примечание.

Рекомендации по маркерам разделов могут изменяться с помощью будущих версий.

Основное, поддерживаемое и заземляющее содержимое

Включение содержимого для модели, используемой для реагирования, позволяет ему отвечать с большей точностью. Это содержимое можно рассматривать двумя способами: основным и вспомогательным содержимым.

Основное содержимое относится к содержимому, являющееся предметом запроса, например предложение для перевода или сводки статьи. Это содержимое часто включается в начало или конец запроса (в виде инструкции и различается --- по блокам), с инструкциями, объясняющими, что делать с ним.

Например, предположим, что у нас есть длинная статья, которую мы хотим суммировать. Мы могли бы поместить его в --- блок в запросе, а затем завершить инструкцию.

---
<insert full article here, as primary content>
---

Summarize this article and identify three takeaways in a bulleted list

Вспомогательное содержимое — это содержимое, которое может изменить ответ, но не является фокусом или предметом запроса. Примеры поддерживаемого содержимого включают в себя такие вещи, как имена, предпочтения, будущие даты для включения в ответ и т. д. Предоставление вспомогательного содержимого позволяет модели реагировать более полностью, точно и, скорее всего, включать нужную информацию.

Например, учитывая очень длинную рекламную почту, модель может извлекать ключевые сведения. Если вы добавите вспомогательное содержимое в запрос, указывая определенное, что вы ищете, модель может предоставить более полезный ответ. В этом случае электронная почта является основным содержимым, с конкретными сведениями о том, что вы хотите в качестве вспомогательного содержимого.

---
<insert full email here, as primary content>
---
<the next line is the supporting content>
Topics I'm very interested in: AI, webinar dates, submission deadlines

Extract the key points from the above email, and put them in a bulleted list:

Содержимое приземления позволяет модели предоставлять надежные ответы, предоставляя содержимое модели для получения ответа. Содержимое на основе может быть эссе или статья, о которую вы затем задаете вопросы, документ часто задаваемых вопросов компании или сведения, которые более поздние, чем данные, на которые была обучена модель. Если вам нужны более надежные и текущие ответы, или вам нужно ссылаться на неопубликованные или конкретные сведения, настоятельно рекомендуется приземление содержимого.

Приземление содержимого отличается от основного содержимого, так как это источник информации для ответа на запрос запроса, а не содержимого, на который выполняется работа, для таких действий, как суммирование или перевод. Например, если предоставлен неопубликованный исследовательский документ по истории ИИ, он может ответить на вопросы с помощью этого содержимого заземления.

---
<insert unpublished paper on the history of AI here, as grounding content>
---

Where and when did the field of AI start?

Эти данные заземления позволяют модели давать более точные и информированные ответы, которые не могут быть частью набора данных, на который он был обучен.

Сигналы

Подсказки являются ведущими словами для модели, чтобы построить, и часто помогает сформировать ответ в правильном направлении. Они часто используются с инструкциями, но не всегда. Подсказки особенно полезны при появлении запроса модели для создания кода. Текущие модели Azure OpenAI могут создавать некоторые интересные фрагменты кода, однако создание кода будет подробно описано в будущем модуле.

Например, если вам нужна помощь по созданию SQL-запроса, укажите необходимые инструкции вместе с началом запроса:

Write a join query to get customer names with purchases in the past 30 days between tables named orders and customer on customer ID. 

SELECT

Ответ модели выбирает, где запрос не ушел, продолжая работу в SQL, даже если мы никогда не просили о конкретном языке. Другие примеры могут помочь в коде Python, предоставив комментарии кода о нужном приложении и включая import в качестве ведущего слова в конце запроса или аналогичного в нужном языке.

Другой пример, учитывая большую коллекцию отзывов клиентов в запросе и заканчивая следующим образом:

Summarize the reviews above:
Most common complaints:
- 

Затем модель знает, чтобы завершить инструкции на основе контекста, предоставленного в отзывах.