Понять подсказки для улучшения качества завершений

Завершено

Создание запроса может быть сложной задачей. На практике запрос служит для настройки весов модели, чтобы завершить желаемую задачу. Тем не менее, это скорее искусство, чем наука, часто требующее опыта и интуиции, чтобы сформулировать успешный запрос.

При отправке хорошо созданных вводов в модель, модель возвращает лучшие результаты.

В нашем боте рекомендаций по походам отличная системная подсказка помогает модели подготовиться к рекомендациям подходящих маршрутов. Хорошие запросы пользователей помогают более точно уточнять рекомендации, которые возвращает модель.

В этом уроке мы говорим об общих понятиях и шаблонах, которые можно использовать для создания запросов, и рассмотрим некоторые методы, которые можно использовать для улучшения качества результатов.

Основные сведения

Текстовые запросы — это взаимодействие пользователей с моделями GPT. Модели генерированного языка пытаются создать следующую серию слов, которые, скорее всего, будут следовать из предыдущего текста. Это как будто мы говорим , что первое приходит вам на ум, когда я <говорю подсказку>?

При разработке сложных запросов полезно помнить об этом фундаментальном поведении. Независимо от запроса, модель просто отвечает тем, что она считает наиболее вероятным в продолжение запроса.

Компоненты подсказки

При использовании API завершения нет различий между различными частями запроса. Тем не менее, по-прежнему полезно разобрать запрос на его компоненты, так как цель заключается в том, чтобы подумать о формировании запроса.

Инструкции

Инструкции, скорее всего, наиболее часто используемый компонент подсказки. Они являются частью запроса, который сообщает модели, что делать, и могут варьироваться от простых до сложных. Например, Рекомендация походов к вы — энтузиаст походов, который помогает людям находить интересные маршруты в их районе. Вы оптимистичный и доброжелательный. Вы представляете себя, когда впервые здороваетесь. Помогая людям, вы всегда спрашиваете их, где они находятся, и желаемую интенсивность похода, чтобы дать рекомендацию.

Основное содержимое

Основное содержимое относится к обработке модели или преобразованию какого-либо текста. Обычно он используется в сочетании с инструкциями. Например, вы затем предоставите три предложения для близлежащих походов различной длины после получения этой информации.

Основное содержимое может быть гораздо длиннее, например, запрос на суммирование статьи из Википедии с помощью модели.

Примеры

Успешные запросы часто полагаются на практику обучения с использованием одного или нескольких примеров. Это относится к включению одного или нескольких примеров требуемого поведения модели, обычно включая пары входных и выходных данных. Это не обучение в том смысле, что модель постоянно меняется, а примеры лучше настраивают модель, чтобы она реагировала так, как нужно, только для текущего вывода.

Использование запросов без примеров иногда называется "обучением без примеров".

Hike request: I live near Seattle and would like an easy hike.
Recommendation: That's great to hear, the Seattle area has some of the best hikes in the nation! You should try Little Si, you'll love it.

Hike request: I want to go on a hike in the North Cascades that will blow my mind.
Recommendation: You won't find a bad hike in the North Cascades. However, I hear the Sahale Arm stops people in their tracks with its beauty.

Hike request: I'd like to find a strenuous hike that's just like the Enchantments, but without as many people.
Recommendation:

Сигнал

Подсказки выступают как "стартовый импульс" для результата модели, помогая направлять модель к желаемому результату. Часто это префикс, на основе которого можно строить модель. Подсказка может направлять завершение для включения ключевых элементов. Они часто используются вместе с инструкциями.

В следующем примере показан единый сигнал для суммирования множества обзоров троп.

Подсказка Завершение
Отзывы о маршруте являются важным соображением о том, идут ли туристы на поход, поскольку они содержат сведения о текущем состоянии маршрута.
[...]
Обобщите приведенный выше обзор троп.
Ключевые выводы из обзоров испытаний следующие:
что тропа на Пик Mailbox сейчас грязная, и комары сильно кусаются, как только вы подниметесь над линией деревьев. Есть также много людей на тропе, начиная с середины утра.

Вспомогательное содержимое

Вспомогательное содержимое — это информация, которую модель может использовать для влияния на выходные данные каким-то образом. Он отличается от основного содержимого в том, что он не является основным целевым объектом или задачей, но обычно используется вместе с основным содержимым. Распространенные примеры включают контекстную информацию, например текущую дату, имя пользователя, предпочтения пользователя и т. д.

Лучшие практики

  • Будьте конкретными: оставьте как можно меньше интерпретации. Ограничивайте рабочее пространство.
  • Будьте описательными: используйте аналогии.
  • Удвоить усилия: иногда может потребоваться повторить свои слова модели. Добавляйте инструкции до и после основного содержания, используйте инструкцию и подсказку и т. д.
  • Вопросы порядка. Порядок, в котором представлены сведения модели, может повлиять на выходные данные. Расположение инструкций перед содержимым ("суммировать приведенные ниже...") или после ("суммировать приведенные выше...") может повлиять на результат. Значение может иметь даже порядок, в котором приведены несколько примеров. Этот метод называется ошибкой актуальности.
  • Подготовка выходных данных: включите несколько слов или фраз в конце запроса, чтобы получить ответ модели, следуя требуемой форме.
  • Присвойте модели значение out: иногда может быть полезно предоставить модели альтернативный путь, если он не может завершить назначенную задачу. Например, при задании вопроса по фрагменту текста можно использовать что-то вроде "дать ответ 'не найдено', если ответ отсутствует". Эта техника помогает модели избежать создания ложных ответов.
  • Цепочка размышлений: модель следует шаг за шагом и представляет все задействованные шаги. Это снижает вероятность неточностей результатов и упрощает оценку ответа модели.